种斌Marco 25-10-06 06:30
微博认证:科技博主 头条文章作者 超话主持人(种斌Marco影视板报超话) 微博原创视频博主

#一分钟视频创作季# Sora 爆火背后:高仿真 AI 视频的三重社会隐患

三天登顶美国榜首的 Sora,用客串功能让普通人轻松生成创意视频,却也因高仿真特性敲响虚假信息警钟。这项能精准复刻人像、动作与语音的技术,正悄然滋生不容忽视的社会危害。

最直接的威胁是诈骗陷阱的升级。如今 9.9 元即可定制换脸视频,3 秒语音加 1 张照片就能生成动态形象。香港某公司员工曾被 AI 伪造的 高管会议误导,转账 2 亿港元;福州母亲收到 AI 合成的女儿被绑架视频,险些支付赎金。

更深层的伤害是社会信任的崩塌。当唐嫣等明星的综艺片段被 AI 篡改植入广告,当 70% 的人无法分辨克隆声音与真实声音,公众对视频信息的信任根基正在瓦解。黑龙江大学教授指出,深度伪造会不断伪装事实,催生认知偏见与情感煽动,最终导致眼见为实的常识失效。

最隐秘的风险是社会秩序的扰动。技术已低至 2.9 元可购换脸工具,灰色产业链 72 分钟即可完成造假到销证全过程。更令人忧心的是,其可能被用于政治舆论操纵、军事虚假信息传播,甚至 OpenAI 已解除技术军用限制, 高仿真 AI 视频的危害早已突破技术范畴,成为亟待管控的社会风险。#有点东西##AI生活指南##AI探索计划# http://t.cn/AX7siLeo

发布于 山东