#金秀贤[超话]#

【从政治人物到演艺明星频陷 AI 造假争议……“抓假 AI”的 AI 技术加速研发】

公职人物被滥用的 AI 造假内容引发实质性伤害
Hancom With、DeepBrain AI、NuriLab 等加快 AI 识别技术研发
“相关数据积累越多，用于区分真伪的 AI 技术也将随之进化”

随着人工智能（AI）技术的高度发展，针对政治界、演艺圈等公众人物的 AI 造假争议接连不断。并非真实言论或行为、而是通过 AI 合成的图片与视频在网络上迅速扩散，导致公众人物形象和公信力受损的案例不断出现。为应对这一趋势，业界已正式加快开发用于识别“假 AI”的 AI 技术。

据相关行业26日消息，近期利用公众人物制造 AI 造假内容的现象迅速扩散，引发了广泛社会争议。

在演艺圈，围绕演员金秀贤与已故演员金赛纶未成年时期交往的所谓“证据”，出现了 AI 造假争议。

在政界，歪曲特定政治人物言论或行为的深度伪造（Deepfake）视频在选举时期被恶意传播；此外，还有足球运动员孙兴慜、C 罗被伪造为“推荐网络赌博网站”的视频和音频被查实。

在此背景下，业界开始全面推进用于区分“假 AI”的 AI 技术研发，即由 AI 生成的虚假、操纵内容，再由 AI 进行识别与过滤。随着生成式 AI 技术不断进化，仅凭人类肉眼或听觉进行判断已明显存在局限，基于技术的识别系统需求日益迫切。

Hancom 集团旗下子公司 Hancom With 正在利用深度学习视频分析技术，研发用于判别深度伪造内容的系统。该公司目前参与由韩国警察厅主导的“虚假与操纵内容真伪判别系统开发”国际联合研究项目，并与德国伍珀塔尔大学共同开展研究。该项目计划持续至2027年，目标是构建高可信度数据集并开发综合检测系统，以应对生成式 AI 普及带来的虚假操纵内容激增问题。

DeepBrain AI 上月通过文化技术研发项目，将原有的深度伪造检测范围扩展至生成式 AI 内容，可识别由 Google Veo、OpenAI Sora 等最新全球视频生成平台制作的图像与视频。该功能以 API（应用程序接口）形式提供，外部企业和机构无需额外搭建系统即可接入使用。此外，该公司还向多个公共机构、金融及教育领域提供深度伪造检测解决方案“AI Detector”，该技术通过分析像素级差异来判断内容是否为深度伪造。

NuriLab 上月在韩国注册了一项结合 AI 算法与元数据分析技术的深度伪造检测相关国内专利。该专利名为《深度伪造生成物检测方法及其执行装置》，其特点在于不仅依赖传统 AI 算法，还通过元数据分析提升检测准确度。

NuriLab 表示，现有 AI 检测技术主要依赖对图像或视频像素的分析，而元数据分析技术则可识别深度伪造生成或修改记录、存储格式、压缩信息等异常模式，从而提高识别能力。

业内普遍认为，未来此类检测解决方案的研发将进一步加速。随着生成式 AI 的普及，虚假与操纵信息所带来的社会危害正受到越来越多的关注。

一位安全行业相关人士表示：“随着生成式 AI 的迅速扩散，如何辨别内容真伪已成为整个社会的重要课题。由于 AI 滥用内容难以通过肉眼识别，随着相关数据的不断积累，用于判定真伪的 AI 技术也将持续被引入并发展。”