社交平台目前主要依靠强制标注政策、技术检测机制和用户举报体系组合来识别和标注AI生成视频,已形成一套从上传到展示的全流程管控体系。
一、政策层面:强制标注与责任划分
国家政策要求:国内已明确要求AI生成内容必须进行显著标识,平台需对疑似内容主动打标审核。根据《生成式人工智能内容检测规范》,文件明确区分了平台和服务商各自的责任,针对深度合成视频划定了统一判定尺度。
分级审核思路:面向公众开放的通用大模型需执行更严格的内容筛查,垂直行业专用模型则结合场景制定差异化审核方案。
技术兜底:标准要求AI服务提供者在生成的视频元数据中添加隐式标识,记录文件来源、属性等信息,作为辨别真实性的“技术兜底”。
二、技术层面:主动检测与溯源标记
元数据与特征检测:平台初审主要依赖元数据隐式标识关键词等浅层筛查,同时通过检测AI生成视频在纹理、光影一致性等方面的“数字指纹”进行判断。
像素级溯源技术:当前业界推行的溯源标准存于独立文件区块,嵌入像素层的统计指纹藏在画面像素之中,即使工具篡改元数据,仍可发现被篡改的痕迹。
主动打标:当用户上传AI生成的视频,平台会在视频上自动打上“AI生成”标签,提示公众注意内容真实性。
三、实践工具:从官方应用到公众参与
国家反诈中心APP:已上线“AI内容鉴定”功能,支持图像、视频等内容的AI识别检测,记者实测10张AI生成图均被系统判定为“图像含AI生成痕迹”,而真实拍摄照片则提示“未检测到合成痕迹”。
创作者自律声明:平台要求发布者主动声明是否使用AI技术,同时设置提醒功能,确保公众知情权。
公众甄别能力:专家建议用户通过看细节(手指、logo变形)、查来源、搜图验证等方式辅助判断AI生成视频。