虾仁芝麻卷· 26-04-23 10:13
微博认证:微博新知博主 法律博主

别用GPT Image 2造谣了
真实世界,「有图有真相」又不存在了。
过去一整天,各种假图在各个群里刷屏。
肉眼难辨,主流 AI 检测工具也认不出来。
被骗几次后,现在看到每张截图都先怀疑真假,属于草木皆兵了。
我甚至开始怀疑「马斯克收购 Cursor」是不是真的。
AI 精神病词典里可以新增一条:「AI 造假 PTSD」。
以前说老年人没辨别能力,容易被骗,要多提醒。
现在久经 AI 浸泡的「小登」们,也不敢拍胸脯说能看出来了。
这次 GPT Image 2 确实不一样。
上一波还能靠手指数量、中文文字鉴别,这次很难发现这种错误。
我们比任何时候都更需更可靠的权威信源、更快的辟谣机制,以及模型厂商的 AI 生成标识,告诉大家哪些是真的哪些是假的。
虽然用户的识别能力会增强,但也不能总指着用户自己长个心眼。
不然每次生图模型升级,都是同一套死循环:
能力爆炸 → 整活图铺天盖地 → 假新闻狂潮 → 出事 → 监管介入 → 模型收紧 → 降智 → 用户骂街 → 等下次升级 → 循环重启。
目测很快 image2 又要被玩坏。
玩归玩,但有几类操作,现在就已经在违法甚至犯罪边缘。
第一类:伪造新闻,制造谣言
「库克加入小米汽车」「Anthropic 并入百度」……这种都刷到过吧。
未经肖像权人同意,AI 生成并传播他人可识别肖像,无论是否营利、是否丑化贬损,都可能侵害肖像权;若内容丑化、贬损性,还可能侵害名誉权。
浏览量超 5000 次或转发超 500 次,达到「情节严重」标准,刑事上可能构成诽谤罪。
涉及伪造灾情、警情、险情的,可能构成编造、故意传播虚假信息罪或寻衅滋事罪。
第二类:换脸不雅内容,骚扰他人
把别人的脸换到暴露视频或丑化图片上,发群里、发平台、私信骚扰。
如上所述,侵犯肖像权、名誉权;造成严重后果的,构成侮辱罪。若以此牟利,构成制作、传播淫秽物品牟利罪。
第三类:伪造证据,拿去打官司
已经有人在用 AI 伪造微信聊天记录、现场照片、户籍证明,拿到法庭上用。
这次看到还有人生成假处方单、假病历想蒙混过关。
轻则输掉案子、被处罚款;重则面临伪造证据的刑事追责。
GPT Image 2 的能力边界在哪,我们还在观察。
但法律的边界,从来都很清楚。
生图可以。
拿别人的脸和尊严「开玩笑」,肯定不行。

发布于 北京