#AI生成# 【研究发现AI生成文本水印能被轻易擦掉，水印伪造成功率竟达80%左右】

研究人员发现，在#人工智能# 生成文本中添加的水印很容易被删除，而且会被窃取和复制，使其变得毫无用途。他们表示，这类攻击破坏了水印技术的可靠性，可以欺骗人们相信他们本不应该相信的内容。

水印的工作原理是，在人工智能生成的文本中插入隐藏“信息”，使计算机能够识别出文本来自于人工智能系统。它们是一项相当新的发明，但已经成为对抗人工智能所产生的错误信息和抄袭内容的流行解决方案。

例如，2024 年 5 月生效的欧盟《人工智能法案》要求，开发者要为人工智能生成的内容加上水印。

但瑞士#苏黎世联邦理工学院# 的博士生罗宾·斯塔布（Robin Staab）表示，新的研究表明水印技术的水平并没有达到监管机构的要求。他参与了这项最新研究。

该研究尚待同行评审，但将在 2024 年 5 月份的国际学习表征会议（ICLR，International Conference on Learning Representations）大会上演讲。

人工智能语言模型的工作原理是预测句子中的下一个单词，并在这些预测的基础上生成可能性最大的单词。

戳链接查看详情：http://t.cn/A6TikuwP