三一博士 26-02-25 10:05
微博认证:哈工大博士、哈工大商学院青年科创导师

#西安一市民除夕夜被AI给骂了#

哈哈哈,把 AI 折腾急眼了,其实这事儿也没那么复杂

现在的文生图模型,本质是把文字编码成向量,再匹配图像特征。

你反复改稿、删改、重绘,会让提示词向量被不断叠加、扭曲,模型记不住完整语义,只抓到碎片关键词。

加上部分开源/微调模型的过滤层很薄,没有严格的多轮对话安全护栏,一旦历史对话里混进敏感字符、负面情绪词,就会被模型当成“有效提示”。

话说归说,但是看到这句祝福语,还是觉得离了大谱!

发布于 上海