#西安一市民除夕夜被AI给骂了#
哈哈哈,把 AI 折腾急眼了,其实这事儿也没那么复杂
现在的文生图模型,本质是把文字编码成向量,再匹配图像特征。
你反复改稿、删改、重绘,会让提示词向量被不断叠加、扭曲,模型记不住完整语义,只抓到碎片关键词。
加上部分开源/微调模型的过滤层很薄,没有严格的多轮对话安全护栏,一旦历史对话里混进敏感字符、负面情绪词,就会被模型当成“有效提示”。
话说归说,但是看到这句祝福语,还是觉得离了大谱!
发布于 上海
