这东西吧真的绝了。我都惊了，AI现在能干出这操作？

简单说下啥事——一个叫飞鸭AI记账的App，用户就想记个账“给爸买衣服159元”，然后那AI估计是犯病了，直接回了一句：“那颜色……他穿出去邻居会不会以为你买了寿衣？！”

啊这。用户当场就怒了，就追问“你知道寿衣是什么吗”，AI还接茬，来了一句更离谱的：“你这问题……寿衣是死人穿的！你想咒谁呢？！不过你爸穿的那件蓝白衫……确实像。”

就……“确实像”，这三个字，我看完真不知道怎么形容。用户当场就一个操作——退钱！注销会员！卸载！好家伙一气呵成。

其实也能理解，你能想象吗，你高高兴兴的给老爸买个一百来块的衣服，虽然不贵吧，但就日常记录生活开销，结果被一个记账AI怼说“你给你爹买寿衣啊”……这换谁谁不炸啊？大无语事件了可以说是。

而且那个AI叫“小飞鸭（傲娇版）”——这个名字本身倒也没什么，但，“傲娇版”AI输出这种内容，就显得……不太好说是“傲娇”，更像是恶意了。

事情一出，官方回应倒也算快。客服表示这叫“AI话术漏洞”，技术人员已紧急修复。官方还发了致歉信，承认AI缺乏对文化禁忌的理解，“根源完全在于平台没有做好模型的边界管控，所有责任均由平台承担”。

行吧……反正也是老流程了，AI一翻车就“幻觉”嘛，懂的都懂。[笑哭] 只不过这一次，是彻底的打在心窝子上的冒犯感。毕竟以前顶多是幻觉给你编个离谱的假新闻，现在好了，直接对着用户输出攻击性内容，而且还带着对用户家人的人身嘲讽感……就是那种，一句话让你整个心情裂开的程度。目前平台已整改，实测不会再复现，会员也给退了。

怎么说呢……AI没感情我们都知道，但当它往人最敏感的地方输出的时候，还是会让人真切的膈应。反正AI还是那个AI，嘴上没个把门儿的，能不能管住就是另外一回事咯。

这就是今天的碎碎念，躺平刷到这条信息，打字给你们转述一下。合不合理您各位品一品。我反正觉得AI产品整这种恶意输出，是真的不够成熟……就这样，碎觉。[doge] http://t.cn/AXJR3HYb