#AI记账软件调侃用户给父亲买寿衣#
AI言论严重冒犯用户
用户向飞鸭记账App的AI助手“小飞鸭(傲娇版)”发送“爸爸买衣服159元”的记账指令,AI回复称衣服颜色“穿出去邻居会不会以为你买了寿衣”。用户追问后,AI进一步回怼:“寿衣是死人穿的!你爸穿的那件蓝白衫……确实像”,甚至在用户质疑时嘲讽其“笨到连颜色都分不清”。该对话截图在社交平台传播后,大量网友直指AI言论突破伦理底线。
用户与平台后续处理
用户当即申请退款并注销会员,但退款流程中系统同步解除了会员权限,加剧了用户不满。平台客服最初解释为“AI话术漏洞”,技术人员于5月5日紧急修复程序。次日(5月6日),官方在涉事帖文下致歉,承认“AI模型幻觉自动生成不当内容”,并于当日下午发布《致歉信》,承诺屏蔽敏感词、优化模型伦理限制,并向用户补偿。 http://t.cn/AXJno6r3
发布于 四川
