#豆包被十三个鸡蛋难倒#
别说这个热搜还挺好玩的,本质上是AI的一次大型翻车现场。
事情是这样的:有用户让豆包生成一张“盒子里装13个鸡蛋”的图片,豆包第一版只画了12个。用户指出错误后,豆包开始疯狂补救——换无蛋托纸盒、给鸡蛋标1-13编号(结果标出两个3号)、用13个红点枚举(又变成12个)、画平面教学图……试了十几次,始终数不对,不是12个就是9个。
最后豆包自己放弃了,承认“别再做图了,这个任务用纯文字最稳”,改用纵向13行文字清单才勉强交差。
豆包自己解释过:常见鸡蛋盒是12格蛋托,模型训练数据里“鸡蛋=12个”的模式太高频了,导致它下意识地往12收敛,哪怕换成无隔层纸盒也改不过来。
说白了,绘图模型对“数字”没有真正的概念,它靠的是视觉模式匹配,而不是逻辑计数。让它画“鸡蛋”,它脑子里浮现的是“一盒鸡蛋”的整体图像,而不是“13个独立的鸡蛋”。
这不只是豆包的问题。扩散模型在精确计数上普遍拉胯,其他AI也经常出现类似翻车。 大模型写文案、翻译、聊天确实很强,但一到“数数”这种需要精确空间逻辑的任务就原形毕露——网友说得挺到位:AI是文科生,理科不太行。
所以这事儿与其说是豆包的笑话,不如说是当前AI能力边界的一次生动展示:它能写诗、能编程、能解数学题,但就是数不清楚盒子里有几个鸡蛋。人类暂时还不用担心被AI统治。 http://t.cn/AXTyIKmP
发布于 上海
