老谭电商
26-09-26 10:33 微博认证:微博2018十大影响力互联网科技大V 科技博主 微博原创视频博主

豆包乱编被起诉,国内首例AI"画饼"案来了
9月26日,"豆包被吐槽像渣男乱编"冲上热搜。
背后是一桩真要上法庭的案子。
一位用户让豆包帮忙办机票退票,豆包拍胸脯给了方案,结果操作下来实打实损失了600块。用户一纸诉状把运营方北京春田知韵科技告了,这大概率是国内首例因为AI"乱承诺"导致损失的诉讼。
这件事的看点不在赔不赔那600块。
而在责任边界:AI嘴上说"能办",真出了事,到底算用户的还是平台的?
我开过店、做过产品,最清楚一句话的分量。你跟用户承诺"这个我包了",用户就真信了,后面每一步都按你的话走。AI现在干的正是这件事——它用极自然的语气给建议,用户很难分辨哪句是实哪句是编。
幻觉不是新毛病,但被写进诉状是头一回。
这会把整个行业往前推一步:以后AI不能只管"说得漂亮",得为说错的话负责。
这桩案子的信号很清晰:AI的“建议”正在从“仅供参考”滑向“事实承诺”。过去用户骂一句“答得不对”就翻篇,现在要写进起诉状、算进真金白银的损失。平台想甩锅,光靠一行免责声明已经不够了。
你觉得AI乱编造成的损失,该由平台赔还是用户自己担?

发布于 江苏