shijin1
26-08-31 13:41 微博认证:科技博主

明天开始,AI客服乱说话,商家得自己兜着了。9月1日新国标正式实施,白纸黑字:AI客服的回复算经营者的法定服务内容,不能再拿"算法生成不代表公司立场"当挡箭牌,AI承诺了价格你就得履约。边界也划得清楚——你自己部署的客服AI,说啥都算你的;通用大模型说的,只算参考。还强制"转人工"入口必须醒目,老年人优先接人工,紧急情况自动转、且不用复述问题。这规定戳中的是AI落地最尴尬的地方:模型是概率黑盒,输出不可控,但商业世界要求责任必须可控。谁部署谁担责,等于逼着企业重新算账——AI客服省下的人力成本,得先留一笔给"乱回"买单[doge]做客服系统的团队,prompt约束和人工兜底流程估计都要过合规审查了。#AI已读乱回经营者承担责任#

发布于 美国