#灯光秀写爸爸我爱你提示违规##新能源汽车#
蔚来ES9车主用灯光秀手写“爸爸我爱你”被系统提示违规,写“妈妈我爱你”却一路绿灯。这事儿一出来,网上一堆人调侃这车是不是“父爱过敏”。但扒开底层的逻辑看,这就是一场典型的AI算法“误杀”。
老马觉得这事儿有两个点挺逗,也挺值得车企长记性:
一是过度依赖字面审核,缺乏语境判断。业内分析,是AI小模型在手写识别时出了偏差,把潦草的“爱”字看成了“受”等形近字,跟“爸爸”拼在一起,意外命中了第三方敏感词库。这就好比宁可错杀一千,绝不放过一个,机器根本不管你写的是温情告白还是别的,只要字面对上了,直接一刀切。
二是智能化体验的割裂。车主买这种带高科技配置的车,图的就是个情绪价值和新鲜感。女儿想给爸爸个惊喜,结果被冰冷的机器提示违规,这不仅扫兴,还让品牌显得极其没有温度。好在官方发现后大概率连夜改了算法,现在测试恢复了正常。
这种“误杀”虽然修复得快,但暴露出一个隐忧:现在的智能座舱功能越来越花哨,但底层的审核机制还处于“小学水平”。今天能把手写的“爱”识别成“受”,明天在语音交互或者更复杂的场景下,会不会出现更离谱的拦截?
技术是用来服务人的,不是用来添堵的。车企在搞创新的时候,不仅要把功能做酷,更得把算法训练得聪明点、懂点人情世故。别让死板的敏感词库,寒了用户的心。 http://t.cn/AXTzBQ8O
发布于 河南
