蔚来这个回应,最值得聊的不是“爱”字被识别错了,是一个十岁小女孩写给爸爸的生日祝福,被自家车的算法拦了下来,理由是“违规”。
事情本身挺荒诞。车主在女儿十岁生日当天,想用ES9灯光秀投影手写祝福,女儿写了“爸爸我爱你”,系统判定违规,投影不出来。换成“妈妈我爱你”,正常生成。车主一开始以为女儿字写潦草了,自己写也一样,反复试了几次都不行。副总裁马麟的回应很干脆:OCR把“爱”字认成了别的字,触发了敏感词限制,“这个限制策略不对,不合理,已经做了修复”。
我的判断:技术层面这事不复杂,OCR认手写字出错,行业通病。但蔚来真正该被追问的不是“爱”字被认成了什么,是为什么一套内容风控系统,会把“爸爸我爱你”这种句子送进违规判定里。 车主后来自己都说,建议蔚来查查算法,甚至调侃“查查拳师”。话是玩笑,指向的问题是实的:敏感词库和OCR的联动逻辑,在“安全”和“正常表达”之间,阈值设得太紧了。手写体识别不准是诱因,但“宁可错杀”的那套策略,才是让一个生日祝福变成“违规内容”的根本原因。#蔚来高管回应爸爸我爱你违规##科技先锋官#
发布于 广东
