#蔚来回应灯光秀写爸爸我爱你违规#蔚来ES9灯光秀的乌龙事件,在网上引发大量讨论。一位车主在女儿十岁生日,想用自定义灯光秀投影祝福,手写“爸爸我爱你”,系统直接判定违规;可换成“妈妈我爱你”,却顺利通过,反差感让话题迅速出圈。
不少网友觉得难以理解,各种猜测接踵而至。蔚来副总裁马麟公开回应,解释是OCR识别算法出错,把“爱”字误识别成别的文字,触发了风控拦截,并不是刻意屏蔽这句话。他也承认,这套风控策略本身不合理,后台已经紧急修复,现在再去手写测试,这句话可以正常投影了。
这个功能依靠手写识别,字体形态多变,很容易出现识别误伤。这件事也让大家讨论,AI风控的分寸感很难拿捏,既要守住安全底线,也不能误判这些温情的日常表达。车主后续也表示,蔚来客服主动联系,没有要求删帖,自己对车子整体还是满意的。 http://t.cn/AXTbQENt
发布于 福建
