#AI做拜年图改到第五稿直接破防#除夕本是团圆祝福之时,西安律师用AI制作拜年图,多次正常修改后竟被生成侮辱性文字,荒诞又刺耳。难道是AI“闹脾气”???
AI没有情绪,但算法有漏洞、数据有杂质、安全有短板。用户正常提需求、正常表达不满,并非恶意诱导,却触发低俗输出,说明模型在多轮对话中的毒性过滤、语义理解、内容审核存在明显漏洞,祝福变辱骂,是对用户最直接的冒犯。
平台方虽已致歉并校正,但一句“模型异常”不足以消弭隐患。AI产品走向大众,安全底线必须先于体验上线,事后补救远不如事前风控。
便利不该成为冒犯的借口,技术向善,才是AI真正的“智能”。
发布于 陕西
