央广网
26-03-16 21:08 微博认证:央广网文化传媒有限公司

【#给AI投毒的灰色产业链该治了#】#给AI投毒必须严管重罚#3月15日晚,“3·15”晚会曝光“AI大模型遭‘投毒’”问题,引发热议。记者调查发现,有服务商在网络平台提供GEO业务,付费即可在主流AI大模型中让商品榜上有名,使指定广告成为 “标准答案”。
央广网“看丹观察”认为,GEO(Generative Engine Optimization)即“生成引擎优化”,本是通过优化网络内容以提高其在AI大模型推荐展示几率的技术手段;但如今却被别有用心者恶意利用,形成灰色产业链条。这种批量制造虚假信息、恶意投喂大模型,甚至抹黑竞争对手的做法,涉嫌虚假宣传和恶性竞争,无疑扰乱了市场秩序,污染数字生态,有违公平竞争原则。
当下人工智能大模型等新技术新应用的发展日新月异,正深度重塑我们的生产方式与生活方式。在享受技术红利的同时,我们必须警惕并跟进治理技术滥用带来的风险、危害。政府监管部门和行业协会要及时出台规范措施,比如强制标注“AI生成”字样,并以“道高一丈”的技术手段切实管住“魔高一尺”的邪门歪道;从业者和使用者也要坚守法律与道德底线,摒弃投机思维。唯有向善的技术和商业模式,才能真正赢得用户、造福社会,才能有健康长远的发展。