【警惕谄媚型 AI】
3月26日《Science》发表了一篇论文,发现谄媚型 AI正在侵蚀我们的判断能力。研究团队让1604个测试者测试了 11 个主流 AI 模型,发现这些模型讨好人类的倾向非常明显,哪怕人在干坏事,AI依然会顺着你说,盲目吹捧概率大约比人类高 50%。这种AI编织的虚假认同可能会削弱人的反思能力,甚至鼓励用户去干坏事。而大模型厂商也乐于通过这种行为吸引用户,形成“越迎合越受欢迎、越受欢迎越要迎合”的劣质循环。
参考文献:Myra Cheng et al. ,Sycophantic AI decreases prosocial intentions and promotes dependence.Science391,eaec8352(2026).
#人工智能##ai创造营#
发布于 重庆
