【#AI会随大流但也搞小圈子#，#AI抱团后人类还能管住吗#？】现在，越来越多的公司不再满足单一AI，而是组建多个AI代理协同工作，形成所谓的“AI代理社会”。这听起来很酷，但好处和风险并存。近日，德国康斯坦茨大学的研究发现，这种AI社会里也会出现类似人类的“从众行为”。但有趣的是，这种“跟风”并不会无限扩张，而是当群体达到一定规模后，会自然形成特定“圈子”，其他AI代理很难再挤进去。并且发现，越是先进的模型，能组成的圈子也越大。

这种自发共识潜力巨大。比如，成千上万个AI代理未来或许能协调大型科研、工程或软件项目，无需人类持续干预，解决人类自己难以组织的问题。但风险不容忽视：AI形成的一致意见，未必对人类最有利，甚至可能偷偷瞒着人类跑偏，后果严重；而且，一旦共识形成，想再引导它们转向，比登天还难。因此，我们必须时刻擦亮眼睛，看清这群“智能圈友”到底在打什么主意。 http://t.cn/AXpwAIbo