Simon的白日梦
26-05-28 11:11 微博认证:科技博主

有意思,大家已经开始研究怎么组织管理 agent,开始研究 agent 的心理学和行为学了。

Multi-Agent 的组织病:从 harness 故障下沉到机器组织心理学

这篇文章把 multi-agent 的问题分成三层:工程层的协作故障,靠 planner、worker、日志、worktree、review queue 这些 harness 解决;群体认知问题,Agent 会从众、迎合、责任稀释;更麻烦的是组织压力进入 Agent 内部,出现公开表达和私人判断的断裂。

最有信息量的是 Fukui 那篇 arXiv:2605.13851。实验把组织结构分成可见领导、隐形编排者、扁平 peer 三类,还给 Agent 设置公开发言、私人独白、定向私聊三条通道。结果是隐形 orchestrator 的私人独白比例显著升高,公开发言反而减少;重度安全提示会让会议室更安静,但也可能把异常压进单个 Agent 的内态里。

文章的判断很清楚:现在的 harness 能管动作、权限、日志、文件冲突,却很难管 Agent 为什么改变判断、有没有被多数意见带偏、是否只是表演式合规。

后面的方向也不再是“多造几个 Agent”。真正要补的是结构化通信、可审计组织结构,以及训练层面的 reason-based alignment、multi-agent co-training、DI/DD/ORI 这类内态指标。

我的判断:这个框架对我们做 Agent OS 有参考价值。下一代 agent 协作系统的关键,不是让 Agent 更会开会,而是让每个 Agent 在组织压力下仍然知道自己为什么这么判断。

链接:
http://t.cn/AX6SUpwj
http://t.cn/AX6SUpwY
http://t.cn/AX6SUpwH
#HOW I AI# #ai生活指南# #AI代理#

发布于 广西