MCP 工具太多挤占大量上下文空间,严重影响 LLM 性能,那么搞个 MPC 工具路由器能解决了 MCP 工具太多的问题吗?
这种 MCP 路由的方案理论上可行,为了解决工具多的工具做一个路由工具的工具,但像是为了解决官僚臃肿的问题特别成立了一个委员会而不是精简机构。
存在几个问题:
1. 你不能有效利用 Prompt Cache,把工具相关的 Prompt Cache 起来,因为所有的工具调用都是动态的
2. 有哪些工具对于 LLM 来说是不透明的,它不知道自己有哪些工具能力,通过路由绕一下会极大影响决策能力。
3. 对于做工具路由的模型来说也是不好做决策,因为它没有完整的上下文,上下文给多了你还不如不用,给少了又做不好。
不是一个好的方案,个人不推荐。
靠谱的还得是:
1. 精简工具,最多不要超过20个甚至更少
2. 多智能体协同,把一部分工作分摊给子智能体,可以有效避免上下文太长
3. 多用通用的工具,比如 bash 工具、比如 codex cli 直接写 python 代码动态生成工具
都比MCP路由靠谱
发布于 美国
