#OpenRouter上线模型路由器评测# OpenRouter 官方给模型路由器列了三个该用的场景,每个都配了一句代价,正好把收益和坑放在一起看。
第一是成本差异。DeepSeek v4 Flash 和 GPT-6 Astra 比,后者平均每 token 单价高出约 48 倍,跑一个 10 到 49 轮的 Codex 会话贵约 21 倍。路由器可以把任务里不挑智力的部分切到便宜模型上省钱。代价是切模型时输入缓存要重建,这一来反而更贵。
第二是任务多样性。法律研究最强的模型和编码最强的模型往往不是同一个,路由器在两者之间切换,各取所长。可路由器常常只看 prompt 判断不出任务复杂度,分错了就白切。
第三是会话阶段。一个 agent 会话里,规划那一段需要高智力,执行那一段用普通模型就够,路由器据此切换。问题是用判断会话阶段的启发式信号,可能与模型下一步真正需要的智力层级对不上,节奏踩错。再加上路由决策本身也要算,处理得越多延迟越高。
三个场景都是真能省事的地方,官方也直说这些挑战有时会让路由器劣于直接用单个模型。所有被测路由器都能在 OpenRouter 上直接替换原模型,自己的活儿还是得自己跑一遍。
发布于 北京
