[LG]《Solving a Million-Step LLM Task with Zero Errors》E Meyerson, G Paolo, R Dailey, H Shahrzad... [Cognizant AI Lab] (2025)

在现实世界中，许多复杂任务需要数百万甚至更多步骤的精确执行，如建造摩天大楼、运行医院、处理税务等。大型语言模型（LLM）虽在推理和工具使用上取得突破，但因持续存在的错误率，难以规模化完成此类长序列任务。近期研究表明，在经典的“河内塔”问题中，现有LLM往往在数百步后就出现失误。

本文提出了“MAKER”系统（Maximal Agentic decomposition, first-to-ahead-by-k Error correction, and Red-flagging），首次实现了超过一百万步的LLM任务零错误完成。核心策略是将任务极致拆解为微小子任务，由专注的微代理（microagents）分别处理，每步通过多代理投票纠错，结合“红旗”机制剔除异常输出，显著抑制错误累积和相关性。

关键方法包括：

1. 极致代理分解（Maximal Agentic Decomposition）：将长任务划分为最小单元，每个代理仅负责一步，避免上下文负担导致的混乱和错误积累。

2. 先领先k票制投票纠错：通过对每子任务多次抽样，采用统计检验确保最终决策的准确性，实现可靠的误差控制，且理论证明该方法的投票次数k只需随步骤数对数增长，保证了成本的对数线性扩展。

3. 红旗机制（Red-flagging）：检测并剔除格式错误或异常长输出的响应，减少相关错误的发生，提升整体系统鲁棒性。

实验在河内塔20盘测试中，使用较小非推理模型gpt-4.1-mini，配合上述技术，成功完成一百万步任务，无一错误。实测显示，单步错误率稳定且低，且红旗机制有效降低了错误相关性和投票中的“碰撞”现象，确保了系统的高效和可靠。

此外，研究指出：

- 该框架可推广至更广泛的复杂任务，包括递归分解、组合和投票，已经在多位数乘法等难题中展现潜力。

- 任务极致拆分类似微服务架构，带来模块化、可扩展和容错性强的优势。

- 未来工作将探索自动发现最优拆解、提升错误去相关性的方法，并评估在更复杂多样步骤和非执行型“洞察”任务中的应用。

- 该方法为实现安全、可控的超级智能AI提供了新思路：利用大量小代理协作完成复杂任务，避免依赖单一庞大模型，降低失控风险和机器“感知”问题。

总结而言，MAKER展示了通过极致微代理分解与高效纠错，LLM系统具备突破百万步骤规模的能力，开辟了AI规模化执行长任务的新范式。未来，MDAP（Massively Decomposed Agentic Processes）有望成为构建高效、安全、可靠AI的基石，推动AI从单体智能迈向多代理协作的新纪元。

完整论文请见：arxiv.org/abs/2511.09030