英伟达开源的一个专注token效率的agent harness:SoL-Pi,比原生harness token少35–64%,API成本低50–54%
就是让AI自动检查AI的工作流程,找出重复、绕路、废话、重复读大文件、过度信任摘要这类的浪费,然后把Agent的运行框架改得更省token、省钱,同时不降低完成任务的能力
RSI本身极其烧token,每次改进尝试都要付出,于是SoL-Pi是想在扩大RSI之前,先让AI把AI变得更高效
相对base Pi token少 45–49%、成本低1/3
SoL-Pi用自动化实验筛出AI干活主要浪费在四件事上,历史每轮重放、大内容反复传输、没必要的思考往返、贵模型干便宜活,然后就照这四刀砍
一是把高确定性、无需中间决策的“改完就测/改完就 build”合成一个动作,省掉多余往返
每完成一个子任务不立刻压缩,而是触发一次要不要压缩的评估,只有在预期未来节省能偿还这次重写成本时,才真正执行压缩
大块内容收进仓库,上下文只留“取件码”和短摘录,用时按页取
读长日志的粗活外包给便宜模型,但它给的receipt必须能逐条对回归档日志核验,核验通过后才允许贵的脑力继续做决策
这些机制有一条铁律,省下的钱必须来自消除浪费,不能来自偷懒少干活,否则直接判不合格
github:http://t.cn/AX0Fvr3Z
主页:http://t.cn/AXOU59fY
#SoLPi##Token效率##AIagent# http://t.cn/AXOOlBax
发布于 美国
