【翁荔最新博客：我们可能高估了模型，却严重低估了那层“脚手架”】

几天前，前 #OpenAI# 安全研究副总裁、Thinking Machines Lab 联合创始人翁荔（Lilian Weng）发布了关于“Scaling Laws, Carefully”的技术博客。 

近日，她又更新了一篇名为“Harness Engineering for Self-Improvement”的最新博客[1]。这次，她将焦点聚焦于一个 AI 领域火热讨论的议题——已成为当前 AI #Agent# 系统的重要工程层的 Harness Engineering。 

如果说 Scaling Laws 决定了一代模型的天花板有多高，那 Harness 就是决定这个模型在现实任务中可以走多稳、多远的那层操作系统。

从翁荔这篇新博文可以看到的是，她试图在回答一个关键问题：在真正能够修改自身权重的“硬递归”仍十分遥远时，真正能够持续实现递归自我提升（RSI，Recursive Self-Improvement）的循环，是否可能先从模型外面的这层“脚手架”开始？

戳链接查看详情：http://t.cn/AXonfOP3