张岱樾
26-10-09 15:07 微博认证:AI博主

有两种方法可以让agent改进。

一种是保持模型不变,积累文档、嵌入、摘要、技能和更长的历史记录。

另一种是让经验修改模型。

Boltzbit 的贝叶斯自学习 Transformer (BAST) 通过将实时数据转换为针对性的参数更新,来探索第二条路径。其理论分析估计,与传统训练相比,计算需求大约降低 1,000 倍。

经济学因素很重要。外部记忆会让未来的请求检索和处理更多状态。权重适应将有用的知识直接融入模型本身。

下一个基准是,这些更新是否保持稳定、选择性和泛化能力,超出产生它们的交互范围。

如果它们能做到,持续学习就会成为架构的一部分,而非另一个代理功能。

发布于 新加坡