提供主动服务的 Agent,需要进行大量自主决策。在信息不足、环境动态变化的情况下,难免产生错误决策,甚至引发大量无效的行动和尝试。
想要提高决策质量,降低无效决策和行动的成本,我认为需要做好几件事情:
1)让 AI 在问题早期,甚至预防阶段就开始决策和产出,持续维护决策依据和结果。当问题暴露时,能够结合新增信息,快速补充和修正已有决策。
2)系统具备所见即所得的能力,能够沿着不同决策路径进行分支推演,直观呈现结果,评估不同路径的收益、成本和风险,减少实际执行中的无效尝试。
3)动态调整和更新目标,让 AI 根据目标和环境的变化,持续更新决策条件和逻辑,及时调整或终止偏离目标的行动。
4)针对决策和执行,构建自验证的环境能力,持续对比实际结果与预期目标,发现偏差并修正决策。必要时,通过简洁的交互反馈机制,让人低成本地参与关键决策。
更多的思考、推演和尝试,未必带来更好的结果。Agent 还需要学会判断何时继续探索、何时执行、何时停止,以及何时需要人介入。
为系统构建 RSI 的能力,接下来会是一个火热得命题,也会是一件非常有趣且有挑战的事情,😄
发布于 浙江
