宝玉xp
24-04-12 10:08 微博认证:前微软Asp.Net最有价值专家 2025微博年度新知博主 科技博主

现在多模态智能体已经比较多了,例如常见的基于浏览器插件形式的操作网页完成订机票之类任务的。虽然各个智能体都号称自己能解决复杂的任务,演示很惊艳,但是现在这种复杂任务及时最好的模型成功率也只有 12.24%(人类可以完成超过72.36%的任务)!

所以如何有一个公正的评估方式至关重要,OSWorld 就是这样的帮助你在真实计算机环境中评估多模态智能体。

支持跨 Ubuntu、Windows 及 macOS 等多种操作系统,有 369 个实际计算机任务的基准,这些任务都配备了可靠、可重复的配置和评估脚本。

项目地址:http://t.cn/A6TCgPo7 http://t.cn/A6TCghEY

发布于 美国