马力AI和商业思维
26-07-19 12:01 微博认证:知群 CEO 微博新知博主

衡量AI进步,别再数对话次数。

沃顿商学院研究 AI 与工作的 Ethan Mollick,在2026年6月30日的一篇文章里,介绍了 METR 等机构用的一把量尺:先按人类专家完成任务要多久给任务标出难度,再看模型完成这类任务的成功概率。它不是在计 AI 实际运行了多久。

这个角度比「一天聊了200轮」有用得多。对话多,可能是 AI 很勤快,也可能是它一直没听懂。更值得看的是,在固定成功率下,模型能独立完成的任务,原本要人类专家花多久。

Mollick引用了按人类程序员工时衡量任务长度的研究,也写了自己的实验:一个前沿模型曾连续工作9小时,完成他估计需要一个团队做一周以上的复杂软件项目。他同时提醒,能力前沿仍然参差,有些地方很强,有些地方照样会突然失败。

小时数也不能单独看,坐在工位9小时,不等于干了9小时好活。给自己的AI任务做记录,至少要留6项:人类原本要多久、AI独立跑了多久、第一次卡在哪里、人接管几次、最后返工多久、模型花费多少。

这是我给实际使用另加的一套账,不是 METR 的任务时长地平线。机器等待和人工劳动要分开。AI 后台跑3小时,人只看了10分钟,这是节省;AI 跑3小时,期间每隔5分钟追问一次,人根本没法做别的,就不能算自主。这套记录是在回答你到底省没省时间,不能拿来改写 METR 的图。

测试任务也要固定。给它一组简单题、一组日常题、一组极端题,提前写好成功标准;中途不要临时降低要求。换模型时继续用同一批题,才能看出独立工作时长有没有拉长。

一份原本要4小时整理的行业简报,AI跑了2小时,中间问人3次,最后又返工1小时。准确的记录是:4小时的活,变成了1小时人工加2小时机器等待。这样记,进步和代价都看得见。

每个月拿同一类资料、同一验收标准再跑一遍,才能分清模型变强了,还是这次题目碰巧简单。

任务时长地平线告诉你,模型大概能碰多难的任务;这套使用记录告诉你,它到底替人省了多少时间。两本账,得一起看。

#马力的AI知识分享#
#马力在记录AI领域500位大佬的分享#

发布于 北京