孤鸿泽
26-11-03 17:48 微博认证:投资内容创作者 科技博主

很多人可能没意识到一个问题,AI辅助开发的边际效率在下降,但token成本在上升级,两者的gap在不断拉大。这是一个不好的信号。

1、硬件的价格和AI服务的运营成本资本开支太高,导致API成本定价剧高不下。
2、随着AI逐渐替换人工编程,很快大量基础设施的代码由AI替换。但几年过去以后,这些AI快速生成的代码的迭代成本将无比之高。AI正在走过它的少年期,进入青春期,要面临成长的麻烦。三年以后,AI基础设施完成,人们将面临一座巨大的AI屎山,而望洋兴叹。
3、随着项目不断地变大,codebase的消耗巨大,大量token消耗在思考分析阶段,现象是AI分析的时间远远超过写得时间。用大量的思考和验证token产生了小量的生产代码。
4、AI擅长功能增加做加法,但一个好的项目基础必须阶段性重构做减法。AI的重构能力有限,且业务巨大以后重构的约束并不是技术,而是业务定义和功能交叠。这些不是AI能够解决的,workload重新回到人类身上。
5、很快老板们就面临一个非常头疼的问题,天价的token账单和可怜的有效产出之间的矛盾,将难以忍受。
6、模型的token by token和概率生成机制,决定了它想要产生一个优质的输出,必须完成一个非常巨大的复合性工程,开启thinking自己先出草稿然后自审,去错纠正,然后再思考,出多个方案对比,形成一个可行的方案,再进行回复。agent通过react不断地切分任务,验证结果,重试逼近。然后还需要通过tool call调用测试环境验证产出,进行修复。整个过程是建立在三套大的自循环迭代基础之上的,这在项目变大以后的token消耗是天量的,且难以彻底根治。

在当前机制下,生产任务的AI能力随着项目的变大是下降的,而不是上升的。项目越大,AI的成本和产出就呈现边际收益递减,而对人的依赖就越强。

特别是那些结构不好的项目,想保持结构良好,AI做不到自举,必须由人来完成。在一片巨大无比的AI生成物里,谁能高效地整合,重构,基于老AI基础推进新的业务,谁将获得竞争优势。

所以,当Ai生态的增长曲线放缓,人工智能中的人,将再次伟大。这些人,就是AI技术时代的要求下的“新精英”。

发布于 北京