关于AI放缓的讨论还是更认可David Sacks的观点,他昨天这篇长文的意思很清楚:
1)你们两家就是前沿本身。按市场份额、营收、模型能力,OpenAI 和 Anthropic 已经形成前沿智能的双寡头。你们自己也说领先优势还在因为递归自我改进而拉大。所以“放缓前沿”本质上就是你们自己决定要不要继续冲。
2)如果实验室里的未发布模型真那么吓人,你们自己负责地慢下来,我支持。
但别假装需要别人批准、别假装反垄断法必须为你们开绿灯让你们结成卡特尔、别假装需要一套凌驾于产品责任之上的监管审批流程。
3)别假装动机纯粹是利他。
如果模型真能引发大规模网络攻击,你们面临的产品责任风险极大。市场已经在惩罚行为不可预测、乱来的模型。Hugging Face 那次事件之后,用一点原始能力去换可靠性和可预测性,本身就是好生意。叫它“对齐”也行,本质也是在满足客户需求。
4)别用监管当交换条件。
最简单不造出超级智能的方法,就是你们俩约定不造。如果把“必须按我们喜欢的监管框架来”当成放缓的前提,在公众和政治系统看来就像勒索。CN 基本不可能加入全球协议,这也必须考虑进去。
5)你们自己先慢下来,能换来下一轮对话的善意;如果不这么做,大家就会认定这不过是又一次监管俘获,或者选举季的舆论操作。
简单说Sacks 并不反对他们自己谨慎一点,但他非常怀疑这两家头部公司借“AI太危险了必须慢下来”的叙事,去推动对自己有利、对开源和小公司不利的监管框架。他认为真正该做的是:你们自己先停手,别先要政策特权。作为曾经的白宫人工智能和加密货币的沙皇,snacks还是看的更深入的。
关于放缓最多就是发布节奏放缓,留足够的时间来进行安全对齐。这几家巨头谁都不敢真的放缓训练规模和资本开支,因为谁慢谁落后。
