麻省理工科技评论
26-07-22 13:04 微博认证:《麻省理工科技评论》杂志官方微博

【推理云赛道一个月吸金55亿美元,AI基建长出新的中间层?】

随着 AI 被大规模部署至真实生产环境,#AI基础设施# 的重心正从训练转向推理:2023 年,训练还占 AI 算力需求的一半以上;到 2026 年,格局翻转,AI 推理消耗了约 2/3 的算力。

庞大的推理需求,叠加日益成熟的开源模型,最终催生出一个全新的 AI 基础设施品类:推理云服务(neocloud )。过去一个多月,超 55 亿美元资金涌入这一赛道。

Fireworks 是其中表现最亮眼的玩家之一。

7 月 16 日,这家总部位于旧金山湾区的推理云服务公司宣布完成 15 亿美元 D 轮融资,投后估值 175 亿美元,英伟达(NVIDIA)参投。当前,Fireworks 的年化收入已超 10 亿美元,日均处理超过 40 万亿 Token,高于谷歌(Google)和 OpenAI 各自公布的开发者接口(API)吞吐量。

戳链接查看详情:http://t.cn/AX9fWa7B