字节跳动数据中心建设进展再添新消息,行业人士称字节跳动正与天数智芯讨论采购至少5万颗AI芯片,主要用于推理工作。
据记者多方了解,本次洽谈供货芯片主要用于大模型推理负载,对应天数智芯智铠系列云端推理GPU,训练场景使用天垓系列。若交易达成,天数智芯将成为华为和寒武纪之后,字节跳动的第三家GPU供应商。
近年来,字节跳动在算力投入方面的动态持续更新。
字节跳动明确训练、推理两套芯片供应链完全拆分:大规模模型训练采用华为昇腾、寒武纪高端训练卡;线上C端豆包、企业MaaS海量并发推理引入天数智芯智铠系列等专用推理GPU。
若本次洽谈落地,天数智芯将正式入局字节算力版图。其中,华为昇腾聚焦集群训练、超大规模模型预训练底座;寒武纪兼顾部分中高端推理、垂直行业私有化部署;天数智芯智铠侧重线上流量型海量推理主力供给。#图灵量化##寒武纪#
发布于 上海
