Gemini 3 给整个 AI 领域带来了巨大的震动,而 Gemini 3 的训练和推理采用的并不是英伟达的 GPU,而是 Google 自研的 TPU。
虽然英伟达的 GPU 凭借强大的 CUDA 软件生态系统仍然占据市场主导地位,但谷歌的 TPU 已成为一个强大且可行的替代方案,尤其是在大规模 AI 推理时代。 市场分析师认为,AI 基础设施的未来将是 GPU 和 TPU 的混合架构。
在这个视频中,AI 科普达人 New Machina 用通俗易懂的方式解释了 CPU、GPU,和 TPU 的不同,以及为何 TPU 能够帮助 Google 巩固其在 AI 领域的领先地位。
简单说,CPU 是电脑的大脑,啥都能干,但并不擅长大规模并行计算。GPU 最早是为了做图形渲染,后来因为很会处理矩阵运算,被用来跑 AI 相关的活。不过 GPU 终归不是为 AI 量身定制的,里面还有不少和图形相关的 “累赘”。
TPU 就不一样了。它从设计之初就是为 AI 设计的专用芯片(ASIC),专门加速各种矩阵乘法、加法这些最常用的计算。这样一来,既省去了很多中间指令的消耗,延迟低,吞吐量高,效率自然也就上去了。而且 TPU 没有 GPU 那些图形处理的额外硬件,空间和能耗都省了不少。
还有一点,TPU 在能效上确实很有优势。训练和推理大型模型,本来就是个电老虎。Google 用上 TPU 后,不光速度快,整体能耗还能降不少。别看每次推理省下的电很少,积少成多,一年下来就是天文数字的成本节省,对 Google 这种全球级的服务商来说尤其重要。
TPU 也让 Google 能在自家数据中心里,大规模、高密度地部署 AI 系统。这也是他们能用 Gemini 3 这样的大模型、又不会给电网带来过大压力的原因之一。
一句话总结,CPU 万能但不专精,GPU 并行运算能力强但有历史包袱,TPU 则是为 AI 量身打造的高效工具。它让 Google 能更快、更省电地训练和部署各种 AI 服务。未来,可能会有更多 AI 企业考虑使用 TPU 训练和推理自己的模型。
#AI科普##Google的TPU是什么##科技先锋官##AI创造营# http://t.cn/AXLY6Z6k
发布于 上海
