谷歌展示了其两款 TPU 8 变体:
TPU 8t:针对训练和大规模应用进行了优化,每个 pod 包含 9,600 个 TPU 和 2 PB 的共享 HBM;
TPU 8i:针对推理和强化学习进行了优化,HBM 容量增加 50%,最高可达 288 GB,以降低延迟并避免昂贵的片外数据传输。
发布于 江西
谷歌展示了其两款 TPU 8 变体:
TPU 8t:针对训练和大规模应用进行了优化,每个 pod 包含 9,600 个 TPU 和 2 PB 的共享 HBM;
TPU 8i:针对推理和强化学习进行了优化,HBM 容量增加 50%,最高可达 288 GB,以降低延迟并避免昂贵的片外数据传输。