英伟达发布最新Meta开源大模型Llama 3.1🦙的一些数据。— Llama 3.1-405B模型训练使用了超过16000个 NVIDIA H100 GPU！— Llama 3.1-405B模型推理可以在单个8-GPU H200系统上运行。对于120,000/2,048的输入/输出长度，每秒可输出49.6个令牌。— Llama 3.1-8B模型推理可以跑在NVIDIA GeForce RT

英伟达发布最新Meta开源大模型Llama 3.1🦙的一些数据。

— Llama 3.1-405B模型训练使用了超过16000个 NVIDIA H100 GPU！

— Llama 3.1-405B模型推理可以在单个8-GPU H200系统上运行。对于120,000/2,048的输入/输出长度，每秒可输出49.6个令牌。

— Llama 3.1-8B模型推理可以跑在NVIDIA GeForce RTX PC和NVIDIA RTX工作站上，英伟达进行了很多优化。

Supercharging Llama 3.1 across NVIDIA Platforms | NVIDIA Technical Bloghttp://t.cn/A685svrF

#大模型##最新llama-3.1开源大模型##人工智能# http://t.cn/A685svrF

发布于美国