#英伟达发布最强AI加速卡#
Ai风向标——英伟达GTC年度开发者大会来了
1.【性能】CEO黄仁勋在主题演讲中发布了AI芯片架构Blackwell GPU,第一款Blackwell芯片名为GB200。
结论,新款GB200,推理大语言模型性能比 H100 提升 30 倍,成本和能耗降至25分之一。
Blackwell拥有2080亿个晶体管,是上一代芯片”Hopper”800亿个晶体管的两倍多。
2. 【算力】
升级新款有多快?其AI性能为每秒20千万亿次浮点运算,而H100为每秒4千万亿次浮点运算。升级一代,就提升5倍!
英伟达每两年更新一次其GPU架构,实现性能的飞跃。过去一年发布的许多AI模型都是在该公司的Hopper架构上训练的。
3.【Ai性能】
该系统可以部署一个27万亿参数的模型。据称GPT-4使用了约1.76万亿个参数来训练系统。
4.【成本和能耗】
Blackwell平台能够在万亿参数级的大型语言模型(LLM)上构建和运行实时生成式AI,而成本和能耗比前身低25倍。
5.【软件】
英伟达企业软件订阅中添加一款名为NIM(英伟达推理微服务)的新产品。NIM让使用较旧的英伟达GPU进行推理(或运行AI软件的过程)变得更加简单,并允许公司继续使用其已经拥有的数亿个英伟达GPU。与新AI模型的初始训练相比,推理所需的计算能力较少。
对于那些希望运行自己的AI模型,而不是从OpenAI等公司购买AI结果作为服务的企业来说,NIM无疑是他们的得力助手。该软件还将助力AI在配备GPU的笔记本电脑上运行,而非仅限于云端服务器。
6.【股价】
英伟达的股价在过去12个月里飙升了240%,使英伟达成为美国股市市值第三的公司,仅次于微软和苹果。
配图,不代表任何股票推荐,仅供参考。
AI应用专栏,更新到25期!本周新增内容:http://t.cn/A6lpTTjq[爱你][爱你][爱你]
Ai直播课回放:《24年春季行情02:Ai底部掘金》点击http://t.cn/A6Yafnmj 本期核心目录:
1、Ai四大分支:选谁上车?怎么抄?
2、Sora题材催化:用这4个选择指标
3、Ai半路上车:一个手机上的好方法
4、4个案例拆解:超跌反弹的强势票
