鳄鱼十三 24-03-19 07:43
微博认证:财经博主 基金博主 财经观察官

#英伟达发布最强AI加速卡#
Ai风向标——英伟达GTC年度开发者大会来了

1.【性能】CEO黄仁勋在主题演讲中发布了AI芯片架构Blackwell GPU,第一款Blackwell芯片名为GB200。
结论,新款GB200,推理大语言模型性能比 H100 提升 30 倍,成本和能耗降至25分之一。

Blackwell拥有2080亿个晶体管,是上一代芯片”Hopper”800亿个晶体管的两倍多。

2. 【算力】

升级新款有多快?其AI性能为每秒20千万亿次浮点运算,而H100为每秒4千万亿次浮点运算。升级一代,就提升5倍!

英伟达每两年更新一次其GPU架构,实现性能的飞跃。过去一年发布的许多AI模型都是在该公司的Ho­p­p­er架构上训练的。

3.【Ai性能】

该系统可以部署一个27万亿参数的模型。据称GPT-4使用了约1.76万亿个参数来训练系统。

4.【成本和能耗】

Bl­a­c­k­w­e­ll平台能够在万亿参数级的大型语言模型(LLM)上构建和运行实时生成式AI,而成本和能耗比前身低25倍。

5.【软件】

英伟达企业软件订阅中添加一款名为NIM(英伟达推理微服务)的新产品。NIM让使用较旧的英伟达GPU进行推理(或运行AI软件的过程)变得更加简单,并允许公司继续使用其已经拥有的数亿个英伟达GPU。与新AI模型的初始训练相比,推理所需的计算能力较少。

对于那些希望运行自己的AI模型,而不是从Op­e­n­AI等公司购买AI结果作为服务的企业来说,NIM无疑是他们的得力助手。该软件还将助力AI在配备GPU的笔记本电脑上运行,而非仅限于云端服务器。

6.【股价】

英伟达的股价在过去12个月里飙升了240%,使英伟达成为美国股市市值第三的公司,仅次于微软和苹果。

配图,不代表任何股票推荐,仅供参考。

AI应用专栏,更新到25期!本周新增内容:http://t.cn/A6lpTTjq[爱你][爱你][爱你]

Ai直播课回放:《24年春季行情02:Ai底部掘金》点击http://t.cn/A6Yafnmj 本期核心目录:

1、Ai四大分支:选谁上车?怎么抄?
2、Sora题材催化:用这4个选择指标
3、Ai半路上车:一个手机上的好方法
4、4个案例拆解:超跌反弹的强势票

发布于 广东