是煦煦哟 25-09-05 07:00
微博认证:科技博主 超话小主持人(科技超话)

中国推出AI计算开放架构,不用再死磕国外技术了!

最近中国放出了不少AI计算领域的“新工具”,都是实实在在能降低门槛、省钱又好用的,咱们用大白话讲清楚:

- 华为CANN架构:直接把“核心技术”敞开用
8月5号华为开会说,自家AI架构CANN彻底开源了,连配套的开发工具也一起放开。这东西就像AI的“操作系统”,以前想改改、用用都得绕弯子,现在从最底层的计算模块到上层的模型开发,全给开发者开放了。
更实在的是性能和成本:单张卡的推理速度能达到英伟达A100的80%,上千张卡一起干活时,完成任务的时间跟国外方案差得只剩12%;跑千亿参数的大模型时,每处理1000个tokens(大概几百个汉字)成本才3分钱,比英伟达H100便宜40%。简单说,以后做AI项目,不用再死磕国外的CUDA,国产方案也能顶用还省钱。
- 国家级AI计算架构:9月重庆要亮相,多家企业一起搭“便民平台”
根据9月2号的消息,国家先进计算产业创新中心,打算在9月5号重庆智博会上,推出一套针对大规模AI计算的开放架构。不是一家单打独斗,而是联合了好多知名企业,一起把技术放开,还要搞个“联合实验室”。
目的特别接地气:以前不同企业的AI设备、技术标准不统一,对接起来又麻烦又费钱,现在就是要打通上下游,统一标准和接口。以后企业搞AI落地,不用再反复折腾适配,又快又省钱,想扩展规模也容易多了。 http://t.cn/AXPii87E

发布于 福建