人才76116
23-07-11 07:53 微博认证:财经博主

【华为云“All in ”大模型:盘古3.0登场加速百“模”大战,目前国内一半左右大模型的创新由昇腾AI来支持[给力]】华为云的“野心”还是很宏大的!在让人眼花缭乱的大模型竞赛中,华为盘古大模型依然颇为引人注目。业内预期,盘古3.0强势登场将进一步搅动大模型市场。
“前有盘古开天地,万物新生;今有‘盘古’纵四海,行业重塑。我们致力于打造世界AI另一极,提供新的选择。”张平安表示。

张平安在发布盘古大模型3.0时介绍,盘古大模型不是单个大模型,而是一个面向行业的大模型系列,它包括“5+N+X”三层架构:L0层包括自然语言、视觉、多模态、预测、科学计算五个基础大模型,L1层是N个行业大模型,L2是专注于具体行业应用或特定业务场景的模型服务,可以做到“开箱即用”。

 “让行业客户就像抓药一样,想要什么就可以要什么。”张平安说,盘古大模型采用完全的分层解耦设计,可以快速适配和满足行业的多变需求。科研机构和企业可以直接调用包括NLP大模型的知识问答、文案生成、代码生成,以及多模态大模型的图像生成、图像理解等能力,也可以基于自有数据,训练自己的专有大模型。

华为构建了以鲲鹏和昇腾为基础的AI算力云平台,为大模型开发和运行提供分布式并行加速,算子和编译优化、集群级通信优化等关键能力。基于华为的AI根技术,大模型训练效能可以调优到业界主流GPU的1.1倍。本次大会期间,华为单集群2000P Flops算力的昇腾AI云服务在华为云的乌兰察布和贵安AI算力中心同时上线。

据华为介绍,昇腾AI的全球开发者已超过180万,孵化和适配了30多个大模型,目前国内有一半左右大模型的创新都是由昇腾AI来支持的。同时,昇腾AI已发展有30多家硬件伙伴、1200多家ISV,推出了超过2500个行业解决方案。

通过架构创新,华为昇腾 AI 集群效率已提升 10%。目前,集群规模从最初的 4000 卡集群扩展至 16000 卡,是业界首个万卡 AI 集群,拥有更快的训练速度和 30 天以上的稳定训练周期[good]。

盘古大模型3.0为客户提供100亿参数、380亿参数、710亿参数和1000亿参数的系列化基础大模型,匹配客户不同场景、不同时延、不同响应速度的行业多样化需求。

当前,华为的盘古大模型已在金融、制造、医药研发、煤矿、铁路等诸多行业发挥价值。

http://t.cn/A60zXi2o

发布于 浙江