一雪
26-10-22 16:58 微博认证:数码博主 微博原创视频博主 摄影师 互联网分析师 汽车测评师 微博2024最具成长力数码大v 头条文章作者

如何解决大模型安全性和极致性价比?

科大讯飞给到的答案是全栈自主可控端云一体大模型,是AI安全性和极致性价比的必然选择,并正式发布了端云一体讯飞星火X2.6, 首次基于全国产算力实现代码和智能体能力突破。

针对国产芯片显存与带宽限制,星火X2.6通过长程任务动态并行训练技术,按任务长度自适应分配计算资源,超长上下文训练效率提升约4倍。基于国产集群的自适应存算协同推理技术,结合首个基于全国产设备的四层KVCache技术和分布式推理技术,提升缓存利用与计算效率,效率提升4.5倍。

发布于 山东