超聚变
25-03-21 17:36 微博认证:超聚变数字技术股份有限公司官方微博

#吞吐性能飙升60%!FusionOne AI单机跑满血DeepSeek,打破H20性能天花板!#

近日,#超聚变FusionOne AI大模型一体机#通过软硬协同,深度调优,成功打破了H20运行#DeepSeek满血大模型#的性能天花板。在模拟问题对话场景(上下文序列长度1K/1K)下,仅需1台FusionServer G8600搭载8张H20硬件,即可流畅运行DeepSeek R1满血版,支持1024并发访问数,总吞吐量高达6335 token/s,性能领先业内H20方案60%。其中,TPOT(Time per Output Token)时延相比业内H20方案减少40%,单台FusionOne AI大模型一体机即可支撑数千人规模企业使用,将单机H20运行大模型的性能推向新高度。

超聚变FusionOne AI大模型一体机以极致成本、性能跃升的双重突破,大幅降低DeepSeek-R1 671B 模型的部署门槛,以普惠形态让更多企业和科研机构能够轻松应用。未来,#超聚变#将持续加大研发投入,聚焦AI算力优化与应用拓展,#加速企业AI应用落地#。

发布于 河南