【四大国产GPU可以在一起了】上海人工智能实验室推出DeepLink多元算力混合推理加速方案,实现了对华为昇腾、沐曦、阿里平头哥、壁仞等多款国产GPU芯片的混合调度与协同推理,性能也大幅提升,对比单一芯片方案,推理时延TTFT最大可优化34.5%,推理吞吐最大可提升32%。
发布于 广东
