元力社
26-07-20 17:56 微博认证:元宇宙资讯、产业服务平台!专注元宇宙、大空间、AI等前沿科技。

【#光电融合芯片有望让Token成本降50%#】

据媒体报道,随着AI智能体在千行百业加速落地,Token调用量持续高速增长,如何推动算力成本进一步下降,已成为产业链各方发力的核心议题。

业内介绍,当前主要降本路径之一是通过算力平台实现对多个主流大模型的协同调度,在保证性能的前提下综合降低词元(Token)使用成本。

与此同时,大规模算力集群也在全国范围内加速建设,其中,由国产算力芯片支撑的超大规模集群被业内视为下一步降本的关键突破口。

在更前沿的技术方向上,光芯片等新型硬件有望在未来三至五年内落地,为算力成本下降提供新的探索空间。

业内人士指出,光电融合芯片相较于传统电芯片,核心优势在于计算延迟更低、功耗更小,预计可使每单位Token成本下降50%甚至更多。

发布于 山东