【今日份硬核科普已就位，AI世界#源来如此#奇妙】
@微博AI 联合清华大学权威团队@AI光影社 ，带你了解人工智能前沿知识！[并不简单]

大小模型“动态分工”，谷歌探索AI推理新思路[点赞][点赞]

大语言模型虽然功能强大，但推理成本高。传统级联方法节省资源但效率低，推测解码虽提升速度，却未能充分发挥小模型优势。

谷歌团队提出了推测级联方法，将两者结合：小模型生成时，大模型并行验证，并通过基于置信度比较的动态决策规则智能选择最优输出。

这一“动态分工”策略为高效AI推理提供了新思路，未来有望推动智能应用实现更实时、低成本的落地。