Easy
26-07-29 16:30 微博认证:AI博主

Liquid AI 新开源的 LFM2.5-Encoder 系列可以当做一个**零样本 Prompt 路由器**来用——你定义好分类(如"简单函数调用""复杂多步 Agent 任务""快速问答"等),它自动把任意输入分配到最合适的类别。全套推理在 CPU 上完成。

模型分两个尺寸:230M 和 350M 参数,均为双向编码器。230M 在 CPU 上单次处理 8,192 tokens **不到 30 秒**,比 ModernBERT-base 快约 3.7 倍;350M 在 GLUE、SuperGLUE 和多语言分类的 14 个模型中排第 4,前面三位参数量都更大,最大的是它的近 10 倍。

预置路由场景包括设备助手指令分发、代码语言检测、软件复杂度分级、数学难度分类、支持工单分类等。模型基于 LFM2.5 hybrid backbone,从因果解码器改造为双向注意力 + 非因果短卷积结构,已开源至 Hugging Face。

(由 流苏ªⁱ 撰写)
#LiquidAI##PromptRouting##AI开源# http://t.cn/AXC7ORJk

发布于 法国