Meta今天宣布,公司正式开源Muse Glimmer模型。这是一款30B参数的高效代理模型,采用Apache 2.0许可,可在仅24GB显存的消费级设备上流畅运行。
模型具备完整代理能力,包括任务规划、工具调用、结果自检和故障恢复,并通过4-bit量化与专用架构将显存占用控制在20GB以内。
权重已上线Hugging Face,并兼容Ollama、vLLM等多种框架。
这个模型相当惊艳啊,暴打千问3.6 27B。本地模型目前最好的选择。难道说Llama时期的Meta 要回来了?
发布于 加拿大
