ZEALER
25-08-04 19:21 微博认证:ZEALER中国

【适用于消费级显卡的开源模型:腾讯混元 0.5B、1.8B、4B、7B 模型开源发布】

8 月 4 日消息,腾讯混元今日发布了四款开源的小尺寸模型,参数分别为 0.5B、1.8B、4B、7B,消费级显卡即可运行,适用于笔记本电脑、手机、智能座舱、智能家居等低功耗场景,且支持垂直领域低成本微调。

目前,四个模型均在 Github 和 Huggingface 等开源社区上线,Arm、高通、英特尔、联发科技等多个消费级终端芯片平台也都宣布支持部署。

新开源的 4 个模型属于融合推理模型,具备推理速度快、性价比高的特点,用户可根据使用场景灵活选择模型思考模式 —— 快思考模式提供简洁、高效的输出;而慢思考涉及解决复杂问题,具备更全面的推理步骤。

效果上,四个模型均实现了跟业界同尺寸模型的对标,特别是在语言理解、数学、推理等领域有出色表现,在多个公开测试集上得分达到了领先水平。

这四个模型的亮点在于 agent 和长文能力,模型原生长上下文窗口达到了 256k,部署上,四个模型均只需单卡即可部署,部分 PC、手机、平板等设备可直接接入。#腾讯混元#