【讯飞星火X2.5发布 总参数达2930亿】近日,科大讯飞正式发布星火X2.5大模型。该模型采用MoE架构,参数规模为293B-A30B。据了解,星火X2.5采用混合专家(MoE)架构,总参数量为2930亿,每次推理激活参数量为300亿。该模型基于全国产算力完成全流程训练,支持256K上下文。
发布于 河南
【讯飞星火X2.5发布 总参数达2930亿】近日,科大讯飞正式发布星火X2.5大模型。该模型采用MoE架构,参数规模为293B-A30B。据了解,星火X2.5采用混合专家(MoE)架构,总参数量为2930亿,每次推理激活参数量为300亿。该模型基于全国产算力完成全流程训练,支持256K上下文。