#AI开源项目推荐#baichuan-inc/baichuan-7B
王小川的“百川智能”发布了7B参数的中英文LLM
介绍
baichuan-7B 是由百川智能开发的一个开源可商用的大规模预训练语言模型。基于 Transformer 结构,在大约1.2万亿 tokens 上训练的70亿参数模型,支持中英双语,上下文窗口长度为4096。在标准的中文和英文权威 benchmark(C-EVAL/MMLU)上均取得同尺寸最好的效果。
github.com/baichuan-inc/baichuan-7B🔗
发布于 美国
