王小川创立的百川智能发布了他们的第一个大语言模型baichuan-7B。从评测结果看,在Gaokao(参考高考题设立的评测)、AGIEval(评估模型的认知和解决问题的评测)两项都要优于其他开源模型。
地址:github.com/baichuan-inc/baichuan-7B
baichuan-7B开源可商用,基于 Transformer 结构,在大约1.2万亿 tokens 上训练的70亿参数模型,支持中英双语,上下文窗口长度为4096。分词器明显优于 LLaMA, Falcon 等开源模型。
发布于 山东
