【罗福莉、朱军、刘知远、安波与王仲远对谈:“重构世界”才刚刚开始,语言模型与世界模型正并驾齐驱】6月12日,第八届“北京智源大会”开幕式圆桌环节,在智源研究院院长王仲远的主持下,小米MiMo大模型负责人罗福莉,清华大学教授、生数科技创始人朱军,清华大学教授、面壁智能首席科学家刘知远以及南洋理工大学校长讲席教授安波,围绕“重构世界”这一主题展开对谈。其中,罗福莉:其实,Fable 5(指Anthropic新模型)目前的训练结果,是一个非常科学地去做Scaling的中间的产物。从发布的整个参数量级来看,我们猜测它应该是目前最强、最大的开源模型的几倍。比如,在预训练数量级上,做了几倍的Scaling(规模扩张);其次,在预训练或者说在强化学习上,应该也有非常大的、至少是数量级的投入。
发布于 湖南
