OpenAI战略负责人公开承认K3性能“无法用蒸馏实现”,这比月之暗面的官方否认更有说服力。他们摆出了Moon Clip等三项自研架构,称能让20T数据跑出40T效果。从Fable模型解禁到K3发布仅15天,真要蒸馏2.8万亿参数模型,这时间连数据清洗都完不成。性能跃升背后,看来是实打实的底层创新。 #月之暗面否认K3是蒸馏小模型#
发布于 江苏
OpenAI战略负责人公开承认K3性能“无法用蒸馏实现”,这比月之暗面的官方否认更有说服力。他们摆出了Moon Clip等三项自研架构,称能让20T数据跑出40T效果。从Fable模型解禁到K3发布仅15天,真要蒸馏2.8万亿参数模型,这时间连数据清洗都完不成。性能跃升背后,看来是实打实的底层创新。 #月之暗面否认K3是蒸馏小模型#