阿伟的数码日记
26-07-22 09:57 微博认证:数码博主

OpenAI战略负责人公开承认K3性能“无法用蒸馏实现”,这比月之暗面的官方否认更有说服力。他们摆出了Moon Clip等三项自研架构,称能让20T数据跑出40T效果。从Fable模型解禁到K3发布仅15天,真要蒸馏2.8万亿参数模型,这时间连数据清洗都完不成。性能跃升背后,看来是实打实的底层创新。 #月之暗面否认K3是蒸馏小模型#

发布于 江苏