36氪
26-07-20 17:50 微博认证:36氪官方微博

【#Kimi回应马斯克隔空宣战#,欢迎马斯克加入“2万亿+俱乐部”】
据央视网报道,中国人工智能公司月之暗面新一代旗舰开源大模型Kimi K3发布当日,特斯拉首席执行官马斯克也在相关评测报道评论区留言:“令人印象深刻。”

随后在社交平台透露旗下2万亿参数模型将于下周完成初步训练,称其全面优于1.5万亿版本,并可能超越Kimi;随后 Kimi官方账号发文回应,欢迎马斯克加入“2万亿+俱乐部”。或许Kimi K3之后,全球AI版图的重绘才刚刚开始。

另据观察者网报道,月之暗面公布的信息显示,Kimi K3模型原生支持图像输入和100万Token上下文,采用Kimi Delta Attention(KDA)、注意力残差(Attention Residuals)以及高度稀疏的混合专家架构,处理每个Token时仅从896个专家中有效激活16个,以提高算力利用效率。

月之暗面称,相关架构和数据训练方法使其整体扩展效率较Kimi K2提高约2.5倍,并补充道Kimi K3在内部评估中,端到端知识工作能力领先GPT-5.5和Claude Opus 4.8。目前,Kimi K3的完整模型权重尚未发布,月之暗面表示将于今年7月27日前发布。更多技术细节将随技术报告一并公布。