#月之暗面正式推出开源模型Kimi K3#
7月17日，月之暗面正式推出Kimi K3。Kimi K3是一个2.8万亿参数模型，基于KDA混合线性注意力机制（Kimi Delta Attention）和注意力残差（Attention Residuals）技术构建，原生支持视觉理解，并拥有100万token上下文窗口。它是全球首个开源的3万亿级别模型，面向长程编程、知识工作和推理等前沿智能场景而设计。（36氪）
发布于 北京
投资界微博