是煦煦哟
25-10-01 00:05 微博认证:科技博主 超话小主持人(科技超话)

2025年9月29日,深度求索发布DeepSeek V3.2-Exp模型,选用国产TileLang开发。
TileLang是一种专门用来开发GPU内核的领域专用语言,性能可对标英伟达CUDA,且采用Python式语法,基于TVM编译器构建底层架构,方便调试和快速迭代,能让开发者专注于算法逻辑,降低开发门槛。
DeepSeek团队在V3.2版本中采用TileLang进行快速原型开发,随后以TileLang作为精度基线,通过更底层的方法进一步优化性能。
使用TileLang可将FlashAttention算子开发代码量从500余行缩减至80行,同时保持与官方版本相当的性能。在DeepSeek V3.2中,借助TileLang在内核层面共享k-v缓存的设计,配合DSA闪电索引器机制,显著提升了计算效率。
DeepSeek V3.2发布后,华为昇腾、寒武纪等国产芯片厂商宣布实现了对其适配。华为昇腾已实现TileLang的Sparse Flash Attention和Lightning Indexer算子开发,后续将支持更完备的NPU算子,有助于构建国产AI算力闭环。 #科技# http://t.cn/AX7NHExW

发布于 福建