蚁工厂
26-09-10 19:35 微博认证:科技博主

为了方便部署DeepSeekV4.1 Flash,DeepSeek刚刚新开源了三个项目
github.com/deepseek-ai/deepseek-recipe
负责把 OpenAI、Anthropic 等 API 请求转换成 DeepSeek V4.1 可直接处理的输入格式,并解析模型输出。可以理解为官方提供的“对话模板 + 多模态预处理 + Tool Call/Thinking 协议适配层”。

github.com/deepseek-ai/DeepSelect
一个高性能 TopK 算子库,主要用于 DeepSeek Sparse Attention(DSA)以及生成采样等场景。它的目标是把“从大量候选里快速选出最重要的 K 个”这一步做得比通用 torch.topk 更快。

github.com/deepseek-ai/DeepJIT
为 CUDA、Ascend 等平台上的自定义高性能 Kernel 提供统一的 JIT 编译、缓存和加载能力。它解决的是“不同硬件、不同 shape 下如何方便地动态编译和复用最优 Kernel”的工程问题。

发布于 山东