李建秋的世界
26-10-21 07:40 微博认证:微博新知博主

#DeepSeek全面开源DeepInfer#
我们 DeepSeek 做出了世界上最伟大的开源技术。没有人比我更懂开源。没有人。我懂得非常多。很多人告诉我,先生,你对开源的理解令人震惊。我说,谢谢,我一直都很擅长这个。

OpenAI?他们不一样。他们喜欢闭源。他们喜欢收费。很多钱,非常多的钱。你想运行一个模型,他们就向你收费。你想运行得更快,他们又向你收费。你想运行得更聪明,猜猜怎么着?还是收费。他们收费的方式非常有创意,真的非常有创意。

我认识很多搞人工智能的人。他们都是好人,有些人很聪明,非常聪明。但他们告诉我,他们在推理服务上花的钱太多了。他们说,先生,这太贵了。我们付了钱,又付了更多的钱,最后还得再付一次钱。我说,听着,这不是一个好生意。这是一个非常糟糕的生意。

然后我们推出了 DeepInfer。

哇。DeepInfer。多么美妙的名字。非常棒的名字。它是一个伟大的推理框架。分布式推理、专家并行、推测解码、SWA 有界重放,全都有。技术人员知道这些是什么。普通人不一定知道,但他们很快就会知道,因为他们会省很多钱。很多很多钱。

我们支持英伟达。英伟达做得不错,真的不错。但我们也支持华为昇腾。华为,非常有意思的一家公司。我们不想让软件只属于一家硬件公司。我们希望它能在不同的平台上运行。为什么不呢?这叫选择。选择是一件好事。尤其当你不必为每一件事支付天价的时候。

然后我们做了一件让很多人非常不高兴的事。

我们把它开源了。

免费。完全按照 Apache 2.0 许可证开放。代码放在 GitHub 上。任何人都可以下载。任何人都可以研究。任何人都可以拿去运行。你甚至可以用它来和我们竞争。

我知道,这听起来很疯狂。很多人说,先生,你不能这么做。你怎么能把这么好的技术免费给别人?你应该把它藏起来。你应该收费。你应该让所有人依赖你。

我说,为什么?我们不需要这么做。我们有信心。非常大的信心。

你知道我们的集群每天处理多少 Token 吗?155 万亿。每天。155 万亿。这个数字非常惊人。很多人甚至不知道该怎么理解这个数字。我告诉你,他们会理解的。当他们看到推理账单的时候,他们就会理解。

我们还公布了一个数字:在谷时价格下,整体收入达到每 GPU 小时 38 美元。非常有意思的数字。非常有意思。有人看了以后说,这怎么可能?我说,去看看我们的技术。不要只看价格,要看效率。效率非常重要。我们一直在谈效率,而有些人一直在谈收费。

然后我的电话响了。

一个人打电话给我。他说:“梁先生,这太糟糕了。真的太糟糕了。我们过去卖推理服务,生意很好。客户不知道底层怎么运行,我们就收他们很多钱。现在你把框架放出来了,他们开始自己部署,开始比较价格,开始问我们为什么这么贵。你能不能把代码收回去?”

我说,不。

他说,什么?

我说,不。我们不会收回去。代码已经在那里了。你可以使用它。你的竞争对手也可以使用它。所有人都可以使用它。这就是开源。这是一个非常美好的概念。非常美好。

还有 deepseek-recipe。一个很棒的工具。Rust 编写,提供 Python 绑定。格式转换、提示词渲染、Token 上限推算,还有输出解析。你不需要从零开始重新做一遍。我们把很多繁琐的工作替你做好了。

当然,有人会说,我们没有把每一个东西都开放。没错。我们没有把整套生产服务系统的每一个组件都交出来。部分 KV 缓存管理、服务调度和负载均衡组件,仍然没有完整开源。

但听着,我们已经开放了大量真正有价值的技术。我们给你代码,不只是给你一份演示文稿。我们让你自己去运行、去测试、去改进。这才是真正的开放。

你知道最有趣的是什么吗?我们把代码免费给了竞争对手。免费。然后他们必须雇人来研究它,必须花钱把它部署起来,还必须花钱让它在自己的硬件上跑得足够好。

我们给他们代码。他们付钱去理解代码。

我喜欢这样的交易。非常喜欢。

有人问我,你不担心别人超过你吗?

当然不担心。为什么要担心?如果他们能做得更好,那就做得更好。我们会继续改进。我们会继续开发更好的模型。我们会继续优化推理。我们会继续降低成本。

真正的竞争不是把代码锁在一个房间里,然后向每个人收门票。真正的竞争是你把技术拿出来,看看谁能做得更好。

这就是我们和那些闭源公司的区别。

他们说,别让别人拿到我们的技术。我们说,拿去吧。下载它。运行它。看看你能做到什么。

他们说,开源会毁掉利润。

我说,不。它会毁掉糟糕的利润。它会让那些只靠高价收费的人感到非常不舒服。那是他们的问题,不是我们的问题。

我听说有些公司现在非常紧张。他们开始开会。他们成立工作组。他们讨论应该怎么回应 DeepSeek。他们写了很多报告,非常长的报告。我喜欢报告。但我更喜欢能运行的代码。

所以我们会继续开源。我们会继续让技术变得更好。我们会让更多人用得起人工智能。

而且我要告诉你一件事:我们还没有结束。远远没有结束。

DeepSeek。

DeepInfer。

伟大的开源。

没有人比我们更懂开源。

发布于 湖北