DeepSeek 又有新动作开源推理引擎路径
应用介绍
DeepSeek 在其声明中所述：几周前，在开源周期间，我们开源了几个库。社区的反响非常积极——激发了令人鼓舞的合作、富有成效的讨论和宝贵的错误修复。受此鼓舞，我们决定再迈出一步：将我们的内部推理引擎回馈给开源社区。
几周前， 在开源周期间， 我们开源了几个库。 社区的反应非常积极 - 激发了鼓舞人心的合作，富有成效 讨论和有价值的错误修复。 受此鼓舞，我们决定再向前迈出一步：将我们的内部推理引擎贡献回给开源社区。
我们非常感谢开源生态系统，没有它，我们就不可能朝着 AGI 迈进。 我们的训练框架依赖于 PyTorch，并且构建了我们的推理引擎 在 vLLM 上， 这两者都有助于加速 DeepSeek 模型的训练和部署。
鉴于对部署 DeepSeek-V3 和 DeepSeek-R1 等模型的需求不断增长，我们希望尽可能多地回馈社区。 虽然我们最初考虑开源我们完整的内部推理引擎，但我们发现了几个挑战：
我们非常感谢开源运动 - 从作系统和编程语言到机器 学习框架和推理引擎。很荣幸能为这个繁荣的生态系统做出贡献并看到我们的模型 以及社区所接受的代码。让我们一起突破 AGI 的界限，确保其优势惠及所有人。
为了澄清起见，本文仅概述了我们开源 DeepSeek-Inference-Engine 代码库的方法。 对于未来的模型发布，我们对开源社区保持开放和协作的立场 和硬件合作伙伴。 我们承诺在新模型发布之前主动同步与推理相关的工程工作，使用 使社区能够从第 0 天开始获得最先进的 （SOTA） 支持的目标。我们的最终目标是培养 同步生态系统，可以在不同的硬件上无缝实现尖端的 AI 功能 平台。
这种开源方式获得了 vLLM 官方的高度认可，vLLM 在转发 DeepSeek 的相关动态时附言： @deepseek_ai 的高性能推理引擎是建立在 vLLM 之上的。现在他们正在以正确的方式开源引擎：不是创建一个单独的仓库，而是将变更带给开源社区，这样每个人都可以立即受益！
此次开源推理引擎路径的公布，是 DeepSeek 在开源道路上的又一重大举措，有望进一步提升其在全球 AI 领域的影响力，为开源社区的发展注入新的活力，推动整个人工智能技术的进步。
