有些新闻初看不起眼,但几年后回望时才发现其重要性。DeepSeek开源全套推理框架DeepInfer就是这样一个例子。过去几年,大模型行业里“开源”这个词很火,每家公司都宣称自己开放,但实际上,他们通常只开放模型权重,最多附带几个算子库和小工具。这些相当于提供了一整车砖头,但如何砌墙的图纸和施工机器仍掌握在公司手中。而推理框架则是那台关键的施工机器,负责调度模型从训练到实际应用的全过程。
推理框架对普通用户来说并不显眼,但它直接影响了AI使用体验中的两个重要因素:响应速度和服务成本。当你在手机上与AI对话时,背后是推理框架在调度成百上千张计算卡,将你的问题拆分成小任务并最终合成回复。这套系统的效率决定了电费支出和云厂商部署模型的成本。此前,全球没有一家头部大模型公司真正开源过核心推理框架,DeepInfer成为首个做到这一点的项目。这使得许多大模型公司陷入了沉默——承认这一事实意味着承认自己落后,不承认也无法改变已经发生的现实。
另一个值得注意的组件是Deepseek Recap,它解决了自部署企业常遇到的问题:同样的模型权重,在第三方框架下的表现总是不如官方API。Recap通过提供官方编解码逻辑,使企业能够实现与官方API几乎一致的效果。这意味着开源模型可以更可靠地应用于正式业务中,而无需担心性能损失。
DeepSeek此举背后的动机可能是战略选择。该公司并未打算开发面向消费者的聊天应用,而是专注于实现通用人工智能(AGI)。然而,过去的困境在于,如果企业的自部署效果不佳,就会转向购买DeepSeek的服务,导致大量算力被用于服务而非研究。现在通过开源推理框架,DeepSeek实际上是在告诉所有云厂商:你们自行部署,释放我的算力资源,让我专注于更重要的事情。这种策略不仅换取了宝贵的算力资源,还提升了战略专注度。


