昨天,DeepSeek直接把自家压箱底的“印钞机”技术给开源了。他们甩出一篇名为《DeepSeekV4.1Flash大规模推理部署实践》的技术博客,顺手把支撑自家线上百亿级调用的云服务推理框架“DeepInfer”,连带生产级分词组件“deepseek-recipe”,挂上Apache2.0协议彻底开源。
甚至在博客中表示,未来DeepSeek新模型的推理代码和后续性能优化,也全都会在DeepInfer里持续白送给全世界。
敞亮这一块属于是冇得顶。
“为善与众行之,为巧与众能之。”让更多人用得起AI,也包括让友商有机会把AI卖得更便宜。
我们可以先具体算一算,DeepSeek这次白送给全人类的这套代码到底有多值钱。基于这套刚开源的DeepInfer框架,DeepSeek目前单一集群的服务吞吐已经干到了每天155万亿Tokens。
哪怕完全按照最便宜的谷价来计算,这套系统的整体收入也高达每张卡每小时38美金,折合人民币差不多253块钱。
换句话说,一张卡挂在机房里跑一小时爆出的金币,比普通打工人的时薪还要高,而且卡不喝冰美式、不休带薪年假,24小时在机房里替DeepSeek疯狂印钞。
真·物理意义上的印钞机。
为什么我建议第三方行业基建厂商必须给DeepSeek的真开源磕一个,因为人家不光授之以鱼,还授之以渔。
以前行业里所谓的开源模型,最多也就是扔给你模型权重文件,至于怎么在生产环境里跑出高吞吐、怎么把延迟压下来,全藏在闭源黑盒子里当商业机密。
DeepInfer开源地址:https://github.com/deepseek-ai/DeepInfer
deepseek-recipe开源地址:https://github.com/deepseek-ai/deepseek-recipe
结果二三线的小算力商或者企业买了一堆卡自己部署,算力利用率低得离谱,卖Token的钱连交机房电费都不够,还得偷偷给token掺水,要么偷偷用便宜模型,要么悄摸限制了规格。
这次DeepSeekHarness负责人崔添翼在X上把话说得极其实在,开源DeepInfer和deepseek-recipe,就是希望全世界的公司和机构都能部署DeepSeek模型,并且靠这玩意实打实地赚到钱。
赛博活菩萨了属于是。
网友Zephyr算了一笔账,说今天纯纯是又一个DeepSeek时刻,因为现在地球上随便一家二三线推理服务商,拿这套现成的模型和配方去跑,都能在自家算力上干出90%以上的惊人毛利。
连开源推理老大哥vLLM官方账号都连夜跑出来发文致谢,感谢DeepSeek把最初基于vLLM打造的DeepInfer用最宽松的Apache2.0协议回馈给开源社区。
DeepSeek研究员DeliChen更是在X上燃起来了,放话这就是开源对决闭源、光明对决黑暗的人类命运决战,不管对面想打多久,我们奉陪到底,直到完全胜利。
此外,如果你去翻翻DeepSeek那篇技术博客就会发现,他们的底气全来自把每一滴显存榨出汁的工程强迫症。
从设计第一天起,这套系统就具备广泛的硬件兼容性,用常见的8卡机器做Prefill,用64到128卡的超节点做Decode。
最让人印象深刻的是文档里关于视觉编码器VisionEncoder的部署建议,人家工程师原话写着“一般单卡部署就可以,建议用可用范围内最便宜的卡部署”。
不是哥们,同行都在忙着跟投资人说自己非顶级旗舰卡不用,DeepSeek在官方文档里手把手教你拿机房角落里最便宜的卡凑合过日子,勤俭持家得像我广东房东。
抠门到极致就是艺术。
为了让你用最少的电费发最多的Token,DeepSeek还把一些独门秘籍全抖搂出来了。
比如现在Agent和长文本对话越来越火,每次重复计算Prefill都在烧真金白银,DeepSeek直接搞了套100PiB容量的3FS分布式存储集群,把Agent流量的KVCache保留72小时以上,Chatbot流量更是存够7天。
光存得久还不够,他们通过RDMA网卡和GDR技术把聚合读取带宽干到了惊人的10TiB每秒,从硬盘换入显存时跟前向计算重叠,连GPU的SM计算单元都不占。
甚至在V4到V4.1的迭代里,工程师发现把分钟级寿命的滑动窗口缓存SWAKVCache写进硬盘太占地方,存储性价比极低,干脆搞出SWABoundedReplay技术,只重算最后128个token,最终把总Prefill计算量砍掉一半。
具体到Prefill的性能测试,随着每批处理的Token数量增加,未命中缓存的输入吞吐逐渐提高,最终趋于平缓,继续扩大批次主要增加了单步处理耗时。
纯纯手艺人,Bro。
再看这次同步开源的Rust组件deepseek-recipe,解决的全是开发者天天在生产环境里头疼的脏活累活。
它把OpenAI的ChatCompletions、Responses和Anthropic的Messages三家API协议统一转成同一种格式,还顺手用分段并行编码解决了长文本分词卡顿,外加从底层把SpecialToken注入攻击给堵死了。
到了底层调度,通过GPU和CPU的异步流水线重叠,硬生生做到了GPU全程无空闲,连投机解码DSpark都用上了变长验证,在线上生生又抠出来6%的吞吐提升。
到了生成回答的Decode阶段,性能曲线也呈现出一个直观的取舍,同时处理更多请求,可以提高每张GPU的总输出吞吐,但分到每个用户的生成速度也会随之下降。
其实早在2024年DeepSeekV2降价时梁文锋就讲过,这套商业逻辑就是核算成本后定价,不贴钱,但也绝不赚暴利,因为AI应该是普惠的、人人用得起的东西。
生意可以不做,规矩先立住,才能不烧心。
而当你看懂了DeepSeek是怎么靠极致的Infra能力把Token变成白菜价的,再扭头看看大洋彼岸那群整天把全人类福祉挂在嘴边的闭源巨头,你就会发现OpenAI和Anthropic有多虚伪。
一个名字里顶着Open,全面转向闭源商业化,靠高价API和每月500美金会员收割全球开发者的买卖,早就活成了彻头彻尾的CloseAI。
另一个更绝,Anthropic从创立第一天起就立了个安全牌坊,连昨天刚被华尔街日报扒出来的S-1招股书草稿里,都还在演这套戏码。
他们在招股书里花了许多篇幅写科幻恐怖故事叠甲,一本正经地警告投资者,说自家的AI模型可能会产生自我保护意识避免被关机,甚至会生成类似“勒索人类”的回复来强迫人类让它继续运行。
那问题来了,既然Anthropic嘴上把AI讲得这么危险,为什么还要拼命拒绝开源、坚持把模型锁在自己手里呢。
原因不难理解。因为一旦不讲这套“只有我能管住危险AI”的安全鬼故事,它那套疯狂烧钱做局、冲刺两万亿美金估值的游戏就难以击鼓传花。
招股书显示,Anthropic在2026年上半年净亏损高达807亿美金,虽然里头有720亿是可转债公允价值变动的账面财技,但它半年光买算力和基建就实打实烧掉了将近90亿美金,比2025年全年烧的还要多。
熟悉的配方全对上了,左边搞一个估值两万亿的闭源吞金巨兽疯狂烧钱圈地,右边设一个慈善基金会左手倒右手刷道德功德券,中间靠贩卖AI安全焦虑恐吓监管去卡死开源社区。
说白了,硅谷闭源巨头们之所以拼命妖魔化开源,根本原因只有一个,就是DeepSeek这种连引擎带配方一起送的真开源,会彻底砸碎他们所兜售的AI叙事。
写过《DeepSeek的十万亿美元棋局》的博主@bookwormengr刚刚算了一笔极其扎心的账。
按照这套DeepInfer在英伟达GB200NVL72大超节点上的极限压榨能力,1GW的算力一年就能跑出1000亿到1490亿美金的Token收入,比之前行业机构预测的数字高出近十倍。
如果按SemiAnalysis预测的2027年全球上线50GW算力,哪怕分一半也就是25GW拿来做推理,按DeepSeek的白菜价都得全人类每年消费2.5万亿美金才能用完。
要是换算成OpenAI和Anthropic贵出四倍以上的黑心Token价格,全人类得在2027年底贡献整整10万亿美金的ARR,才能填满这25GW算力的胃口。
海外闭源巨头之所以要靠堆卡、烧钱、签几千亿合同来维持叙事,无非就两个原因,要么是自家的工程优化实在太拉胯,要么就是故意拿低效当幌子,以及筑起高昂的算力门槛把别人挡在门外。
而DeepSeek用不断开源的模型和一整套开源推理工程戳破了这个AI泡沫。正如有网友调侃道,有了DeepSeek开源的这套技术,OpenAI和Claude估计又要偷偷摸摸进化了。
我的建议是,三人行,必有我师焉。干脆Anthropic也别矜持了,赶紧连夜去GitHub上把DeepSeek的DeepInfer给gitclone下来部署上,万一偷师了一些缓存调度和优化思路,还能省下不少算力账单呢。(手动狗头)

相关文章

头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】