DeepSeek、通义千问、Kimi-K2 等深度思考的大模型，大家应该都用过。用户对 AI 越来越上头，企业 IT 对算力保障的焦虑也在加剧。过去跑个小模型，8 张 GPU 的服务器还能应付，可带不动 DeepSeek 这种上百个家、毫秒级响应的 MoE 架构理模型。

节点，就是在这一背景下，火起来的。

传统单台 8 卡服务器，无法满足当下大模型训的算力需求。由英伟达率先提出的节点技术，通过内部高速互联，把数十甚至上百个 AI 计算芯片，集中整到一个架构内，打造出基于 Scale-up 的新型架构，以此实现算力的量级跃升。核心优势可以用一个字概括：省。

省钱，节点通过内部高速互联，每张卡都能满负荷运行，避免传统多机柜间的算力闲置空转，GPU 卡和电费就不会浪费了；

省地，以前跑大模型得把多个机柜拼起来，占满半个机房，现在一台节点就能扛起 AI 训任务，物理空间占用更小了；

省事，节点把硬件、互联、管理系统全集成好了，企业接入就能跑大模型，AI 部署更快，而传统多台服务器要单调试、搭建网络、解决散热，一套流程下来，没半年搞不定……

有不少 CIO 或 IT 从业者十分困惑，节点能帮我们用 AI 更省，可怎么还是买不着、用不起呢？有一种"出发点很好，但就是出发不了"的无力感。

的确，目前真正用得上、用得起节点的行业和企业，并不是很多。

原因比较复杂，比如高端 N 卡断供，国产 GPU 规模出货量受限等。其中，有一个因素容易被忽视，那就是节点让 AI 更省的核心逻辑，似乎正在跑偏。

在节点的新闻里，常能看到千卡、单柜 X 百卡等参数互相碾压，媒体追捧节点的新纪录，围观群众也默认，规模越大卡越多的节点就越先进。

但对大多数企业来说，真的需要这么大的算力巨兽吗？斥巨资买回数百卡的节点，能靠 AI 赚回本吗？这些问题，已经到了须回答的时刻。

不可否认，数百卡，甚至上千卡的节点，是国产智算技术进步的证明。但大家有没有想过，我们给手机充电，会关心发电厂的规模有多大，是核电厂还是水电厂吗？只会在乎插上有没有电，电压是否适配，电流是否稳定，会不会把手机烧坏，这些实用层面的问题。

同样的道理，企业部署节点，除了集成多少卡，也要考虑到实际应用中的隐成本：

一是故障率升高带来的中断损失。

节点规模越大，内部光模块、交换机、电源节点就越多，比如某 300 多卡的节点架构漯河塑料挤出机，就涉及近 6900 个光模块和 100 台左右交换机。而在高密度部署场景中，任一环节故障，都可能导致整个训练任务中断。对 AI 大模型训练来说，故障意味着要从 checkpoint 检查点重新加载模型、重启训练，浪费数天时间和高额电费。

对企业来说，不中断、不重训，比多几张卡更加重要。

二是 GPU 闲置导致的每 Token 成本过高。

业内已有共识，节点规模存在"甜点"，过甜点后，继续增加节点规模，能提升有限但成本显著上升。有模拟数据显示，十万亿参数模型，甜点大概在 32-64 卡。也就是说，盲目追求上百张卡的大规模，算力利用率也许并不高，GPU 大部分时间是在闲置。比如说，DeepSeek 官方论文给的参考方案，Decode 阶段需用 144 张 H800，如果节点使用的国产卡算力是 H800 的 1/3，那么在 PD 分离场景下，48 卡甚至 32 卡才是更优选择。

三是运维复杂度提升导致的总体 TCO 成本增加。

高集成度的节点产品，对运维团队的业能力要求高，一旦规模增大，内部故障点也会随之增多，小团队很难靠自己处理。比如英伟达早期就曾尝试过二层架构节点，塑料挤出机将交换机集成到单机内以扩大规模，但企业客户更倾向于选择单层架构，核心就是为了降低故障点、减少运维难度。英伟达 256 卡节点也由于 TCO 总拥有成本太高，而互联网企业客户对 TCO 很重视，未能成功商业化。

所以，节点并不是规模越大卡越多就越好。企业需要的是能解决算力问题，且 ROI 投资回报率优的 IT 基础设施。节点技术的发展，要回归让企业用 AI 更省的出发点，与企业 AI 业务相适配的方案才是优解。

既然堆卡不是出路，那么如何才能让节点真正成为企业的省钱利器？产业界已经给出了答案：回归理漯河塑料挤出机，追求规模与需求的适配，并通过开放生态降低综成本。

一方面，越来越多的厂商将目光投向 32 卡、64 卡这样的更身的规模。

如前所说，过能－成本甜点区之后，节点的边际益就会递减。因此，大量国产厂商聚焦在 32-64 卡的实用化设计，出贴企业需求的产品。比如新华三 UniPoD S80000，实现了单机柜 32/64 卡高密部署等，让多数企业能够负担得起大模型训开销。而且，新华三 UniPoD S80000 采用单层全互联架构，大幅降低了通信延迟和故障点，在 MoE 等主流模型场景下，更有助于保障业务连续。刚好的规模与更高的可靠，成为 AI 算力降本增的关键。

（新华三节点 H3C UniPoD S80000）

另一方面，开放的硬件生态正在成为降低成本的新引擎。

随着国产芯片生态成熟，开放式架构支持多品牌国产加速卡，打破海外高端卡垄断，为用户提供了更多选择，从而降低企业的算力成本。这类开放式节点，也成为算力普惠的关键。比如新华三节点支持多品牌国产加速卡，兼容 CUDA 等主流软件生态，降低企业的供应链成本。

上述实践，有望助力节点的普及，从头部企业的属品，成为千行百业的普惠基础设施。

需要说明的是，数百卡、千卡节点的研发，有其战略意义。这一技术路线，动了光互联、液冷、高密度布线等底层技术的限突破，是中国算力产业仰望星空的冲顶之路。

AI 发展的速度总是出预期，可能今天觉得 32 卡就够了，但明天 DeepSeek 的新模型，也许内含更多家，大规模的节点或许可以带来更低的每 token 成本。所以，适当前，把节点规模进一步做大，可以给后续技术迭代留下一定的冗余。

vivo 的自研力量、Rust 生态的长足发展，以及基础软件开源的不断生长，三者环环相扣，带给科技世界一道全新的风景。

猴头菇是有名的养胃良品，还有人将它做成养胃饼干，其实，养胃哪需要那么麻烦呢？直接把它炖成汤不就好了？

魏女士告诉帮忙君，今年 8 月 30 日，她从旅游公众号上得知，"去哪儿网"放出了春节前后上海往返新西兰的机票"好价"，便立刻出手，购买了两张上海往返新西兰基督城的联程机票，明年 2 月 13 日出发（上海—雅加达、雅加达—悉尼、悉尼—基督城），2 月 25 日返回（基督城—墨尔本、墨尔本—雅加达、雅加达—上海），总价 6516 元。其中上海至悉尼、墨尔本至上海的四个航段由印尼鹰航执飞，悉尼至基督城、基督城至墨尔本两程由新西兰航空执飞。

了解世界，从了解自己开始。人体就像一座大型的游乐园，里头藏着许多惊奇的机关和秘密。每个孩子都对自己的身体无比好奇，在成长的过程中，他们会冒出许多有关身体的小问号。

但对于更广大的 99% 普通企业而言，需要的是脚踏实地的普惠之路。他们更迫切地希望，使用成本可控、稳定可靠的节点产品，解决当下大模型落地的算力焦渴，支撑 AI 在生产力场景中落地。

所以堆卡炫技之外，这条更身的普惠之路，同样势在行，不可偏废。

未来行业发展的理想状态，是这两条路并行不悖。既有震撼世界的算力巨无霸，也有服务千行百业的普惠产品。企业无需关心节点内部有多少卡，只要插上电，AI 就能跑起来，也不用担心基础设施的账单出现天文数字。

实现这一目标，只能靠智算厂商急企业之所急，将可靠、每 token 成本、TCO 等指标，同步纳入节点的研发技术路线图。别忘了，让企业用 AI 更省，才是节点技术的核心价值，也是商业成功的前提。