找回密码
 注册
搜索
查看: 3|回复: 0

22-28 年英伟达链路,从 H100 到 Feynman:探究算力、存储、互联三者之间的演进关系

[复制链接]
发表于 2 小时前 | 显示全部楼层 |阅读模式
22-28 年英伟达链路,从 H100 到 Feynman:探究算力、存储、互联三者之间的演进关系需要阅读的最后一篇文章










看完这篇文章,你可以获得

搞清楚英伟达的过去、现在和未来的技术方向
了解英伟达和存储容量之间的演进关系,现在卡在哪里?
为什么英伟达背后在投资各种光模块厂商? $COHR
$MRVL
$GLW
$LITE

内存是一堵墙,如何打破?为什么互联是 scale up 和 scale out 最终的解药?

如果你没时间往下看,记住最关键的一句话:在过去的产品线迭代里,存储是主线,而英伟达接下来的主线——存储在砍,即将进入全新的互联时代,互联即将成为英伟达的主线。抓住主线,就抓住了投资机会

欢迎关注我的账号



























美研芒格君





@Kay2289123


·
7月17日











6 月一整个月不太好过。我发了许多条心理按摩,也解读了若干条市场逻辑的错误,甚至公开了自己部分的操作,例如,Meta 算力过剩时候的抄底,以及 AMAT、KLA,我的思考、埋伏逻辑以及卖出的时间点。口说无凭,6 月持仓截图附上
显示更多











引用






















美研芒格君





@Kay2289123


·
7月17日










下跌期间的痛苦来源于:你在向市场要确定性,而市场只出售两样东西:赔率和时间明白自己在买什么、为什么买是非常重要的。大部分人都没有搞懂,因此赚钱的是少部分人永远保有纪律,永远保留 40% 现金仓位。慢慢变富是投资者最大的敌人 x.com/Kay2289123/sta…



























1、正文开始



为了写清这篇文章,我把 NVIDIA 从 2021 年 Grace CPU 发布,到 2026 年 Feynman 路线图公开的发布会、产品页和系统手册,研究了一遍。

我发现要搞懂投资,是三十多个名字。

H100、H200、B100、B200、B300、GH200、GB200、GB300、Grace、Vera、Rosa、Rubin、Rubin Ultra、Feynman、DGX、HGX、MGX、NVL72、NVL576、Kyber……

但写到一半,我发现更基础的问题还没有被回答。

B200 和 GB200 只差一个 G,为什么前者是一颗 GPU,后者却能一路指向一整座机架?Vera Rubin 里谁是 CPU,谁是 GPU?“Vera Ultra”又到底是什么?NVL576 是不是一只塞进 576 颗 GPU 的巨型机柜?

如果这些名字还没分清,你看所有的光互联和算力,都是一头雾水。只有阅读明白了英伟达的架构路线,才知道内存的演进、互联的演进、token 效率的提升,才能真正把握住投资的主线

接下来,我会沿着年份把 Hopper、Blackwell、Blackwell Ultra、Rubin、Rubin Ultra 和 Feynman 一代代走完;再把 B200、GB200、DGX B200 和 GB200 NVL72 放到同一张图里

读完以后,你不需要背下全部缩写。

你只需要形成一个反射:每看到一个新名字,一个新闻,就能看懂它属于哪一层、在哪一个阶段,也能够预计 NVDA 下一阶段的路线走向

依据 NVIDIA 官方公开资料重绘。实线节点为已经发布或在产产品;虚线节点为路线图,未来形态和规格仍可能变化。

2、首先要分清楚英伟达的几条业务线



我后来发现,真正让人迷路的不是缩写本身,而是一条新闻常把芯片、组合平台、整机形态和互连规模塞进同一句话。先把它们拆回四张表,名字就不会再互相打架。

第一条是 GPU 线。

H100、H200、B100、B200、B300、Rubin GPU、Rubin Ultra GPU,以及未来的 Feynman GPU,都在这条线上。GPU 承担大部分 AI 矩阵计算。

第二条是 CPU 线。

Grace、Vera、Rosa 归到 CPU 这张表。它们负责让整台机器有秩序地忙起来:启动系统、派发任务、准备数据、管理设备。CPU 不是一颗性能较弱的 GPU,而是调度使用

第三条是 组合系统线。

当 CPU 和 GPU 被紧密连在一起,GH200、GB200、GB300、Vera Rubin 这些名字就出现了。它们可能指 Superchip,也可能被用于描述围绕这组芯片搭起来的平台。

第四条是 服务器、机架和高速连接域。

DGX、HGX、MGX、NVL72、NVL144、NVL576 和 Kyber :芯片装进什么机器、机器占几只机架、NVLink 最终把多少颗 GPU 圈进同一个高速域。

这四条线并不同步。

一颗新 GPU 可以先进入八卡服务器,后来再进入机架级系统;同一颗 CPU 也可以连续服务两代 GPU。

3、22-28 年沿着年份,Nvidia 到底经历了怎样的产品迭代?



2022:Hopper 时代,基本单位还是一台服务器

2022 年 3 月,NVIDIA 发布 Hopper 架构和第一颗 Hopper GPU:H100。

这里最先要分清的是:

Hopper 是这一代 GPU 的共同设计;
H100 是拿来卖的具体 GPU;
DGX H100 是 NVIDIA 自己做的完整八卡服务器;
HGX H100 是交给服务器厂商集成的四卡或八卡基板平台。











2023 年发布的 H200 仍然属于 Hopper。它最明显的升级是换成容量更大、带宽更高的 HBM3E,而不是另起一代新架构。

也就是说,产品规格升级了,架构世代没有改变。

Hopper 时代也有 Grace CPU。

当一颗 Grace 和一颗 Hopper GPU 被紧密连在一起,名字变成 GH200 Grace Hopper Superchip。这里的 G 就是 Grace。

但这一代的主流产品形态,仍然是八颗 GPU 的服务器节点,再通过外部网络把很多节点连成集群。我们今天熟悉的“72 颗 GPU 做成一架高速计算机”,还没有成为主角。

所以不要把 DGX H100 的八卡服务器,直接拿去和后面的 GB200 NVL72 整架做总内存比较。两者的统计范围原本就不同。











2024:Blackwell 到来,B200 和 GB200 从这里分岔

2024 年 3 月,NVIDIA 发布 Blackwell。

Blackwell 是架构家族,B100 和 B200 都是官方出现过的 Blackwell GPU 型号。

B200 则成了 Blackwell 时代最容易被看见的 GPU。

但 B200 仍然只在 GPU 这一行。

在它前面加一个 G,变成 GB200,意思完全变了:

1 颗 Grace CPU + 2 颗 B200 GPU = 1 个 GB200 Grace Blackwell Superchip
再往上组装:

2 颗 Grace CPU + 4 颗 B200 GPU = 1 个计算托盘
18 个计算托盘,加上 9 个 NVLink 交换托盘、供电、液冷和管理设备,才组成一座 GB200 NVL72:

36 颗 Grace CPU + 72 颗 Blackwell GPU = 1 个 72-GPU NVLink 高速域
过去,AI 计算主要由许多八卡服务器通过外部网络合作;到了 GB200 NVL72,NVLink 把 72 颗 GPU 连成协作更紧密的机架级系统。它在连接上更像一台机柜大小的计算机,但 72 颗 GPU 仍各有自己的 HBM,软件还要安排数据放在哪一颗上。











2025:Blackwell Ultra,把 Blackwell 这一代继续做厚

2025 年,Blackwell Ultra 发布,具体 GPU 叫 B300。

它不是一套名叫“B300 架构”的全新大架构。NVIDIA 自己的说法是:Blackwell Ultra 建立在 Blackwell 架构之上,是这一代的进一步演进。

于是同一套命名规则又出现了:

B300 是 Blackwell Ultra GPU;
DGX B300 是装有 8 个 B300 封装、使用 x86 主机 CPU 的完整服务器;
GB300 是 Grace CPU 与 Blackwell Ultra GPU 组合后的平台;
GB300 NVL72 是 36 颗 Grace CPU 与 72 颗 Blackwell Ultra GPU 组成的机架级系统。











2026:Vera Rubin 不是一颗芯片,而是两条路线终于汇合

到了 2026 年,名字从字母数字,变成了两位科学家的姓。

Vera 是 CPU。Rubin 是 GPU。

一颗 Vera CPU 与两颗 Rubin GPU 紧密连接,组成 Vera Rubin Superchip;36 颗 Vera CPU 和 72 颗 Rubin GPU,再被做成 Vera Rubin NVL72。

所以 Vera Rubin 不是一颗叫作“Vera Rubin”的 GPU。

截至 2026 年 8 月,NVIDIA 已表示 Vera Rubin 芯片和系统正在扩大生产,合作伙伴产品和云实例从 2026 年下半年开始提供。但产品页上的很多数字仍写着最高值或初步规格,不能把它们当成每位客户的标准出货配置。

这里顺手纠正一个很常见的叫法:

没有一条独立的“Vera Ultra”产品线。

CPU 的路线非常清楚:

Grace → Vera → Rosa
GPU 的路线则是:

Hopper → Blackwell → Blackwell Ultra → Rubin → Rubin Ultra → Feynman










2027:Rubin Ultra 把一只机架和一个高速域彻底拆开

Rubin Ultra 的官方目标窗口是 2027 年下半年。它仍然属于路线图产品;截至 2026 年 8 月 7 日,NVIDIA 尚未完整公开最终 GPU 型号、内存容量、功耗和量产系统规格。

现在最容易误读的是 NVL576。

早期材料很容易让人以为,Rubin Ultra NVL576 是一只塞进 576 颗 GPU 的超级机柜。按照 NVIDIA 2026 年 3 月公布的最新架构,它其实是:

8 只各有 72 颗 GPU 的 MGX 机架,共同组成一个 576-GPU NVLink 域
与此同时,NVIDIA 还公开了 Kyber。

Kyber 是下一代机架设计,不是 GPU。单只 Kyber 机架的目标是 NVL144,也就是 144-GPU 域;8 只 Kyber 机架以后还可以组成 NVL1152。

NVL72 时,一只机架和一个高速域经常恰好重合;到了 NVL576,一个高速域已经横跨八只机架。域的数字在变大,物理机柜不一定跟着变成一只更大的柜子。

这也是为什么以后看到“NVL 数字变大”,不能直接脑补成机柜越来越高、越来越宽。这里扩大的,是跨越八柜的 scale-up 高速域,不是传统意义上的 scale-out 网络。











2028:Feynman 是下一站,不是一台已经拍好照片的机器

Feynman 是 NVIDIA 放在 2028 路线图上的下一代 GPU 架构,配套 CPU 叫 Rosa。

目前公开的,是高层方向:新的 GPU、Rosa CPU、下一代 NVLink、CPO 光互连,以及继续沿用 Kyber 机架思路。

但 Feynman 的正式 GPU 型号、HBM 容量、功耗、Superchip 名称和具体供货季度都没有完整披露。

因此,封面上的 Feynman 只能画成一个尚未填满的轮廓。











4、B200、GB200、DGX B200:就差一个 G,为什么能差一整座机架



如果全文只留一张图,我希望是下面这张。











依据 NVIDIA 官方系统文档重绘。图中数量用于解释层级,不代表所有合作伙伴系统都采用完全相同的机械结构。

从下往上看:

B200 是一颗 Blackwell GPU。

GB200 是 1 颗 Grace CPU 加 2 颗 B200 GPU 的紧耦合组合。它不是一台完整服务器。

GB200 计算托盘 装入 2 颗 Grace 和 4 颗 Blackwell GPU,相当于两组 GB200。

GB200 NVL72 再把 18 个计算托盘与 9 个 NVLink 交换托盘装进一架,得到 72 颗 GPU 和 36 颗 CPU。

旁边还有一条支线:

DGX B200 是 NVIDIA 自己卖的完整八卡服务器,里面是 8 颗 B200 GPU 和 2 颗 Intel Xeon CPU。它没有把 Grace 放进 GB200 Superchip,因此 DGX B200 不等于 GB200。

5、一座 NVL72,到底长什么样



以 NVIDIA DGX GB200 官方硬件指南
中的参考配置为例,一座机架里有:

18 个计算托盘,每个托盘 4 颗 GPU、2 颗 Grace CPU;
9 个 NVLink 交换托盘,负责让 72 颗 GPU 高速互连;
供电母线、网络交换机、管理设备和液冷歧管;
本地 NVMe 数据缓存和启动盘。





















所以它不是 72 台各算各的电脑。

更准确的理解是:它是一台被做成机柜大小的计算机。

为什么一定要这样做?

大模型运行时,不会把整份工作交给一颗 GPU。参数、激活值和缓存会被切成许多份,分散到不同 GPU;一次计算还没走完,下一颗往往已经在等上一步的结果。因此整套系统有两种速度:芯片自己算得有多快,以及中间结果送到同伴手里有多快。后一项太慢,规格表上的峰值算力就落不到实际任务里。

顺着这条等待链,我们再看两个经常被混用的词。

先看 scale-up。它统计的是同一个 NVLink 高速域里的近邻协作:有时刚好装进一柜,有时会像 Vera Rubin Ultra NVL576 那样跨越多柜。只要 GPU 仍通过 NVLink、NVSwitch 或机架间直接光互连待在同一高速域里,跨柜也仍然属于 scale-up。

再看 scale-out。它把已经相对独立的高速域或系统接成更大的集群,常见通道是 ConnectX 网卡配 InfiniBand 或 Spectrum-X Ethernet。于是判断标准不是线有没有跨过机架,而是这条连接位于高速域之内,还是负责连接两个高速域。

GB200 NVL72 的官方整架 NVLink 总带宽是 130TB/s;到了 Vera Rubin NVL72,这个数字提高到 260TB/s。连接不会让 72 份 HBM 自动变成一块没有边界的大内存,软件仍然要拆分模型和数据,但它能大幅降低 GPU 彼此等待的代价。











概念图。用于解释高速域与外部网络的关系,不代表具体端口数量或布线。

6、从 GB200 到 Vera Rubin,变化最大的并是 GPU 数量。而是内存



先认四个词

HBM 是贴近 GPU 的高速内存,最贵,也最快;
LPDDR5X 是 CPU 一侧容量更大的内存,SOCAMM2 是它在机架里的可维护模块形态;
TB 表示容量,回答“能放多少”;
TB/s 表示带宽,回答“一秒能搬多少”。

GB200 NVL72、GB300 NVL72、Vera Rubin NVL72 都有 72 颗 GPU。名字换了三代,GPU 数量却没有增加。

变化的是每颗 GPU 身边的内存、CPU 一侧的内存,以及两层内存搬数据的速度, 也就是互联

GB200:先把 72 颗 GPU 做成一个机架级系统

GB200 NVL72 官方规格
给出的 HBM3E 容量是 13.4TB,整架 HBM 总带宽是 576TB/s。

36 颗 Grace CPU 一侧还有 17TB LPDDR5X,合计带宽约 14TB/s。

如果只做简单加法,两层近端内存一共约 30.4TB。

GB300:GPU 数量没变,先把 GPU 手边的空间做大

GB300 NVL72 官方规格
仍是 72 颗 GPU、36 颗 Grace CPU。

HBM3E 从 13.4TB 提高到约 20TB,增加接近一半;CPU 侧内存仍约 17TB。两层合计约 37TB。

很有意思的一点是,官方整架 HBM 总带宽仍约 576TB/s。

也就是说,这一代更明显的变化是“多放一些”,让更大的模型和更长对话产生的中间计算结果留在 GPU 本地,不必频繁搬出去。这类为了记住当前对话而保存的中间结果,通常叫 KV Cache。

Vera Rubin:HBM 容量基本横住,带宽和 CPU 内存上限却跳了

Vera Rubin NVL72 官方产品页
给出的 HBM4 上限是 20.7TB,和 GB300 的 20TB 接近。

但整架 HBM 总带宽提高到约 1,580TB/s,是 GB300 的 2.74 倍。

CPU 一侧的 LPDDR5X 上限,则从 17TB 提高到 54TB。

于是两层近端内存的最高规格变成:

20.7TB HBM4 + 54TB LPDDR5X = 74.7TB
从 GB200 的约 30.4TB,到 Vera Rubin 的最高约 74.7TB,合计上限变成 2.46 倍。

但这个数字不能写成“每架标准出货一定有 74.7TB”。

20.7TB 和 54TB 都保留了官方最高、初步规格的口径。能变成内存厂收入的,是客户最后买了什么配置,以及一共交付多少架。

最近相信大家也看到了新闻,说 Vera Rubin Ultra 准备削减 HBM 的总用量

7、同样是内存,英伟达的发展路线已经将它分成了冷热分层



一座机架里,其实住着三种“记忆”。

AI 已经学到的参数、计算中的临时结果,以及当前对话的 KV Cache,会尽量留在 GPU 旁边的 HBM,因为这些数据很快又会被用到。

稍后才会用、但仍需要较快调取的内容,可以放在 CPU 一侧的 LPDDR5X。SOCAMM2 是把这种 LPDDR5X 做成可维护模块的形态,不是一种与 DRAM 并列的新介质。

模型文件、训练数据、训练存档和更冷的 KV Cache,则更多交给基于 NAND 的 NVMe SSD。

HBM 和 LPDDR5X 本质上都属于 DRAM;SSD 则是断电后仍能保存数据的存储设备。

HBM 是手边的工作区,CPU 内存是稍远的暂存区,SSD 是容量更大的仓库。仓库可以很大,却不能替代伸手就要拿到的工具。

GB200 的 CPU 内存容量比 HBM 更大,但 HBM 总带宽大约是 CPU 内存的 41 倍。

这就是为什么多装一些便宜内存,不能直接解决 HBM 的问题。

英伟达自己的 Dynamo KVBM 指南
已经把推理时的 KV Cache 做成跨层系统:热数据放 GPU HBM,温数据去主机内存,更冷的数据再去本地 SSD 或远程存储。

未来并不是 HBM、普通 DRAM、SSD 三选一。

更可能是软件不断判断:哪一段数据值得占用最贵的位置,哪一段可以多等一会儿。















8、最后,通过英伟达看互联存储光模块我只看五个变量



如果不想每天被新名字带着跑,我会把跟踪框架压缩成五项。

一,机架生产、系统出货和最终安装。

生产和系统出货更接近当期拉货;安装和通电则验证客户是否消化了这些机器。

二,每架实际内存含量。

HBM 看每颗 GPU 容量和代际;SOCAMM2 看真实出货配置;SSD 看每架实际装了多少,以及是否真的承担持续缓存。

三,认证、份额和良率。

通过认证不等于平分订单,开始量产不等于良率成熟,展示样品更不等于进入标准配置。但保持耐心,往往能让我们在最合适的时间进行布局

四,机架外的瓶颈。

CoWoS、供电、液冷、网络、并网和数据中心建设,任何一环都可能限制最终装机。

五,内存周期有没有反转。

高价格会刺激资本开支。几年后新晶圆厂、封装产能和制程升级同时释放,如果 AI 需求没有跟上,短缺仍然可能变成过剩。

这套逻辑也有明确的失效条件。

算法可能让同样一次 AI 服务少用很多内存;客户可能把工作交给更省内存的定制芯片;数据中心可能因为回报不及预期而减少建设;内存厂也可能扩产太快,让短缺重新变成过剩。任何一项发生,价格和利润率都会改变。

希望你看完这篇文章,最大的变化,是不再把 H100、B200、GB200、NVL72 和 Feynman 当成一串需要死记的密码。

H100、B200、B300 在 GPU 线上;Grace、Vera、Rosa 在 CPU 线上;GB200、GB300、Vera Rubin 是两条芯片线汇合后的组合系统;DGX、HGX、MGX 说的是怎样把它们做成机器;NVL72、NVL576 说的是多少颗 GPU 被连进同一个高速域,而且这个域不一定只占一只机架。

最后再把数据放进去:最热的数据住 HBM,稍远的数据住 CPU 内存,更冷的数据去 SSD;连接、供电和液冷决定整座系统能不能跑起来。

这时再看一条“内存砍半”或“机架延期”的新闻,我不会先问笼统的“英伟达是不是不行了”。

而会变成:

它发生在哪一条产品线、哪一个硬件层级、哪一种内存、哪一个量产阶段?

这个问题,才和投资有关。

9、核心资料



NVIDIA:Hopper 架构与 H100

NVIDIA:H200 仍属于 Hopper

NVIDIA:Blackwell、B200、GB200 与 NVL72

NVIDIA 与 AWS:官方材料中的 B100

NVIDIA:DGX B200 官方系统指南

NVIDIA:Blackwell Ultra、B300 与 GB300

NVIDIA:Vera Rubin 平台

NVIDIA:Vera Rubin NVL72

NVIDIA:Rubin Ultra、Kyber 与 Feynman 的最新系统拓扑

NVIDIA:Feynman 与 Rosa 路线图

NVIDIA Investor:GTC 2026 路线图,Feynman 位于 2028

NVIDIA:Dynamo 多层 KV Cache

Micron:面向 Vera Rubin 的 HBM4 量产进展

SK hynix:与 NVIDIA 的多年内存技术合作

Samsung:GTC 2026 的 HBM4 与 Vera Rubin 相关产品







您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|小黑屋|boway Inc. ( 冀ICP备10011147号 )

GMT+8, 2026-8-9 12:34 , Processed in 0.030486 second(s), 18 queries .

Powered by Discuz! X5.0

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表