深度阅读页面

Marvell把内存搬出GPU,用光连成32TB共享池,英伟达的投资和反制比你想的更早

当前页面聚合文章正文、发布时间、上下篇切换、分享交互与延伸阅读内容,帮助用户更顺畅完成深度阅读。

Marvell把内存搬出GPU,用光连成32TB共享池,英伟达的投资和反制比你想的更早

当前位置

文章正文区域

大发体育 - 放眼世界体坛,见证冠军荣耀时刻 2026-11-23 401 阅读 约 5.5 分钟

大发体育关注到以下体育动态:

GPU为什么这么贵?

很大一部分钱其实花在了“内存”上。

Marvell 想出一个办法:把内存从GPU身上拆下来,放到独立的机架里,用光纤连成一个大池子,让最多16块GPU共享32TB内存。

这样一来,算力不够就只加内存,不必为了内存整台买GPU,资本开支有望大幅下降。

但英伟达不会看着自己的生意被撬走——它一边入股Marvell,一边已经备好了自己的答案。

1.

先看懂困境:GPU 为什么成了“世界上最贵的内存控制器” 大模型跑起来需要两个关键部件:GPU负责“算”,高速内存负责“记”。

模型推理时,参数和每段对话的上下文都得放在离GPU极近的高速内存(HBM)里,因为离得越远、读取越慢,性能越差。

问题就出在这里:现在HBM和GPU封装在同一个芯片上,两者距离只有约1.

5 毫米。

想多要内存?

唯一的办法是再买一块 GPU。

可HBM本身极其昂贵,赶上内存短缺期更要命——服务器内存价格一路暴涨。

雪上加霜的是,大模型的“工作记忆”(KV 缓存,即每段对话保留的上下文)随长文本和智能体场景越滚越大,一旦超出本地容量,服务器要么把旧内容清掉重新计算,要么从慢速存储里现取,性能直接崩盘。

一句话总结:在传统架构里,“买内存”和“买 GPU”是绑死的,AI 基础设施的钱就是这么烧掉的。

Marvell CEO Dave Lazovsky 点破了本质——GPU基本上就是“世界上最贵的内存控制器”。

2.

about image

Marvell的解法:把内存搬出机架,用光连成共享池 Marvell在投资者日上公布了光子织物内存模块(Photonic Fabric Memory Module),号称是首个用光互联的大容量、高带宽存储器。

其主张很简单:用光代替铜线。

光不受距离限制,可以把几十TB的内存集中放到一个独立机架里,供多个处理器同时共享——多个 AI 服务器共享内存,从此成为可能。

具体怎么搭?

16个模块串成一台光子织物存储设备:每个模块带 72GB HBM3e插槽、最多8条DDR5内存条、一块光子织物ASIC芯片和7.

2Tbps的光输入输出。

插满 256GB 内存条、16 个模块全部连起来,就是32TB DDR5 + 约 1TB HBM3e的共享内存池。

模块之间用全对全光纤直接互通,不走电气交换,避免电信号这个瓶颈。

最关键的场景是KV 缓存跨节点共享:A 加速器算好的上下文,B 加速器可以直接拿来复用,不用重算。

Marvell 高管的原话是——随着 AI 扩展,内存必须越来越独立于计算。

这背后的资本支出逻辑很直白:如果内存可以单独买,运营商就不必为了多拿容量而连 GPU 一起买。

内存不够就只扩内存,这才是省钱的大头。

3.

蓝图很美,但请先看这几处“注脚” 第一,东西还没做出来。

目前处于硅前阶段(芯片还没流片),计划 2027 年才给客户送样,离量产和规模化部署还差得远。

第二,“省钱”是说法,不是数字。

Marvell 的博客提到“每 GB 内存成本更低、推理成本更低”,Celestial AI 的幻灯片承诺降低总拥有成本(TCO),但都没有给出任何支撑数据。

资本开支节省目前只是一个论点,不是可以核算的数字。

第三,时机有点尴尬。

这套方案要用128条DDR5内存条,而当下恰逢内存短缺——服务器 RDIMM 的价格已经涨到危机前的约5.

5倍。

相当于在最贵的时候囤货。

第四,创新成色要打个折。

这套架构 Celestial AI在2025年就公开展示过(同样是 16 模块、32TB DDR5 + 约 1TB HBM),TechRadar 2024年就报道过其 DDR5+HBM方案。

Marvell带来的增量,是实体模块、自家徽章和一张采样时间表。

第五,16 块 GPU也要打个引号。

32TB是16个模块拼起来的整机数字,不是单个模块的容量;

所谓共享给 16 台主机,主机可以是一整台服务器、也可以是单个加速器,所以16块 GPU既可能低估了覆盖范围,又可能高估了单块GPU实际能分到的带宽。

4.

英伟达不会袖手旁观——它早就出手了,而且多线并进 英伟达不是刚反应过来的,它的布局已经持续超过一年: 一边入股对冲。

2026 年 3 月,英伟达向 Marvell 投资20亿美元,合作涉及 NVLink Fusion和硅光子学,黄仁勋宣称“推理的转折点已经到来”。

更关键的是,每个 NVLink Fusion 平台都必须至少包含一款英伟达产品——也就是说,就算定制芯片抢走了插槽,英伟达照样收钱。

一边自己下场。

英伟达为同一个“内存难题”准备了好几套答案: 一是更大的现成内存:一台 Vera Rubin NVL72 机架就能装 54TB 的 LPDDR5X 内存,比 Marvell 整台设备的内存还多;

二是专用存储层:GTC 2026 上发布的 BlueField-4 STX,是

更多体坛动态,关注大发体育。

觉得有用?分享给朋友

让更多人看到这篇内容

推荐阅读