韩国媒体报道称，英伟达要求三星更改其高带宽内存（HBM）的设计，这将导致供货进一步延迟。巧合的是，三星股价也在同一天下跌。该报道在发布几小时后就被删除。三星否认了这一消息。

就在上个月，三星更换了芯片部门的负责人，很多人认为这是三星在 HBM 方面落后于竞争对手的反应。此后，有关三星未能赢得 Nvidia 合同的类似报道也不断出现。

Nvidia 曾经是内存制造商的小客户，只购买少量图形 DRAM。现在它已经成为与 Apple 级别相当的顶级客户之一。

这是因为生成式人工智能的流行，它导致了芯片行业发生翻天覆地的变化。例如，晶圆厂设备制造商韩美半导体的市值如今与收入为其百倍的 LG 电子相近。换句话说，整个芯片行业正在经历繁荣。一些公司会崛起，另一些会倒下。

周二，英伟达超越微软，成为全球市值最高的公司。自 2022 年 11 月 30 日 OpenAI 推出 ChatGPT 以来，这家 GPU 制造商的股价和收益一路飙升。

Nvidia 最新财季营收 260.4 亿美元，营业利润 169 亿美元（利润率令人难以置信），远超市场预期。AI GPU 占其营收的 86.7%。在 ChatGPT 之前，游戏 GPU 是其主营业务，但从 2022 年中期开始，AI GPU 在营收方面开始超越它们。

该公司的 AI 加速器 H100 采用其 GPU 和 SK Hynix 的 HBM，每块板的成本为 5000 万韩元。但需求超过了供应。Nvidia 首席执行官黄仁勋在最新季度电话会议上表示，其继任者 H200 预计也将面临短缺。

AI加速器板短缺的原因是其封装所用部件的生产能力不足。H100和H200在一块大板上有一个硅中介层。GPU和HBM放置在中介层上。虽然HBM芯片芯片供应确实很慢，但台积电的晶圆上基板芯片（CoWoS）封装生产能力慢到瓶颈。还有硅中介层。

台积电正在积极扩大其 CoWoS 封装产能。然而，硅中介层的情况则有所不同。

硅中介层用于将多个芯片集成到一个封装中以传输电信号。

而且 H100 中使用的中介层相当大。据台积电称，H100 上的硅中介层是光刻掩模尺寸的 3.3 倍（26×33 mm=858mm2）。因此，中介层的表面积为 2831mm2。这意味着使用 40 纳米 (nm) 工艺，如果良品率为 100%，300 毫米晶圆最多可以提供 9 个中介层单元。考虑到中介层在晶圆上时要经过布线和硅通孔工艺，因此会有一些有缺陷的单元，因此单个晶圆实际上可以提供 6 到 7 个中介层。

随着 GPU 变得越来越先进，它们将变得更大，HBM 的数量也将增加。这意味着中介层也需要变得更大。据台积电称，到 2026 年，中介层的尺寸将是光刻掩模的 5.5 倍，到 2027 年将增加到 8 倍。因此，单个晶圆上可制造的中介层数量将进一步下降到 5 个。这一限制是玻璃基板（可充当中介层）受到芯片制造商高度关注的原因之一。

由于产能不足，台积电正在从联电等其他公司采购中介层。但这只是短期解决方案。台积电的 CoWoS-L 或具有本地互连的 CoWoS 等新封装技术需要商业化，其中中介层仅放置在必要的区域。然而，这需要与前端工艺相当的复杂程度。

虽然时机对三星来说很重要，但中介层短缺可能是 Nvidia 不可避免地向这家韩国科技巨头下订单的原因。三星是少数能够设计和生产自己的中介层的芯片制造商之一。它还拥有 HBM 和 2.5D 封装生产能力。三星本月早些时候在其三星代工论坛上强调，它是唯一一家能够提供交钥匙内存、中介层和封装的公司。

对于三星来说，更大的挑战是赶上 SK Hynix 的 HBM，后者的设计特性是针对 Nvidia 的 GPU 定制的。这是全球内存芯片领导者三星从未遇到过的情况。三星的 HBM 能否通过 Nvidia 的质量测试？似乎可以。但关键在于如何通过，而不是何时通过。