在a16z10月上旬上线的播客节目《Chips, Memory, and Power》中,英特尔前CEO帕特·基辛格(Pat Gelsinger)对主导AI芯片的高带宽内存(HBM)给出了毫不留情的评价:”HBM是一种丑陋的内存,但那已是我们能拿到的最好方案。"他进一步解释称,HBM的位密度糟糕,带宽受制于"海岸线"(shoreline)物理限制,还存在功耗和散热问题,"DRAM不喜欢高温,把所有东西集中在一个地方,对AI这种内存计算型负载来说太糟糕了"。

(英特尔前CEO帕特·基辛格)
这并非他首次批评HBM。今年7月在巴黎举行的RAISE峰会上,他就当着SK海力士高级副总裁兼院士Hoshik Kim的面称HBM是一种"糟糕的内存",还自嘲"说别人的孩子丑不是交朋友的好办法"。颇具戏剧性的是,Kim随后当众承认HBM"或许不是内存技术的终局",被现场主持人追问"SK海力士这是承认HBM不是好内存了吗",场面一度尴尬。
基辛格指出的技术痛点有明确的技术背景。HBM是”宽而慢"的架构:HBM3/3E总线宽度为1024位,明年量产的HBM4将翻倍至2048位,海量的微凸点连接需要物理层接口(PHY)在计算芯片边缘占据一整块无法压缩的硅片,而芯片周边长度有限,且通常只有两条边能用于布置HBM堆栈,另外两条要留给系统I/O,这构成了"海岸线带宽"的硬上限。与此同时,DRAM芯片间的大量硅通孔(TSV)会挤占存储单元空间,导致单芯片位密度显著下降。韩国科学技术院(KAIST)的热分析还显示,当HBM功耗超过约30W后,PHY自发热会取代GPU核心成为内存热应力的主要来源。
从行业证据看,基辛格的批评基本站得住脚,甚至可以说是业界的"公开秘密"。美光CEO Sanjay Mehrotra早在2024年3月的财报电话会上就向投资者披露,在相同技术节点下生产同等比特数的HBM3E,约需消耗DDR5三倍的晶圆供应。到了2026年8月的Hot Chips大会上,美光进一步警告这一晶圆惩罚正随每一代HBM恶化,”内存墙”问题在加剧。

(美光HBM3E结构)
这正是当前DRAM短缺的物理根源。由于HBM与DDR5争抢同一批晶圆产能,且每单位HBM消耗3-4倍于普通DRAM的晶圆,原厂把产能转向HBM就等于直接从普通内存供给中"抽血"。供应链研究机构Fusion Worldwide的数据显示,HBM占全球DRAM晶圆产出的比例已从2024年的约8%升至2026年的约23%;三星电子执行副总裁Kim Taewoo9月表示,HBM占DRAM行业晶圆产能的比例预计将从目前的约20%升至2027年的接近30%,而普通DRAM供给被挤出的速度将是这一比例的两到三倍。
供应端的紧张与基辛格的批评形成了互文。摩根大通的研报预计内存短缺可能持续到2028年,到2028年底HBM相关晶圆可能占DRAM总产能约32%。南亚科总经理李培瑛在3月表示,受制于原厂产能向HBM转移(南亚科预计HBM占全球DRAM产出比例将从2025年的7%升至2026年的10%),DRAM供应紧张可能延续到2028年。南亚科二季度营收同比暴涨684%、毛利率转正至79.5%的财报,本身就是”需求远超供给"的注脚。
不过,批评需要加上两重注脚。其一,HBM短期内仍无可替代——三大原厂2026年HBM产能基本售罄,且以带宽论它仍是现役最优解,基辛格本人也承认"那是我们现有的最好方案"。其二,基辛格如今的身份是投资人:这次批评发生在a16z的播客里,他明确提到a16z投资的D-Matrix正在做相关方向,并透露自己"刚刚投资了一家仍处于隐身状态的新内存公司"。他的批评与自己的投资布局方向高度一致,读者不妨将其视为一场带仓位的产品路演。
基辛格给出的答案是:堆叠。"未来是属于堆叠的——你必须以某种根本性的新结构把内存和计算放在一起。"他认为行业正转向通过混合键合(hybrid bonding)把内存直接堆叠到计算芯片之上,而非像现在这样置于芯片旁边,并点名D-Matrix、Cerberus等公司的技术路线作为例证。

(混合键合两种主流方式,图源:SK海力士)
他对两条热门替代路线则明确说不。对于用光互连把内存从封装中解放出来的方案,他认为光电光(OEO)转换次数越多功耗损失越大,”每比特通信的飞焦耳能耗比每比特计算差上千倍”。对于存内计算(PIM),他的评价更直接——"PIM的想法已经存在25到30年了,再过25到30年它们还会在那儿挂着"。
在材料层面,他看好铁电材料等非电容式、高密度且可堆叠的新型存储介质,认为”30年来内存创新第一次近在眼前"——他自称职业生涯中至少参与过5种新内存架构、近距离见过近100种方案,其中绝大多数没能活到量产,上一次重大内存创新还要追溯到30年前。他还打趣说,英特尔当年亲手"杀死"了傲腾(Optane)。
不过,基辛格并不看好激进的高堆叠:认为3到5层是良率与复杂度的甜蜜点,内存堆栈以2层或4层为宜,同时把供电和光I/O整合进三维结构中。他给出的判断是,过去四年内存行业市值增加了约2.5万亿美元,资本与需求的合力终于足以支撑突破这些物理挑战。
来源:电子工程专辑