在人工智能的狂飙突进中,业界曾长期将GPU视为算力的绝对核心。然而,随着AI技术从训练阶段迈向推理与智能体(Agentic AI)时代,一场关于计算架构的深刻变革正在发生。
7月6日消息,被誉为“HBM之父”的韩国科学技术院(KAIST)电气系教授金正浩近日接受采访时指出,AI的核心竞争力正从GPU转向内存。他断言,AI的本质是内存,在当前的AI推理过程中,GPU真正用于计算的时间仅有10%至30%。这一论断不仅揭示了当前AI硬件的底层瓶颈,更预示了未来存储芯片在AI应用中的颠覆性发展趋势。
过去,AI的发展高度依赖大模型训练,GPU凭借其强大的并行计算能力成为性能的决定性因素。然而,着眼现在与未来,AI正全面进入推理时代。在这一阶段,AI系统需要处理海量多模态数据,执行复杂的多步骤任务。
金正浩指出,AI每次输出结果,都必须先从HBM(高带宽内存)读取数据、传到GPU进行计算,再将结果写回内存。这种传统的冯·诺依曼架构导致了严重的数据搬运瓶颈。即便部署百万块GPU,其大部分时间仍在等待数据。
因此,决定AI性能上限的不再仅仅是计算速度,而是“一次能处理多少数据、能以多快速度处理数据”,内存能力已直接决定了AI的性能天花板。
为了解决内存容量与带宽的瓶颈,HBM(高带宽内存)应运而生,它通过垂直堆叠DRAM芯片,将传统内存的“8车道高速公路”拓宽至1024甚至2048车道。
然而,随着多模态AI和Agentic AI的出现,AI需要24小时不间断工作,保存视频、文档、长期记忆等海量冷数据,内存需求将比现在暴增1000倍。仅靠HBM已无法满足这一需求。
在此背景下,HBF(High Bandwidth Flash,高带宽闪存)成为下一代技术路线的必然选择。HBF将NAND闪存像HBM一样进行垂直堆叠。如果说HBM是摆在桌旁用于快速查阅的“参考书”,那么HBF就是容量巨大的“图书馆书架”。NAND闪存虽然速度不及DRAM,但容量大、可长期保存数据,在推理场景中足以满足“冷数据”的存储需求。
金正浩预测,10年后,HBF的市场需求将超过HBM。目前,SK海力士、三星、闪迪等企业正加速布局,HBF工程样片预计于2027年面世,并有望在2028年被英伟达、谷歌等巨头采用。
在HBM与HBF之后,存储技术的演进并未停止。金正浩提出了更为超前的HBS(High Bandwidth SRAM)概念。SRAM的读写速度比DRAM快约1000倍,但传统上因密度低、成本高,仅作为芯片内的小容量缓存。HBS的构想是将整张12英寸晶圆全部做成SRAM,并垂直堆叠12至16层,从而将容量扩展至1600GB,实现极致的高速数据处理。
基于这些技术,金正浩描绘了未来AI计算机的终极形态——一栋“100层3D大楼”。
在这个庞大的三维建筑中,GPU被置于顶层负责散热与计算;HBM充当“商场”,提供高速数据吞吐;HBF作为“住宅区”,提供海量长期存储;HBS则承担极速缓存功能。
各种形态的存储芯片组合在一起,形成复合体,源源不断地向GPU供给数据。这种内存中心化(Memory-Centric)的架构,将彻底颠覆传统以CPU/GPU为核心的计算范式,GPU最终可能沦为嵌入内存系统中的普通零部件。
不过,百层“3D大楼”结构存储芯片的产业化之路并非坦途。这条技术路线最大的工程挑战不在于计算,而在于供电与散热。要给GPU和堆叠内存供应数千安培的电流,电力供应网络的设计将成为最难的技术壁垒,也将成为企业间真正的核心竞争力。
来源:电子工程专辑