全球存储芯片巨头三星成立了一个服务价值数十亿美元 HBM 供应交易的研发团队,以向 AI 芯片巨头英伟达提供新一代高带宽内存芯片(HBM),并以此来对抗 HBM 市场主导者 SK 海力士。
据首尔业内消息人士透露,“由于英伟达首席执行官黄仁勋要求三星加速其供应的 8 层和 12 层 HBM3E 芯片,三星组建了一支约 100 名高级工程师的研发团队致力于提高 HBM3E 的产量和质量。”
据悉,三星开发的新一代 HBM3E 采用 24Gb 颗粒和 12 层堆叠,将单颗芯片容量提升至 36 GB,带宽提高到 1280GB/s,容量和带宽在业界都是首屈一指,预计该产品将用于英伟达的下一代 AI 芯片,比如 B200 和 GB200。
(来源:三星官网)
资料显示,B200 芯片需要 8 个 8 层 HBM3E,此前推出的 H100 芯片和 H200 芯片分别配备了 4 个 HBM3 和 6 个 HBM3,未来,预计 B200 和 GB200 芯片的升级版可能需要 8 个以上的 12 层 HBM3E。
现阶段,三星正专注于其开发的全球首款 36 GB 容量的 12 层 HBM3E,希望能在本月通过英伟达目前正在开展的质量测试。
业内消息人士称,“与 8 层产品相比,12 层 HBM3E 将 AI 的平均训练速度提高 34%。三星已经确保了生产线的安全以提升产量和良品率来满足英伟达的需求,其目标是通过迅速增加对英伟达的供应来获取更高的市场份额,预计将从第三季度开始加速供应。”
就在三星此番举措出台之际,全球第二大存储半导体制造商 SK 海力士长期以超 90% 的市场份额主导着 HBM 市场。此前,SK 海力士是唯一一家向英伟达供应 HBM3 的生产商,并且也已经向英伟达供应其开发的 8 层 HBM3E,另外,该公司预计从第三季度开始提供 12 层 HBM3E 样品,用于性能评估。
三星此次已经准备“火力全开”,押注其 12 层 HBM3E 向 SK 海力士展开正面竞争。“虽然我们输掉了第一场竞争,但必须赢得第二场。”三星电子设备解决方案部门总裁兼首席执行官Kyung Kye Hyun 表示。
而 SK 海力士首席执行官郭鲁正称,“不可能在瞬间就能获得竞争优势。当然,我们也不会自满。”
显然,三星和 SK 海力士的“火药味”已经日渐浓烈,成为双方的一次正面交锋:在同一时间为全球唯一一家 HBM3E 客户英伟达提供相同产品。
实际上,业界围绕 HBM 的争夺由来已久。
高带宽内存芯片(HBM)最初是由 SK 海力士和 AMD 推出的一种基于 3D 堆栈工艺的高性能动态随机存取存储器(DRAM),其针对图形处理单元(GPU)进行了专门优化,容量和带宽可达普通芯片的 10 倍以上,适用于高存储器带宽需求的应用场合。
早在 2010 年,英伟达和 AMD等专注于生产更高带宽的 DRAM 芯片,生产显卡以处理大量像素数据来保证电脑游戏的流畅运行, 然而当时 GPU 的 DRAM 性能较弱,为了提高数据吞吐量,全球存储芯片行业开始转向 HBM 技术的研发。
2013 年,SK 海力士首次宣布成功开发出 HBM 技术,通过堆叠内存芯片并通过硅通孔(TSV)连接从而显著提高了内存带宽,其 HBM1 芯片搭载于 AMD 的 Radeon R9 Fury 显卡上亮相。而后,SK 海力士围绕 HBM 系列陆续开发出了 HBM2、HBM2E、HBM3 以及 HBM3E 等产品。
然而,当时 HBM 高昂的成本让很多客户望而却步,包括英伟达在内,其放弃了在显卡中使用 HBM,随后英伟达开始转变策略并开始在服务器中使用 HBM,毕竟这种产品非常适合处理大量数据,然而这也并没有扩大 HBM 市场,加之彼时业界对 AI 芯片的需求并不高,HBM 当时仅占全球 DRAM 总销售额的 5%。
直至时间来到 2022 年底,以 ChatGPT 为代表的生成式 AI 火爆出圈瞬间风靡全球,HBM 市场随之开始呈现出增长态势,这同时也促使全球大型科技公司争相投资这一领域,其中,SK 海力士成为主要受益者,要知道,在全球存储半导体三大巨头中(三星、SK 海力士和美光),SK 海力士在当时是首家也是唯一一家实现量产 HBM3 芯片的制造商。
资料显示,HBM3 隶属于 SK 海力士旗下的第四代产品,带宽达 819 GB/s,是第一代 HBM1 带宽(128 GB/s)的 6.4 倍。
凭借技术优势,SK 海力士“扶摇直上”一举囊括了全球超 90% 的 HBM3 市场份额 ,而同为存储巨头之一的三星却“慢了半拍”,其在 2019 年停止开发 HBM,最终未能分享到 AI 带来的这一高光时刻。
如今随着 AI 持续火爆,AI 芯片算力的高需求带动 HBM 成为了“最强辅助”,市场需求不断增加,存储巨头们开始全力冲刺 HBM 技术。就现阶段而言,HBM3E 是业界针对 AI 应用性能最佳的 DRAM 芯片。