至于下一代的AI芯片，幾乎都已經(jīng)擁抱了第六代HBM-HBM4。英偉達(dá)Rubin平臺(tái)將升級(jí)為HBM4，Rubin GPU內(nèi)置8顆HBM4，而將于2027年推出的Rubin Ultra則更多，使用了12顆HBM4。AMD的MI400也奔向了HBM4。

從HBM供應(yīng)商來(lái)看，此前AMD、英偉達(dá)等主要采用的是SK海力士。但現(xiàn)在三星也正在積極打入這些廠商內(nèi)部，AMD和三星目前都在測(cè)試三星的HBM。6月4日，在臺(tái)北南港展覽館舉行的新聞發(fā)布會(huì)上，黃仁勛回答了有關(guān)三星何時(shí)能成為 Nvidia 合作伙伴的問(wèn)題。他表示：“我們需要的 HBM 數(shù)量非常大，因此供應(yīng)速度至關(guān)重要。我們正在與三星、SK 海力士和美光合作，我們將收到這三家公司的產(chǎn)品?！?

HBM的競(jìng)爭(zhēng)也很白熱化。SK海力士最初計(jì)劃在2026年量產(chǎn)HBM4，但已將其時(shí)間表調(diào)整為更早。三星電子也宣布計(jì)劃明年開(kāi)發(fā)HBM4。三星與SK海力士圍繞著HBM的競(jìng)爭(zhēng)也很激烈，兩家在今年將20%的DRAM產(chǎn)能轉(zhuǎn)向HBM。美光也已加入到了HBM大戰(zhàn)行列。

炙手可熱的HBM也成為了AI芯片大規(guī)模量產(chǎn)的掣肘。目前，存儲(chǔ)大廠SK Hynix到2025年之前的HBM4產(chǎn)能已基本售罄，供需矛盾日益凸顯。根據(jù)SK海力士預(yù)測(cè)，AI芯片的繁榮帶動(dòng)HBM市場(chǎng)到2027年將出現(xiàn)82%的復(fù)合年增長(zhǎng)率。分析師也認(rèn)為，預(yù)計(jì)明年HBM市場(chǎng)將比今年增長(zhǎng)一倍以上。

三星電子DRAM產(chǎn)品與技術(shù)執(zhí)行副總裁Hwang Sang-joon在KIW 2023上表示：“我們客戶當(dāng)前的(HBM)訂單決定比去年增加了一倍多。”三星芯片負(fù)責(zé)業(yè)務(wù)的設(shè)備解決方案部門總裁兼負(fù)責(zé)人 Kyung Kye-hyun 在公司會(huì)議上更表示，三星將努力拿下一半以上的HBM市場(chǎng)。三星內(nèi)存業(yè)務(wù)執(zhí)行副總裁Jaejune Kim對(duì)分析師表示，該公司將在2023年至2024年間將其HBM產(chǎn)能增加一倍。

互聯(lián)：重要的拼圖

AI芯片之間互聯(lián)一直是個(gè)難題，隨著近年來(lái)越來(lái)越多的加速器被集成到一起，如何高效傳輸數(shù)據(jù)成為了瓶頸。由于PCIe技術(shù)的發(fā)展速度跟不上時(shí)代需求，目前主流的AI芯片廠商都已經(jīng)自研了互聯(lián)技術(shù)，其中較為代表的就是英偉達(dá)的NVlink和AMD的Infinity Fabric。

NVIDIA的下一代Rubin平臺(tái)，將采用NVlink 6交換機(jī)芯片，運(yùn)行速度為3600GB/s，上一代的Blackwell采用的是NVlink 5.0。NVlink設(shè)計(jì)之初，就是為了解決傳統(tǒng)的PCI Express (PCIe) 總線在處理高性能計(jì)算任務(wù)時(shí)帶寬不足的問(wèn)題。下圖顯示了英偉達(dá)各代NVlink的參數(shù)情況。