戴爾公司創(chuàng)始人兼首席執(zhí)行官邁克爾·戴爾近日在公開(kāi)場(chǎng)合對(duì)全球人工智能內(nèi)存市場(chǎng)的發(fā)展趨勢(shì)作出預(yù)測(cè)：到2028年，全球AI內(nèi)存總需求將攀升至2023年水平的625倍。這一判斷基于兩個(gè)關(guān)鍵增長(zhǎng)因素的疊加效應(yīng)——單顆AI加速器的內(nèi)存容量擴(kuò)張與全球數(shù)據(jù)中心部署規(guī)模的同步提升。

以英偉達(dá)產(chǎn)品路線為例，其AI加速器的內(nèi)存容量呈現(xiàn)指數(shù)級(jí)增長(zhǎng)態(tài)勢(shì)。2023年發(fā)布的H100芯片搭載80GB HBM內(nèi)存，而后續(xù)迭代產(chǎn)品H200、B200、B300的內(nèi)存容量分別提升至141GB、192GB和288GB。即將推出的Vera Rubin平臺(tái)更采用混合內(nèi)存架構(gòu)，通過(guò)整合288GB HBM4與1536GB SOCAMM模塊，使單顆加速器內(nèi)存容量突破1.8TB大關(guān)。

這種技術(shù)突破得益于新型內(nèi)存標(biāo)準(zhǔn)的開(kāi)發(fā)。由英偉達(dá)牽頭，聯(lián)合三星、SK海力士、美光等企業(yè)共同制定的SOCAMM模塊化標(biāo)準(zhǔn)，專為AI服務(wù)器和AI PC優(yōu)化設(shè)計(jì)。與主要用于加速器間高速通信的HBM不同，SOCAMM承擔(dān)著CPU側(cè)大容量?jī)?nèi)存的角色，其單模塊1536GB的容量直接將單系統(tǒng)內(nèi)存上限推向近2TB水平。

在需求側(cè)，全球數(shù)據(jù)中心AI加速器的部署規(guī)模預(yù)計(jì)將在五年內(nèi)擴(kuò)大25倍。當(dāng)單顆加速器內(nèi)存容量同步增長(zhǎng)25倍時(shí)，兩者相乘便催生出625倍的總需求增長(zhǎng)。這種雙重?cái)U(kuò)張效應(yīng)正在重塑整個(gè)半導(dǎo)體產(chǎn)業(yè)鏈，從晶圓制造到封裝測(cè)試，各環(huán)節(jié)均面臨產(chǎn)能與技術(shù)的雙重挑戰(zhàn)。

邁克爾·戴爾特別指出，內(nèi)存產(chǎn)能的擴(kuò)張需要數(shù)年建設(shè)周期，而當(dāng)前AI基礎(chǔ)設(shè)施的需求增長(zhǎng)尚未顯現(xiàn)放緩跡象。"我們?nèi)蕴幱诩夹g(shù)導(dǎo)入的早期階段，"他強(qiáng)調(diào)，"從訓(xùn)練超大規(guī)模模型到實(shí)時(shí)推理應(yīng)用，每個(gè)層面的計(jì)算需求都在持續(xù)突破既有框架。"這種供需矛盾正推動(dòng)行業(yè)探索3D封裝、存算一體等創(chuàng)新技術(shù)路徑。