在人工智能領(lǐng)域，AI訓(xùn)練長期占據(jù)著基礎(chǔ)設(shè)施討論的核心位置。大規(guī)模GPU集群、龐大的數(shù)據(jù)中心以及高能耗的模型訓(xùn)練，一度成為衡量AI發(fā)展規(guī)模的重要指標(biāo)。然而，隨著技術(shù)演進(jìn)，AI訓(xùn)練逐漸被視為發(fā)展的“前奏”，而真正考驗(yàn)當(dāng)前AI基礎(chǔ)設(shè)施能力的AI推理，正從幕后走向臺(tái)前，成為推動(dòng)行業(yè)變革的關(guān)鍵力量。

AI推理是AI模型生命周期中的“應(yīng)用”環(huán)節(jié)。經(jīng)過訓(xùn)練的模型通過處理新數(shù)據(jù)，生成答案、圖像或執(zhí)行具體任務(wù)。與訓(xùn)練過程高度集中于特定環(huán)境不同，推理的應(yīng)用場景極為廣泛，覆蓋了從企業(yè)應(yīng)用到消費(fèi)設(shè)備的各個(gè)領(lǐng)域。隨著AI技術(shù)的普及，推理工作負(fù)載正以驚人的速度增長。以ChatGPT為例，這款產(chǎn)品僅用兩個(gè)月便吸引了1億月活躍用戶，遠(yuǎn)超傳統(tǒng)技術(shù)或平臺(tái)的滲透速度。如今，AI正快速融入搜索、郵件、社交媒體等日常數(shù)字工具，這種集成并非漸進(jìn)式發(fā)展，而是形成了爆發(fā)式的規(guī)模效應(yīng)。

多模態(tài)AI的興起進(jìn)一步加劇了對網(wǎng)絡(luò)的需求。傳統(tǒng)的文本交互逐漸被能夠同時(shí)處理文本、圖像、音頻和視頻的多模態(tài)交互取代。例如，一部智能手機(jī)的高清視頻流需要每秒數(shù)兆比特的持續(xù)帶寬支持。當(dāng)數(shù)百萬用戶同時(shí)使用這類服務(wù)時(shí)，網(wǎng)絡(luò)中傳輸?shù)臄?shù)據(jù)量將呈指數(shù)級(jí)增長。現(xiàn)代推理模型通常將任務(wù)分解為多個(gè)內(nèi)部步驟，用戶的一個(gè)簡單查詢可能觸發(fā)數(shù)十次后臺(tái)數(shù)據(jù)檢索。即使請求本身簡短，網(wǎng)絡(luò)也可能在后臺(tái)移動(dòng)大量數(shù)據(jù)以完成響應(yīng)。這種變化顯著增加了應(yīng)用程序、數(shù)據(jù)源和AI模型之間的數(shù)據(jù)流動(dòng)量。

AI優(yōu)先云的建設(shè)和分布是應(yīng)對這一挑戰(zhàn)的重要方向。根據(jù)Ciena的調(diào)查，未來幾年，超過40%的新建數(shù)據(jù)中心將專注于AI領(lǐng)域，推理需求的激增正在推動(dòng)推理中心和AI優(yōu)先云區(qū)域的快速擴(kuò)張。這些中心通過交換大量數(shù)據(jù)來降低延遲、提高系統(tǒng)彈性，并滿足數(shù)據(jù)主權(quán)要求。隨著AI深度融入日常數(shù)字體驗(yàn)，推理能力需要更貼近用戶，同時(shí)保持對集中式數(shù)據(jù)和模型的訪問。這催生了兩種關(guān)鍵網(wǎng)絡(luò)能力：企業(yè)多云訪問和數(shù)據(jù)中心互連（DCI）。前者使企業(yè)和應(yīng)用能夠輕松調(diào)用跨多個(gè)云和數(shù)據(jù)中心的AI服務(wù)，后者則通過低延遲連接在AI數(shù)據(jù)中心和云區(qū)域之間傳輸數(shù)據(jù)和推理流量。這兩種能力必須協(xié)同發(fā)展，形成AI優(yōu)先云的連接框架。

光學(xué)連接成為支撐這一轉(zhuǎn)型的基礎(chǔ)設(shè)施。分布式推理的增長改變了網(wǎng)絡(luò)容量的規(guī)劃方式，無論是DCI還是企業(yè)多云訪問，都依賴于能夠承載高容量、低延遲流量的彈性光學(xué)網(wǎng)絡(luò)。先進(jìn)的光傳輸技術(shù)通過最大化光纖吞吐量，同時(shí)降低每比特的成本、空間占用和能耗，為AI推理提供了必要的支持。自動(dòng)化網(wǎng)絡(luò)控制系統(tǒng)則通過動(dòng)態(tài)分配帶寬、優(yōu)化流量路徑，并在AI工作負(fù)載實(shí)時(shí)變化時(shí)維護(hù)服務(wù)質(zhì)量，進(jìn)一步提升了網(wǎng)絡(luò)的適應(yīng)性。

從數(shù)據(jù)中心內(nèi)部連接到跨區(qū)域的光纖路由，光網(wǎng)絡(luò)構(gòu)成了支持分布式推理的可擴(kuò)展主干。沒有這種可靠、自適應(yīng)的基礎(chǔ)設(shè)施，AI服務(wù)將難以在全球范圍內(nèi)穩(wěn)定交付。AI革命的核心不僅在于計(jì)算能力的提升，更在于網(wǎng)絡(luò)連接的優(yōu)化。隨著推理從簡單的文本查詢轉(zhuǎn)向復(fù)雜的多模態(tài)交互，網(wǎng)絡(luò)和數(shù)據(jù)中心內(nèi)的數(shù)據(jù)流動(dòng)模式將發(fā)生根本性變化。這種轉(zhuǎn)變正在重新定義AI基礎(chǔ)設(shè)施的構(gòu)建標(biāo)準(zhǔn)，為行業(yè)的未來發(fā)展鋪平道路。

Q&A

Q1：AI推理與AI訓(xùn)練的主要區(qū)別是什么？

A：AI推理是AI模型生命周期中的“應(yīng)用”階段，通過處理新數(shù)據(jù)生成結(jié)果或執(zhí)行任務(wù)。與高度集中的訓(xùn)練過程不同，推理的應(yīng)用場景廣泛分布于各類設(shè)備和平臺(tái)。

Q2：多模態(tài)AI為何會(huì)增加網(wǎng)絡(luò)負(fù)擔(dān)？

A：多模態(tài)AI能夠同時(shí)處理文本、圖像、音頻和視頻，數(shù)據(jù)量巨大。例如，單個(gè)高清視頻流需要每秒數(shù)兆比特的帶寬支持，數(shù)百萬用戶同時(shí)使用時(shí)，網(wǎng)絡(luò)傳輸?shù)臄?shù)據(jù)量將急劇上升。

Q3：光學(xué)連接在AI推理中扮演什么角色？

A：光學(xué)連接為AI推理提供了高容量、低延遲的支持。先進(jìn)的光傳輸技術(shù)提升了光纖的傳輸效率，同時(shí)降低了成本和能耗。光網(wǎng)絡(luò)從數(shù)據(jù)中心內(nèi)部延伸到跨區(qū)域連接，構(gòu)成了分布式推理的可擴(kuò)展基礎(chǔ)設(shè)施。