當(dāng)OpenClaw等開源項(xiàng)目掀起“龍蝦熱”，Ollama下載量飆升時(shí)，一個(gè)現(xiàn)象引發(fā)行業(yè)關(guān)注：用戶對(duì)搭建個(gè)人AI助手的需求與現(xiàn)有硬件產(chǎn)品之間存在明顯斷層。Tiiny AI Pocket Lab的眾籌成功，正是抓住了這一市場(chǎng)縫隙——這款售價(jià)1399美元起的外接設(shè)備，上線5小時(shí)即突破百萬(wàn)美元眾籌額，成為Kickstarter平臺(tái)近四年來的現(xiàn)象級(jí)產(chǎn)品。

這款設(shè)備瞄準(zhǔn)的并非普通消費(fèi)者，而是金融、法律、科研等領(lǐng)域的專業(yè)用戶。他們面臨兩難困境：云端API雖便捷，但長(zhǎng)期成本高昂且存在數(shù)據(jù)隱私風(fēng)險(xiǎn)；現(xiàn)有AI PC雖能運(yùn)行大模型，卻會(huì)占用大量?jī)?nèi)存和算力，影響日常辦公效率；樹莓派等開發(fā)板算力不足，NVIDIA Jetson系列價(jià)格又過于昂貴。Tiiny AI的解決方案是：不做通用計(jì)算，專注100B級(jí)別模型的本地推理，通過外接形式為現(xiàn)有設(shè)備提供專用算力支持。

技術(shù)實(shí)現(xiàn)上，該設(shè)備采用異構(gòu)計(jì)算架構(gòu)，將模型參數(shù)分為“熱激活”和“冷激活”兩類。核心參數(shù)由專為Transformer架構(gòu)設(shè)計(jì)的160TOPS dNPU處理，特定領(lǐng)域參數(shù)則交給30TOPS的SoC處理。這種設(shè)計(jì)使設(shè)備在120B模型下實(shí)現(xiàn)300 tokens/s的預(yù)填充速度和20 tokens/s的解碼速度，性能接近高端AI工作站，而功耗僅30W。為解決散熱問題，團(tuán)隊(duì)定制了1.0mm超薄VC均熱板配合雙風(fēng)扇系統(tǒng)，確保設(shè)備在被動(dòng)散熱條件下表面溫度可控。

產(chǎn)品形態(tài)上，Tiiny AI徹底摒棄傳統(tǒng)操作系統(tǒng)，系統(tǒng)架構(gòu)完全圍繞AI推理優(yōu)化。用戶只需將設(shè)備通過USB-C接口連接電腦，下載客戶端即可一鍵部署主流開源模型。這種“即插即用”的設(shè)計(jì)大幅降低了使用門檻——無(wú)論用戶使用的是Mac、Windows電腦還是自組臺(tái)式機(jī)，都能快速獲得本地化AI能力。實(shí)測(cè)顯示，該設(shè)備甚至能讓2011年生產(chǎn)的老舊電腦運(yùn)行120B參數(shù)模型。

面對(duì)行業(yè)質(zhì)疑，團(tuán)隊(duì)回應(yīng)稱內(nèi)存帶寬問題被高估。以GPT-OSS-120B模型為例，每次跨PCIe傳輸?shù)臄?shù)據(jù)量?jī)H5.625KB，遠(yuǎn)低于Gen4 x4接口8GB/s的帶寬上限。關(guān)于算力宣傳，190TOPS指標(biāo)雖為理論峰值總和，但實(shí)際使用中不同計(jì)算單元可并行工作，不會(huì)出現(xiàn)算力閑置。對(duì)于交付延遲問題，團(tuán)隊(duì)解釋稱量產(chǎn)前需完成FCC、CE等國(guó)際認(rèn)證，預(yù)計(jì)6月底前可獲得全部合規(guī)資質(zhì)，8月正式發(fā)貨。

這款產(chǎn)品的成功，折射出AI硬件市場(chǎng)的新趨勢(shì)：當(dāng)云端方案面臨成本與隱私挑戰(zhàn)時(shí)，端側(cè)專用設(shè)備正成為專業(yè)用戶的新選擇。Tiiny AI通過軟件優(yōu)化彌補(bǔ)硬件短板的做法，為行業(yè)提供了新思路——在算力增長(zhǎng)放緩的當(dāng)下，如何通過智能調(diào)度實(shí)現(xiàn)資源最大化利用，或許比單純堆砌硬件參數(shù)更具現(xiàn)實(shí)意義。