從OpenAI離職不到一個(gè)月,被稱為“推理模型第一人”的Jerry Tworek已迅速投身創(chuàng)業(yè)浪潮。他創(chuàng)立的新公司Core Automation將目光聚焦于“持續(xù)學(xué)習(xí)”領(lǐng)域,并計(jì)劃籌集高達(dá)10億美元(約合人民幣70億元)的資金,試圖打造下一代具備動(dòng)態(tài)學(xué)習(xí)能力的AI模型。
Jerry的學(xué)術(shù)背景與職業(yè)經(jīng)歷為其創(chuàng)業(yè)奠定了堅(jiān)實(shí)基礎(chǔ)。這位出生于波蘭的科學(xué)家在華沙大學(xué)獲得數(shù)學(xué)碩士學(xué)位后,曾赴阿姆斯特丹從事量化研究,專注于優(yōu)化問(wèn)題與噪聲數(shù)據(jù)處理。這段經(jīng)歷讓他對(duì)“在不確定環(huán)境中決策”產(chǎn)生濃厚興趣,并逐漸轉(zhuǎn)向強(qiáng)化學(xué)習(xí)領(lǐng)域。2019年加入OpenAI后,他主導(dǎo)了首個(gè)推理模型o1的研發(fā),并深度參與GPT-4、ChatGPT等核心項(xiàng)目的構(gòu)建,成為推動(dòng)大模型從“生成”向“推理”進(jìn)化的關(guān)鍵人物。
此次創(chuàng)業(yè),Jerry選擇挑戰(zhàn)OpenAI未完全解決的難題:如何讓模型擺脫“訓(xùn)練即終點(diǎn)”的局限,實(shí)現(xiàn)持續(xù)學(xué)習(xí)。他指出,當(dāng)前主流模型在部署后能力基本固化,難以適應(yīng)真實(shí)世界中不斷變化的新場(chǎng)景。而Core Automation的目標(biāo)是開發(fā)一種新型架構(gòu),使模型能像人類一樣,從新數(shù)據(jù)、新任務(wù)中動(dòng)態(tài)吸收知識(shí),同時(shí)保留已有技能。這一設(shè)想若實(shí)現(xiàn),將顯著降低模型對(duì)海量靜態(tài)數(shù)據(jù)和算力的依賴,提升學(xué)習(xí)效率。
Jerry的計(jì)劃包含兩大技術(shù)突破:一是構(gòu)建非Transformer架構(gòu),二是將訓(xùn)練流程整合為連續(xù)系統(tǒng)。他希望通過(guò)這種設(shè)計(jì),讓模型在運(yùn)行過(guò)程中完成自我更新,而非依賴離線預(yù)訓(xùn)練。盡管新公司尚未推出具體產(chǎn)品,但其理念已引發(fā)行業(yè)關(guān)注。部分網(wǎng)友認(rèn)為,Core Automation可能比同期成立的SSI和Thinky Machines更具潛力,原因在于其直接切入AI發(fā)展的核心瓶頸——持續(xù)學(xué)習(xí)能力。
持續(xù)學(xué)習(xí)并非新概念,但近年來(lái)因成本與效率問(wèn)題重新成為焦點(diǎn)。傳統(tǒng)大模型依賴海量數(shù)據(jù)預(yù)訓(xùn)練,成本隨規(guī)模指數(shù)級(jí)增長(zhǎng)。而持續(xù)學(xué)習(xí)模型可通過(guò)真實(shí)交互逐步進(jìn)化,用更少的資源實(shí)現(xiàn)能力躍升。行業(yè)普遍認(rèn)為,實(shí)現(xiàn)通用人工智能(AGI)需模型具備持續(xù)進(jìn)化、處理長(zhǎng)時(shí)序任務(wù)等能力,持續(xù)學(xué)習(xí)正是這一目標(biāo)的前提。例如,Ilya創(chuàng)辦的SSI公司同樣聚焦該領(lǐng)域,其理念與Jerry高度契合——真正的AGI不應(yīng)是靜態(tài)模型,而應(yīng)能在真實(shí)世界中不斷積累經(jīng)驗(yàn)。
學(xué)術(shù)界與科技巨頭也已布局。谷歌去年提出“Nested Learning”與“Titans”架構(gòu),通過(guò)引入長(zhǎng)期記憶模塊緩解遺忘問(wèn)題;DeepMind研究員Ronak Malde更預(yù)言,2026年將成為持續(xù)學(xué)習(xí)元年。盡管挑戰(zhàn)巨大,但Jerry的創(chuàng)業(yè)仍被視為行業(yè)重要信號(hào):當(dāng)主流模型陷入同質(zhì)化競(jìng)爭(zhēng)時(shí),動(dòng)態(tài)學(xué)習(xí)能力或成為下一代AI的核心差異點(diǎn)。至于他能否籌得10億美元,答案或許取決于市場(chǎng)對(duì)“讓AI活到老、學(xué)到老”這一愿景的信心。






















