飛書(shū)CEO謝欣近日在社交平臺(tái)公開(kāi)談及AI智能體在企業(yè)場(chǎng)景的應(yīng)用問(wèn)題，特別強(qiáng)調(diào)安全與信任是技術(shù)落地的核心前提。這一表態(tài)源于近期職場(chǎng)中悄然興起的“養(yǎng)蝦”熱潮——由AI智能體“龍蝦”引發(fā)的互動(dòng)模式正改變著部分用戶的工作方式。

據(jù)觀察，春節(jié)后飛書(shū)平臺(tái)涌現(xiàn)大量嘗試部署AI智能體的用戶，其中不乏將智能體深度融入工作流程的案例。謝欣指出，個(gè)人用戶探索新技術(shù)時(shí)允許試錯(cuò)空間，但企業(yè)級(jí)應(yīng)用完全不同：智能體在企業(yè)環(huán)境中可能涉及核心文件操作、敏感數(shù)據(jù)處理等高風(fēng)險(xiǎn)場(chǎng)景，一旦出現(xiàn)失誤，后果可能從數(shù)據(jù)泄露到業(yè)務(wù)中斷不等。

他特別提到，當(dāng)前AI技術(shù)發(fā)展呈現(xiàn)能力指數(shù)級(jí)增長(zhǎng)與安全防護(hù)線性提升的矛盾態(tài)勢(shì)。智能體功能越強(qiáng)大，其潛在破壞力越難以預(yù)估，這種特性使得企業(yè)級(jí)應(yīng)用必須建立更嚴(yán)格的準(zhǔn)入機(jī)制。例如，某企業(yè)曾因智能體誤刪重要合同文件導(dǎo)致項(xiàng)目停滯，這類案例印證了技術(shù)失控的現(xiàn)實(shí)風(fēng)險(xiǎn)。

針對(duì)行業(yè)現(xiàn)狀，謝欣透露飛書(shū)正在構(gòu)建三層防護(hù)體系：通過(guò)權(quán)限隔離技術(shù)防止智能體越權(quán)訪問(wèn)，建立操作溯源機(jī)制實(shí)現(xiàn)全流程審計(jì)，并開(kāi)發(fā)智能預(yù)警系統(tǒng)識(shí)別異常行為。這些措施旨在平衡技術(shù)創(chuàng)新與風(fēng)險(xiǎn)管控，既滿足企業(yè)對(duì)效率的追求，又守住業(yè)務(wù)安全的底線。目前已有部分企業(yè)參與該體系的內(nèi)測(cè)，反饋顯示系統(tǒng)可攔截98%以上的高危操作。