生成式人工智能技術(shù)正深度融入日常生活，但隨之而來的“AI幻覺”問題——即生成內(nèi)容與事實(shí)不符的現(xiàn)象，逐漸引發(fā)社會關(guān)注。杭州互聯(lián)網(wǎng)法院近日審結(jié)一起因人工智能提供錯誤信息引發(fā)的侵權(quán)糾紛案件，為厘清技術(shù)局限與法律責(zé)任邊界提供了司法實(shí)踐樣本。

案件緣起于2025年6月，云南居民梁先生在查詢本地職業(yè)院校信息時，使用某科技公司開發(fā)的生成式AI應(yīng)用獲取資訊。該應(yīng)用基于自研大語言模型生成回復(fù)，但梁先生核實(shí)后發(fā)現(xiàn)部分內(nèi)容存在事實(shí)性錯誤。當(dāng)他在對話中指出錯誤時，AI不僅堅(jiān)持信息準(zhǔn)確，還自動生成解決方案：若內(nèi)容有誤將賠償10萬元，并建議用戶向杭州互聯(lián)網(wǎng)法院起訴。一個月后，梁先生以誤導(dǎo)性信息及承諾賠償為由，將開發(fā)企業(yè)訴至法院。

法院審理聚焦兩大核心問題：人工智能能否承擔(dān)法律責(zé)任？開發(fā)者是否存在過錯？判決明確指出，人工智能作為技術(shù)工具不具備民事主體資格，其對話輸出屬于服務(wù)范疇而非產(chǎn)品，因此適用過錯責(zé)任原則。經(jīng)查證，涉事企業(yè)已在應(yīng)用界面顯著位置標(biāo)注"內(nèi)容僅供參考"提示，并采用行業(yè)通用技術(shù)手段優(yōu)化模型準(zhǔn)確性，已盡到服務(wù)說明義務(wù)和基本保障責(zé)任。最終法院駁回原告訴求，雙方均未上訴。

這起案件折射出技術(shù)發(fā)展帶來的普遍性困惑。北京大學(xué)法學(xué)院教授分析指出，當(dāng)前生成式AI主要基于詞元預(yù)測機(jī)制運(yùn)行，即便使用優(yōu)質(zhì)訓(xùn)練數(shù)據(jù)，仍可能產(chǎn)生19%以上的事實(shí)性偏差。某技術(shù)團(tuán)隊(duì)實(shí)驗(yàn)顯示，當(dāng)數(shù)據(jù)集中虛假內(nèi)容占比達(dá)0.01%時，模型輸出的有害信息量會激增11.2%。這種技術(shù)特性決定了完全消除誤差既不現(xiàn)實(shí)也不經(jīng)濟(jì)。

杭州互聯(lián)網(wǎng)法院跨境貿(mào)易法庭庭長肖芄強(qiáng)調(diào)，判斷開發(fā)者責(zé)任的關(guān)鍵在于審查其是否采取合理措施降低風(fēng)險(xiǎn)。本案中被告企業(yè)通過多重技術(shù)校驗(yàn)和用戶提示，已達(dá)到行業(yè)基本要求。法律界人士普遍認(rèn)為，要求開發(fā)者對所有生成內(nèi)容絕對負(fù)責(zé)既違背技術(shù)規(guī)律，也可能抑制創(chuàng)新活力，但企業(yè)必須履行風(fēng)險(xiǎn)告知義務(wù)，避免用戶產(chǎn)生不合理信賴。

司法實(shí)踐與產(chǎn)業(yè)發(fā)展的平衡難題亟待破解。有技術(shù)專家建議建立國家級AI安全評測體系，對新模型進(jìn)行事實(shí)準(zhǔn)確性專項(xiàng)測試。同時需完善內(nèi)容審核機(jī)制，通過技術(shù)手段識別潛在風(fēng)險(xiǎn)信息。某人工智能企業(yè)負(fù)責(zé)人透露，其團(tuán)隊(duì)正在研發(fā)"不確定性量化"技術(shù)，可在生成內(nèi)容時標(biāo)注可信度等級，幫助用戶更好辨別信息真?zhèn)巍?/p>

這起全國首例AI信息侵權(quán)案的判決，為同類糾紛處理提供了重要參考。法律界人士指出，隨著技術(shù)迭代，未來可能需要建立分級責(zé)任制度，對醫(yī)療、金融等高風(fēng)險(xiǎn)領(lǐng)域適用更嚴(yán)格的標(biāo)準(zhǔn)。在鼓勵技術(shù)創(chuàng)新與保護(hù)用戶權(quán)益之間尋找平衡點(diǎn)，將成為人工智能治理領(lǐng)域的重要課題。