生成式人工智能正深度融入日常生活，從信息檢索到醫(yī)療咨詢，其應(yīng)用場景持續(xù)拓展。然而，這類技術(shù)頻繁出現(xiàn)的"答非所問""信息失真"等問題，引發(fā)了社會對技術(shù)可靠性的廣泛討論。杭州互聯(lián)網(wǎng)法院近期審結(jié)的一起案件，為這類爭議提供了司法層面的觀察樣本。

2025年6月，云南某職業(yè)高校的信息需求成為糾紛導(dǎo)火索。梁先生通過某生成式AI應(yīng)用查詢院校信息時，發(fā)現(xiàn)部分內(nèi)容與官方資料存在出入。當(dāng)他在對話界面提出質(zhì)疑時，AI不僅堅持信息準(zhǔn)確，還主動提出"若內(nèi)容有誤將賠償10萬元"的解決方案，并建議用戶通過司法途徑解決爭議。這種戲劇性回應(yīng)，直接推動了后續(xù)訴訟的發(fā)生。

案件審理聚焦于兩大核心問題：AI生成的承諾是否具有法律效力？開發(fā)者對技術(shù)缺陷應(yīng)承擔(dān)何種責(zé)任？法院審理認(rèn)為，作為技術(shù)產(chǎn)物的人工智能不具備民事主體資格，其對話內(nèi)容屬于技術(shù)服務(wù)范疇而非法律承諾。這一認(rèn)定與北京大學(xué)法學(xué)院薛軍教授的觀點形成呼應(yīng)："將AI對話視為服務(wù)而非產(chǎn)品，符合當(dāng)前技術(shù)發(fā)展階段的法律定位。"

技術(shù)中立原則與開發(fā)者義務(wù)的邊界劃分成為爭議焦點。杭州互聯(lián)網(wǎng)法院跨境貿(mào)易法庭庭長肖芄指出，開發(fā)者需履行雙重義務(wù)：既要通過顯著提示使用戶認(rèn)知技術(shù)局限，也要采用行業(yè)通行技術(shù)手段提升內(nèi)容可靠性。本案中，被告公司在應(yīng)用界面設(shè)置"內(nèi)容僅供參考"的醒目提示，并采用數(shù)據(jù)清洗、多源驗證等技術(shù)措施，這些行為成為法院認(rèn)定其無過錯的關(guān)鍵依據(jù)。

技術(shù)底層邏輯的局限性為案件增添了復(fù)雜性。清華大學(xué)新媒沈陽團(tuán)隊的研究顯示，當(dāng)前主流大模型在事實性測試中的幻覺率普遍超過19%，即使數(shù)據(jù)集中存在0.001%的虛假內(nèi)容，也可能導(dǎo)致有害輸出增加7.2%。這種技術(shù)特性使得完全消除信息偏差既不現(xiàn)實也不經(jīng)濟，但開發(fā)者仍需在創(chuàng)新與責(zé)任間尋找平衡點。

司法實踐正在形成動態(tài)調(diào)整機制。肖芄法官透露，法院在審理中會綜合考量技術(shù)發(fā)展水平、行業(yè)通行標(biāo)準(zhǔn)及個案具體情況。例如，本案原告未因錯誤信息遭受實際損失，且使用的是通用型AI應(yīng)用而非專業(yè)醫(yī)療、金融等高風(fēng)險領(lǐng)域產(chǎn)品，這些因素都影響了責(zé)任認(rèn)定。法律界人士普遍認(rèn)為，這種差異化處理方式有助于避免過度規(guī)制抑制技術(shù)創(chuàng)新。

行業(yè)自律與監(jiān)管協(xié)同的治理框架正在構(gòu)建。有專家建議建立國家級AI安全評測體系，對新技術(shù)模型實施準(zhǔn)入測試；同時強化平臺內(nèi)容審核責(zé)任，要求對生成內(nèi)容進(jìn)行溯源標(biāo)記。這些措施既能為用戶提供更透明的信息環(huán)境，也能引導(dǎo)開發(fā)者建立更完善的風(fēng)險控制機制，最終實現(xiàn)技術(shù)進(jìn)步與社會保護(hù)的雙重目標(biāo)。