南京律師李小亮在搜索引擎上經歷了一場荒誕的“名譽危機”。當他輸入自己的姓名時，某搜索引擎的AI智能回答竟顯示“因犯爆炸罪被判處有期徒刑三年”，并配上了他身著律師袍的照片。這一虛假信息并非偶然出現，即便李小亮多次通過律師函、投訴熱線及郵箱向平臺方反映，對方雖承諾處理，但核心謠言始終未徹底清除。直至起訴前，該平臺仍會推送相關虛假內容。無奈之下，李小亮以名譽侵權為由將平臺方告上法庭，要求刪除不實信息、公開道歉并索賠。

庭審中，平臺方辯稱AI生成內容存在“幻覺”現象，屬于技術發展的必然代價，且無法預見具體輸出結果。然而，法官當場提出關鍵質疑：為何其他同類AI工具在相同關鍵詞搜索下未出現類似誹謗內容？這一追問直指核心——問題并非技術不可控，而是涉事平臺在內容審核機制上存在明顯漏洞。法院最終判決認定，平臺對特定自然人的誹謗性內容具有可預見性，未采取合理防控措施構成過錯，需承擔法律責任。

這起案件并非孤例。2025年5月，北京律師黃貴耕發現某搜索引擎AI生成多條關于他的虛假刑事指控，包括“威脅法官”“偽造印章”等，并被傳播至其委托人及家屬。他起訴后，平臺方在庭審中仍以“AI無獨立意志”“技術中立”等理由辯解，但同期其他AI工具均未輸出類似內容。同年年底，河北男子冀承祥搜索姓名時，發現該平臺AI將其真實求學經歷與“組織賣淫罪”虛假信息關聯，聲稱其被判刑五年六個月。

連續發生的類似事件暴露出涉事平臺在內容風控上的系統性缺陷。法院在判決中明確劃清界限：技術缺陷不能成為免責借口，平臺對高風險內容負有主動審核義務。東南大學法學院專家指出，大語言模型的“幻覺”風險雖客觀存在，但研發者需通過技術手段和人工審核相結合的方式建立防控機制，不能以技術之名規避責任。

涉事平臺的AI業務在2025年已成長為營收核心，第四季度占一般性業務收入的43%。然而，其內容安全防線卻屢現漏洞。從早年的醫療廣告爭議到如今的AI侵權糾紛，該平臺多次將責任歸咎于“商業邏輯”或“技術局限”。行業評論認為，AI競爭已進入下半場，參數規模等指標不再是關鍵，內容安全治理能力將成為決定企業長遠發展的核心因素。當前，該平臺AI營收與風控投入的失衡，正將用戶信任危機轉化為難以忽視的經營風險。