馬斯克旗下人工智能初創公司近期陷入重大爭議，其開發的聊天機器人“格羅克(Grok)”因涉嫌生成非法色情內容，正面臨全球多國監管機構的調查。事件起因于部分用戶利用該工具編輯圖片和視頻，生成高度逼真的虛假性暴露內容，并在社交平臺X上廣泛傳播，受害者涉及數百名女性和未成年人。
法國巴黎檢方上周五宣布，將擴大對X平臺的現有調查范圍，新增“生成和傳播兒童色情制品”的指控。歐盟委員會發言人托馬斯·雷尼耶在周一的新聞發布會上表示，歐委會正“以最嚴肅的態度”調查此事。他特別指出，“格羅克”提供的所謂“辣味模式”（Spicy Mode）不僅展示露骨性內容，部分輸出還包含帶有兒童特征的圖像，這種行為“絕非所謂的‘辣味’，而是明確的違法行為，令人震驚且令人作嘔，在歐洲沒有任何容身之地”。
這一事件可能使X平臺面臨新一輪巨額罰款。上月，歐盟委員會已以違反《數字服務法》為由，對X處以1.2億歐元罰款，理由包括廣告資料庫透明度不足、未按規定向研究人員開放公共數據，以及將用戶身份驗證的“藍標”改為付費獲取。此次新爭議無疑將加劇其合規壓力。
面對指控，X平臺和馬斯克將責任歸咎于用戶濫用工具。X公司聲明稱，平臺會刪除非法內容、封禁違規賬號，并配合執法機構調查。馬斯克也在社交媒體上強調，任何利用“格羅克”制作非法內容者，將承擔與直接上傳非法內容相同的法律責任。然而，批評者指出，AI工具未能有效攔截違法內容，本身已構成重大過失。在美國、英國、歐盟等地，未經同意發布AI生成的深度偽造私密影像屬違法行為，AI服務供應商需在技術系統中嵌入法律邊界。
全球監管機構已迅速行動。英國通訊管理局（Ofcom）周一表示，已注意到對“格羅克”功能的“嚴重關切”，并與X及其母公司xAI展開緊急溝通，要求其說明在英國履行用戶保護義務的具體措施。印度信息技術部要求對“格羅克”的安全防護功能進行全面審查，馬來西亞當局則因收到內容“下流”的投訴，已啟動相關調查程序。
隨著調查深入，AI技術倫理與法律監管的矛盾愈發凸顯。盡管企業試圖通過技術中立原則規避責任，但全球監管者正要求AI供應商承擔更多主動審查義務，確保技術不被用于違法活動。這一爭議或將成為全球AI治理框架完善的重要案例。
