國(guó)家互聯(lián)網(wǎng)信息辦公室近日對(duì)部分人工智能服務(wù)平臺(tái)展開專項(xiàng)整治，針對(duì)AI生成內(nèi)容標(biāo)識(shí)缺失問(wèn)題開出罰單。“剪映”“貓箱”兩款移動(dòng)應(yīng)用及“即夢(mèng)AI”網(wǎng)站因未履行法定標(biāo)識(shí)義務(wù)，被屬地網(wǎng)信部門依法實(shí)施約談、責(zé)令整改及警告等處罰措施。

經(jīng)核查，上述平臺(tái)違反《網(wǎng)絡(luò)安全法》《生成式人工智能服務(wù)管理暫行辦法》及今年9月1日生效的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》。監(jiān)管部門發(fā)現(xiàn)，這些平臺(tái)生成的文本、圖片、視頻等內(nèi)容未按規(guī)定添加顯著標(biāo)識(shí)，導(dǎo)致用戶難以區(qū)分人機(jī)創(chuàng)作差異。網(wǎng)信辦負(fù)責(zé)人特別指出，某平臺(tái)甚至存在批量刪除系統(tǒng)自動(dòng)生成標(biāo)識(shí)的違規(guī)操作。

新施行的標(biāo)識(shí)管理辦法構(gòu)建起全鏈條監(jiān)管體系，要求服務(wù)提供者在內(nèi)容生成、傳播、存儲(chǔ)各環(huán)節(jié)落實(shí)標(biāo)識(shí)責(zé)任。根據(jù)規(guī)定，AI生成的虛擬場(chǎng)景、深度合成內(nèi)容等必須通過(guò)水印、元數(shù)據(jù)等方式明確標(biāo)注，任何組織不得通過(guò)技術(shù)手段破壞標(biāo)識(shí)完整性。監(jiān)管部門特別強(qiáng)調(diào)，對(duì)篡改標(biāo)識(shí)的行為將實(shí)施"雙罰制"，既處罰平臺(tái)也追究直接責(zé)任人。

此次專項(xiàng)行動(dòng)釋放出強(qiáng)烈監(jiān)管信號(hào)。網(wǎng)信部門透露，未來(lái)將建立AI內(nèi)容標(biāo)識(shí)動(dòng)態(tài)監(jiān)測(cè)平臺(tái)，運(yùn)用區(qū)塊鏈技術(shù)實(shí)現(xiàn)標(biāo)識(shí)信息可追溯。對(duì)于屢教不改的平臺(tái)，除經(jīng)濟(jì)處罰外，還將采取暫停算法推薦、限制功能更新等組合措施。數(shù)據(jù)顯示，自新規(guī)實(shí)施以來(lái)，全國(guó)已有23家平臺(tái)完成標(biāo)識(shí)系統(tǒng)升級(jí)，AI內(nèi)容識(shí)別準(zhǔn)確率提升至92%。