字節(jié)跳動(dòng)推出的視頻生成模型Seedance 2.0近日在即夢(mèng)、豆包、小云雀等平臺(tái)開啟內(nèi)測(cè)，憑借多模態(tài)輸入和超強(qiáng)參考能力迅速引發(fā)國內(nèi)外關(guān)注。游戲科學(xué)CEO、《黑神話：悟空》制作人馮驥公開評(píng)價(jià)其為“當(dāng)前地表最強(qiáng)的視頻生成模型”，并認(rèn)為這一技術(shù)突破標(biāo)志著“AIGC的童年時(shí)代結(jié)束”。然而，隨著模型真實(shí)感表現(xiàn)的突出，關(guān)于技術(shù)濫用的爭(zhēng)議也隨之浮現(xiàn)。

針對(duì)用戶對(duì)模型可能混淆現(xiàn)實(shí)的擔(dān)憂，字節(jié)跳動(dòng)迅速調(diào)整策略。2月9日，即夢(mèng)創(chuàng)作者社群發(fā)布公告稱，因內(nèi)測(cè)期間反饋遠(yuǎn)超預(yù)期，為保障創(chuàng)作環(huán)境健康可持續(xù)，平臺(tái)已暫停支持輸入真人圖片或視頻作為主體參考，并強(qiáng)調(diào)“創(chuàng)意的邊界是尊重”。目前，即夢(mèng)web端和小云雀平臺(tái)已明確提示暫不支持真人人臉參考；即夢(mèng)APP和豆包APP則要求用戶通過活體認(rèn)證錄制本人形象與聲音后，方可生成數(shù)字分身參與視頻創(chuàng)作。

一名參與內(nèi)測(cè)的AI創(chuàng)作者透露，平臺(tái)早在測(cè)試初期就禁止上傳名人明星形象作為參考，顯示出對(duì)安全性的重視。他坦言，限制真人人臉上傳后，部分創(chuàng)作構(gòu)想無法實(shí)現(xiàn)，但從行業(yè)長遠(yuǎn)發(fā)展看，“當(dāng)下的限制是負(fù)責(zé)任的選擇”。北京航空航天大學(xué)人工智能研究院教授沙磊分析指出，Seedance 2.0目前處于小范圍內(nèi)測(cè)階段，字節(jié)通過活體認(rèn)證、限制真人素材輸入等措施，試圖在技術(shù)創(chuàng)新與風(fēng)險(xiǎn)防控間尋找平衡點(diǎn)，“這種嘗試體現(xiàn)了企業(yè)技術(shù)狂奔中應(yīng)守住的底線”。

沙磊進(jìn)一步表示，AI技術(shù)的進(jìn)步不會(huì)因爭(zhēng)議停滯，但如何在突破創(chuàng)新的同時(shí)確保數(shù)據(jù)合規(guī)、保護(hù)版權(quán)，是字節(jié)跳動(dòng)乃至全球AI產(chǎn)業(yè)需要共同面對(duì)的課題。目前，Seedance 2.0的內(nèi)測(cè)調(diào)整已引發(fā)行業(yè)對(duì)技術(shù)倫理的廣泛討論，其后續(xù)功能開放與監(jiān)管措施或?qū)锳I視頻生成領(lǐng)域提供重要參考。