工業(yè)和信息化部等十個(gè)部門近日聯(lián)合發(fā)布了《人工智能科技倫理審查與服務(wù)辦法（試行）》（以下簡(jiǎn)稱《辦法》），為我國(guó)人工智能領(lǐng)域的倫理治理提供了系統(tǒng)性框架。這一文件明確了人工智能科技倫理審查的適用范圍、服務(wù)促進(jìn)機(jī)制、實(shí)施主體及工作程序，并針對(duì)人工智能技術(shù)的特殊性，設(shè)計(jì)了包括申請(qǐng)受理、一般程序、簡(jiǎn)易程序、專家復(fù)核和應(yīng)急程序在內(nèi)的多層次審查流程，旨在規(guī)范科技活動(dòng)的倫理實(shí)踐。

根據(jù)《辦法》要求，人工智能倫理審查需重點(diǎn)關(guān)注六大核心領(lǐng)域：人類福祉、公平公正、可控可信、透明可解釋、責(zé)任可追溯以及隱私保護(hù)。具體審查內(nèi)容包括訓(xùn)練數(shù)據(jù)的篩選標(biāo)準(zhǔn)、算法模型設(shè)計(jì)的合理性，以及是否采取措施防止算法歧視和資源分配不公。開發(fā)者需公開披露技術(shù)用途、運(yùn)行邏輯及潛在風(fēng)險(xiǎn)，確保用戶對(duì)人工智能系統(tǒng)的交互方式和決策過程有清晰認(rèn)知。

專家指出，該文件的出臺(tái)標(biāo)志著我國(guó)人工智能倫理治理從原則性倡導(dǎo)轉(zhuǎn)向制度化實(shí)踐。國(guó)家新一代人工智能治理專業(yè)委員會(huì)此前發(fā)布的《新一代人工智能倫理規(guī)范》已構(gòu)建起覆蓋研發(fā)、供應(yīng)、使用全鏈條的倫理準(zhǔn)則，而此次《辦法》則進(jìn)一步細(xì)化了審查規(guī)則，填補(bǔ)了領(lǐng)域內(nèi)制度空白。工業(yè)和信息化領(lǐng)域科技倫理專家委員會(huì)主任委員魏一鳴表示，文件針對(duì)人工智能技術(shù)迭代快、跨界融合深的特點(diǎn)，在通用審查框架基礎(chǔ)上實(shí)現(xiàn)了領(lǐng)域化適配，為行業(yè)提供了可操作的指導(dǎo)方案。

為推動(dòng)倫理審查服務(wù)體系建設(shè)，《辦法》從標(biāo)準(zhǔn)制定、服務(wù)供給、創(chuàng)新激勵(lì)、教育普及和人才培育五個(gè)維度提出支持措施。文件鼓勵(lì)開發(fā)倫理風(fēng)險(xiǎn)監(jiān)測(cè)預(yù)警系統(tǒng)、檢測(cè)評(píng)估工具及認(rèn)證咨詢服務(wù)，同時(shí)促進(jìn)高質(zhì)量數(shù)據(jù)集的開源共享，支持通用性風(fēng)險(xiǎn)管理技術(shù)研發(fā)。針對(duì)應(yīng)用場(chǎng)景，探索建立差異化的倫理風(fēng)險(xiǎn)評(píng)估體系，幫助企業(yè)提升風(fēng)險(xiǎn)防控能力。

魏一鳴強(qiáng)調(diào)，倫理治理需技術(shù)與制度雙輪驅(qū)動(dòng)。具備技術(shù)優(yōu)勢(shì)的企業(yè)、高校和科研機(jī)構(gòu)應(yīng)承擔(dān)起研發(fā)倫理治理工具的責(zé)任，重點(diǎn)突破可解釋人工智能、算法公平性監(jiān)測(cè)、深度偽造鑒別等關(guān)鍵技術(shù)。通過開發(fā)倫理評(píng)估工具、風(fēng)險(xiǎn)模擬平臺(tái)和算法審計(jì)系統(tǒng)，將抽象倫理原則轉(zhuǎn)化為可量化、可嵌入工程流程的技術(shù)指標(biāo)，推動(dòng)倫理治理向技術(shù)化、工程化方向演進(jìn)。