人工智能技術(shù)迅猛發(fā)展，為各個產(chǎn)業(yè)領(lǐng)域的應(yīng)用都帶來重要的技術(shù)迭代和變革。當(dāng)前內(nèi)容生成成為人工智能的主要應(yīng)用形式之一。人工智能生成、合成內(nèi)容已囊括文本、圖片、視頻、虛擬場景等多種形式。毋庸置疑，人工智能生成內(nèi)容技術(shù)的發(fā)展，降低了內(nèi)容生成門檻，改變了傳統(tǒng)內(nèi)容生產(chǎn)方式，為互聯(lián)網(wǎng)內(nèi)容生態(tài)帶來了全新的變革和機遇，同時也伴隨著風(fēng)險、挑戰(zhàn)和治理難題。亟需構(gòu)建具有針對性的治理機制，推動內(nèi)容標(biāo)識的規(guī)范使用，并將其作為重要舉措納入法治化框架?！度斯ぶ悄苌珊铣蓛?nèi)容標(biāo)識辦法》和《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法》強制性國家標(biāo)準(zhǔn)從實體規(guī)則和配套技術(shù)標(biāo)準(zhǔn)層面，對內(nèi)容標(biāo)識規(guī)定的細(xì)化落地和統(tǒng)一適用提供了重要的制度方案。

一、人工智能生成合成內(nèi)容的治理難題及其法治應(yīng)對

通過人工智能生成合成技術(shù)降低了內(nèi)容“偽造”“造假”等的時間成本，尤其在圖片、音頻、視頻等領(lǐng)域，從早期引起廣泛關(guān)注的“換臉”工具，到偽造人聲、通話視頻的詐騙活動，再到“被壓在廢墟下的小男孩”等熱點事件，人工智能技術(shù)帶來的深度偽造、虛假信息、不良信息、抄襲侵權(quán)等問題，集中涌現(xiàn)出來，對包括內(nèi)容治理在內(nèi)的網(wǎng)絡(luò)空間秩序構(gòu)成挑戰(zhàn)，對于治理工具、方式和手段也提出了更新更高的要求。

為應(yīng)對人臉替換、語音合成、場景造假等深度偽造技術(shù)帶來的挑戰(zhàn)，我國已經(jīng)通過出臺《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等規(guī)定對此進行回應(yīng)，規(guī)定了服務(wù)提供者、技術(shù)支持者的相關(guān)義務(wù)，包括避免用戶混淆或誤認(rèn)，杜絕違法信息和虛假信息傳播，對使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識，并依照相關(guān)規(guī)定保存日志信息等。

我國針對人工智能生成合成內(nèi)容標(biāo)識這一信息工具的法治化規(guī)范舉措，具有兩方面的特點。一是將內(nèi)容治理義務(wù)不再局限于內(nèi)容的生產(chǎn)者和傳播者，而是拓展到為生產(chǎn)者和傳播者提供技術(shù)支持的主體，要求真正對技術(shù)擁有掌控能力的相關(guān)主體切實承擔(dān)起治理義務(wù)，從源頭采取措施；二是在現(xiàn)有內(nèi)容治理手段基礎(chǔ)上，明確規(guī)定了通過添加技術(shù)“標(biāo)識”的方式，幫助用戶有效識別人工智能生成內(nèi)容，并通過根據(jù)風(fēng)險程度分級分類在內(nèi)容治理中加以落實。

二、從法治層面進一步細(xì)化內(nèi)容標(biāo)識規(guī)定的必要性

通過技術(shù)標(biāo)識例如添加水印等方式，來對人工智能生成合成內(nèi)容以顯式標(biāo)識進行提示，方便用戶快速分辨，并通過隱式標(biāo)識提供識別和追溯功能，這種模式通過技術(shù)賦能，可以在對內(nèi)容傳播干預(yù)較小的前提下實現(xiàn)較為有效的治理效果，實際上也是國際上一定程度上形成共識的做法。例如，歐盟《人工智能法》第四章專門規(guī)定了“特定人工智能系統(tǒng)的提供者和部署者的透明度義務(wù)”，要求“生成或操縱構(gòu)成深度偽造的圖像、音頻或視頻內(nèi)容的人工智能系統(tǒng)的部署者應(yīng)當(dāng)披露該內(nèi)容是人為生成或操縱的”，并要求“最遲應(yīng)在首次互動或接觸時以清晰可辨的方式提供給相關(guān)自然人”。美國加州于2024年通過的《人工智能透明度法案》規(guī)定了人工智能系統(tǒng)提供者針對人工智能生成內(nèi)容提供檢測工具、顯性標(biāo)識功能以及設(shè)置隱式標(biāo)識的義務(wù)。

盡管我國已經(jīng)明確提出為人工智能生成合成內(nèi)容添加標(biāo)識的要求，由于內(nèi)容生成合成產(chǎn)業(yè)鏈中涉及的相關(guān)主體分散，產(chǎn)業(yè)鏈條較為復(fù)雜，包括人工智能生成合成內(nèi)容的工具開發(fā)者、工具部署者、工具使用者、內(nèi)容加工者、內(nèi)容傳播者、內(nèi)容傳播平臺以及廣大用戶等，都涉及到對標(biāo)識的使用和內(nèi)容的識別、傳播等行為。目前各方主體的標(biāo)識落實責(zé)任分工和層次尚需進一步明確，標(biāo)識的標(biāo)準(zhǔn)化和互認(rèn)程度也有待進一步提升，內(nèi)容標(biāo)識落地的過程尚需更加細(xì)致、全面、系統(tǒng)的規(guī)范，需要行業(yè)各主體共同努力，形成合力，也需要全面推進相應(yīng)的標(biāo)準(zhǔn)化技術(shù)和工具的開發(fā)和應(yīng)用。

三、促進內(nèi)容標(biāo)識義務(wù)全面落地的法治化路徑

《人工智能生成合成內(nèi)容標(biāo)識辦法》為相關(guān)主體如何開展內(nèi)容標(biāo)識工作做出了制度回應(yīng)。一方面，為了實現(xiàn)有效便捷提示，同時盡量減小對內(nèi)容呈現(xiàn)和傳播效果的干擾，需要進一步明確文本、音頻、圖片、視頻、虛擬場景等應(yīng)用場景下，人工智能生成合成內(nèi)容顯式標(biāo)識的呈現(xiàn)方式。另一方面，為了實現(xiàn)生成合成信息的有效傳遞，需要進一步規(guī)范文件元數(shù)據(jù)隱式標(biāo)識的添加、識別、更新方法。此外，服務(wù)提供者、內(nèi)容提供者、內(nèi)容傳播平臺、應(yīng)用服務(wù)分發(fā)平臺以及用戶等各方主體，需要厘清和明確各方在人工智能生成合成內(nèi)容標(biāo)識方面的義務(wù)和責(zé)任體系，引導(dǎo)合規(guī)和治理體系的形成和完善。配套發(fā)布的《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法》強制性國家標(biāo)準(zhǔn)，針對人工智能生成合成標(biāo)識的技術(shù)實現(xiàn)方式給出了更加細(xì)致、精準(zhǔn)的指引，并配以具體的實現(xiàn)范例，有助于相關(guān)行業(yè)各主體采取相應(yīng)的技術(shù)措施、全面準(zhǔn)確落實內(nèi)容標(biāo)識義務(wù)，并實現(xiàn)標(biāo)識技術(shù)的標(biāo)準(zhǔn)化，提高互認(rèn)程度，降低由于標(biāo)準(zhǔn)不統(tǒng)一帶來的合規(guī)成本。

《人工智能生成合成內(nèi)容標(biāo)識辦法》及其配套技術(shù)標(biāo)準(zhǔn)的出臺，有望在法治化的基礎(chǔ)上進一步規(guī)范我國人工智能生成合成內(nèi)容標(biāo)識應(yīng)用實踐，厘清不同主體的責(zé)任邊界，建立標(biāo)準(zhǔn)化的標(biāo)識互認(rèn)機制，有效降低公眾辨識人工智能生成合成內(nèi)容的成本，減少生成合成內(nèi)容帶來的誤導(dǎo)乃至欺詐風(fēng)險，通過提升人工智能應(yīng)用的透明度來增強公眾的認(rèn)知能力和信任程度，在透明、可信、安全的內(nèi)容生態(tài)建設(shè)基礎(chǔ)上，促進信息的有效流動，推動代表新質(zhì)生產(chǎn)力的人工智能產(chǎn)業(yè)快速健康發(fā)展。通過各方主體形成合力，共同培養(yǎng)培育生成、傳播內(nèi)容的媒介素養(yǎng)和行為倫理，方能標(biāo)本兼治，推動形成更加健康有序、風(fēng)清氣朗的網(wǎng)絡(luò)內(nèi)容生態(tài)空間。

作者：劉曉春　中國社會科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任

(來源："網(wǎng)信中國”)

(鏈接：https://mp.weixin.qq.com/s/I1YAzGKeG9b2gG00yKvoVg）