國家互聯(lián)網(wǎng)信息辦公室等部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《標(biāo)識辦法》）及配套強制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法》（以下簡稱《標(biāo)識標(biāo)準(zhǔn)》），旨在防范人工智能生成合成內(nèi)容引發(fā)的信息安全風(fēng)險，提升人工智能安全水平，規(guī)范人工智能行業(yè)應(yīng)用和健康發(fā)展。從技術(shù)規(guī)則到技術(shù)標(biāo)準(zhǔn)的有機組合，是一種兼具靈活性和約束力的制度創(chuàng)新，符合全球人工智能治理通用做法，提出人工智能標(biāo)識管理的中國方案，為全球人工智能治理規(guī)則形成和兼容協(xié)調(diào)提供更多基礎(chǔ)共識。

一、《標(biāo)識辦法》和《標(biāo)識標(biāo)準(zhǔn)》的制定背景

當(dāng)前以ChatGPT、Sora、DeepSeek等為代表的生成式人工智能迅猛發(fā)展，借助人工智能生成合成文本、圖像、音頻、視頻、虛擬場景等，逐漸演變?yōu)橹匾男畔⑸a(chǎn)模式。然而，伴隨技術(shù)門檻降低，虛假信息、深度偽造、惡意輸出等安全問題突出，加劇傳統(tǒng)信息安全風(fēng)險的動態(tài)性、滲透性和全局性。聯(lián)合國2024年《治理人工智能，助力造福人類》報告將“損害信息完整性”列為排名第一的風(fēng)險。

生成合成內(nèi)容標(biāo)識已成為國際慣例。無論是已施行的歐盟《人工智能法》、正式出臺的澳大利亞《安全和負責(zé)任的人工智能咨詢：澳大利亞政府的臨時回應(yīng)》，還是正在制定中的美國《編輯和深度偽造內(nèi)容來源保護完整性法案》《數(shù)字內(nèi)容溯源標(biāo)識法案》、英國《人工智能（監(jiān)管）法案》等提案，均對水印、標(biāo)識義務(wù)有要求。在我國，2023年1月施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》提出針對文本、圖像、音頻、視頻、虛擬場景等信息內(nèi)容的標(biāo)識要求，2023年8月施行的《生成式人工智能服務(wù)管理暫行辦法》承襲這一規(guī)定。盡管各國對數(shù)字水印、數(shù)字指紋、加密元數(shù)據(jù)等標(biāo)識技術(shù)的具體要求存在不同，對平臺標(biāo)識義務(wù)的強度設(shè)定也存在差異，但在從事后內(nèi)容審核轉(zhuǎn)向生成端風(fēng)險內(nèi)嵌控制、提高人工智能治理技術(shù)能力的理念是一致的。

二、《標(biāo)識辦法》和《標(biāo)識標(biāo)準(zhǔn)》的核心內(nèi)容與治理邏輯

作為網(wǎng)絡(luò)信息內(nèi)容治理制度體系的有機組成部分，《標(biāo)識辦法》和《標(biāo)識標(biāo)準(zhǔn)》是我國人工智能法治建設(shè)進程中的重要一步，既與《中華人民共和國網(wǎng)絡(luò)安全法》一脈相承，又與《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等有效銜接，構(gòu)建的人工智能標(biāo)識管理要求具有體系性、技術(shù)性、協(xié)同性、融貫性、全流程、精細化等特點，在明確治理標(biāo)準(zhǔn)和落地機制、促成治理實效方面，具備可操作性、落實基礎(chǔ)和前景。

1.體系性、技術(shù)性：技治與法治互嵌運行，探索顯隱雙標(biāo)識機制

技治與法治彼此的內(nèi)嵌、牽連、塑造在人工智能標(biāo)識管理中尤為明顯?！稑?biāo)識辦法》援引的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》涵蓋人工智能輸出的基本數(shù)據(jù)類型，并明確各類信息內(nèi)容的可標(biāo)識性。其中，顯式標(biāo)識能夠?qū)χ黧w權(quán)利、義務(wù)進行明確提示；而元數(shù)據(jù)的隱式標(biāo)識、基于技術(shù)中立性選擇的內(nèi)容隱式標(biāo)識和加密，在不影響輸出數(shù)據(jù)質(zhì)量、用戶感觀的同時，其內(nèi)容的完備性、唯一性要求，形式的強制性、規(guī)范性等共同構(gòu)成結(jié)構(gòu)化數(shù)據(jù)的一部分?！稑?biāo)識標(biāo)準(zhǔn)》中顯式標(biāo)識與隱式標(biāo)識的有機結(jié)合、綜合運用，使得通過技術(shù)檢測機制識別人工智能生成合成內(nèi)容成為可能，并在一定程度上具有確立主體行為性質(zhì)的初步證據(jù)效力。

2.協(xié)同性、融貫性：多部門監(jiān)管統(tǒng)籌協(xié)調(diào)，多制度銜接資源整合

在人工智能標(biāo)識監(jiān)管執(zhí)法中，厘清相關(guān)主管部門管理職責(zé)，明確標(biāo)識違規(guī)行為法律責(zé)任，強化標(biāo)識管理與算法備案、安全評估等制度的銜接和程序協(xié)調(diào)至關(guān)重要。《標(biāo)識辦法》規(guī)定，服務(wù)提供者在履行算法備案、安全評估等手續(xù)時，應(yīng)當(dāng)按照本辦法提供生成合成內(nèi)容標(biāo)識相關(guān)材料，并加強標(biāo)識信息共享。《標(biāo)識辦法》明確，違反本辦法規(guī)定的，由網(wǎng)信、電信、公安、廣播電視等有關(guān)主管部門依據(jù)職責(zé)，按照有關(guān)法律、行政法規(guī)、部門規(guī)章的規(guī)定予以處理。

3.全流程、精細化：產(chǎn)業(yè)生態(tài)鏈治理，科學(xué)設(shè)定上下游主體義務(wù)

《標(biāo)識辦法》和《標(biāo)識標(biāo)準(zhǔn)》從網(wǎng)絡(luò)信息服務(wù)提供者這一整體視角切入，進一步明晰適用標(biāo)識義務(wù)的主體。通過深入審視各主體在人工智能生態(tài)體系中的角色、定位、行為模式以及影響程度，精準(zhǔn)區(qū)分為生成合成內(nèi)容服務(wù)提供者、內(nèi)容傳播服務(wù)提供者這兩大類主體。同時，針對其他關(guān)鍵參與方，如互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺主體的責(zé)任范疇等，也進行明確規(guī)定，基本實現(xiàn)對生成合成內(nèi)容上下游主體的全覆蓋。將行為主體作為抓手進行識別和義務(wù)分配，法律的追責(zé)機制和后果承擔(dān)方得以落實。此外，《標(biāo)識辦法》體現(xiàn)出在數(shù)據(jù)內(nèi)容創(chuàng)作與打擊濫用間尋求平衡的考量，也表明在立法思路上對當(dāng)前蓬勃發(fā)展的人工智能產(chǎn)業(yè)整體上的鼓勵傾向，可理解為早期確立的平臺避風(fēng)港原則在新時代背景下的創(chuàng)新性發(fā)展。

三、《標(biāo)識辦法》和《標(biāo)識標(biāo)準(zhǔn)》的制度意義

從制度構(gòu)建角度審視，《標(biāo)識辦法》和《標(biāo)識標(biāo)準(zhǔn)》的制度化進程，本質(zhì)是將人工智能標(biāo)識產(chǎn)業(yè)實踐經(jīng)驗升維為有約束力的治理范式。依托“立法確認(rèn)-標(biāo)準(zhǔn)轉(zhuǎn)化-產(chǎn)業(yè)傳導(dǎo)”機制，我國構(gòu)建起從技術(shù)共識邁向法律秩序的進階之路。這一過程契合我國人工智能立法秉持的總體思路，即靈活運用既有規(guī)則，鼓勵行業(yè)產(chǎn)業(yè)先行開展試點探索，同時針對痛點、難點問題精準(zhǔn)發(fā)力，靶向施策，其產(chǎn)生的影響也將輻射至全球人工智能治理的理念層面以及標(biāo)準(zhǔn)實踐領(lǐng)域。

從規(guī)范協(xié)同角度審視，人工智能標(biāo)識治理體系呈現(xiàn)“規(guī)則+技術(shù)”雙輪驅(qū)動特征，覆蓋從內(nèi)容生產(chǎn)到傳播的全鏈條治理?！稑?biāo)識辦法》側(cè)重構(gòu)建“責(zé)任鏈閉環(huán)”，通過主體資質(zhì)審查、過程性義務(wù)設(shè)定等形成行為約束?！稑?biāo)識標(biāo)準(zhǔn)》聚焦“技術(shù)錨點”建設(shè)，針對關(guān)鍵技術(shù)要件確立具備可驗證性的實施基準(zhǔn)。我國《中華人民共和國標(biāo)準(zhǔn)化法》規(guī)定，對保障人身健康和生命財產(chǎn)安全、國家安全、生態(tài)環(huán)境安全以及滿足經(jīng)濟社會管理基本需要的技術(shù)要求，應(yīng)當(dāng)制定強制性國家標(biāo)準(zhǔn)。將生成合成內(nèi)容標(biāo)識的最低要求上升為國家強制性標(biāo)準(zhǔn)，不僅是對《標(biāo)識辦法》的具體落地，更是表明在社會應(yīng)用全過程中，人工智能標(biāo)識及活動已與人身健康和生命財產(chǎn)安全、國家安全等緊密相連。

從技術(shù)治理效能角度審視，人工智能標(biāo)識制度并非顛覆人工智能既有的生產(chǎn)環(huán)境，而是致力于在現(xiàn)有生產(chǎn)基礎(chǔ)之上，提升人類對相關(guān)內(nèi)容的辨識度以及機械處理的準(zhǔn)確性?！稑?biāo)識辦法》和《標(biāo)識標(biāo)準(zhǔn)》不僅及時響應(yīng)了將人工智能的“海量、逼真”輸出納入監(jiān)管視野的緊迫需求，標(biāo)準(zhǔn)化且有所區(qū)分的顯式、隱式技術(shù)要求也為權(quán)利記載、算法備案、數(shù)據(jù)溯源、執(zhí)法協(xié)助、安全評估等工作，提供具有普適性的、可量化度量與評價的操作方法及實用工具，同時通過建立“生成即標(biāo)識”的技術(shù)規(guī)范推動產(chǎn)業(yè)內(nèi)生合規(guī)，實現(xiàn)安全和發(fā)展之間的動態(tài)平衡。這一制度體系也切實回應(yīng)在人機互動、人機融合的新一輪技術(shù)跨越式發(fā)展中，人類對真實與虛擬進行辨別，從而形成行為、決策依據(jù)的基本需求。

四、《標(biāo)識辦法》和《標(biāo)識標(biāo)準(zhǔn)》的未來展望

可以預(yù)見，我國人工智能安全執(zhí)法將延續(xù)重點事項監(jiān)管、促進產(chǎn)業(yè)有序發(fā)展的方向。伴隨標(biāo)識管理與算法備案、安全評估等機制逐步實現(xiàn)有機銜接，生成合成內(nèi)容標(biāo)識合規(guī)有望成為相關(guān)部門開展人工智能監(jiān)督檢查、專項行動的重點關(guān)注領(lǐng)域。在此進程中，一系列深層次問題亟待審慎思考與妥善解決——如何平衡發(fā)展與安全、創(chuàng)新與責(zé)任、公益與私益等多元目標(biāo)的內(nèi)在張力，怎樣達成不同執(zhí)法部門、不同層級、不同地域執(zhí)法的一致性、協(xié)調(diào)性，又該通過何種路徑提升執(zhí)法的專業(yè)化、精細化、智慧化水平，從而培育出安全、開放、公平、符合國情的人工智能產(chǎn)業(yè)生態(tài)環(huán)境。這些都是標(biāo)識管理中需要深入探究的重要課題。

此外，“人的因素”應(yīng)融入人工智能標(biāo)識管理的全過程，著重提升公眾對于信息內(nèi)容真實性、來源可追溯性的批判性評估能力，無疑是重中之重。積極培育公眾人工智能素養(yǎng)，確保人工智能技術(shù)成果普惠共享，這也是應(yīng)有之義。

作者：金　波　公安部第三研究所副所長

(來源："網(wǎng)信中國”)

(鏈接：https://mp.weixin.qq.com/s/g6g-BqTS42U7WEIuMDS-3g）