隨著生成式人工智能技術(shù)在內(nèi)容生產(chǎn)領(lǐng)域的廣泛應(yīng)用，既帶來了效率革命，也引發(fā)了虛假信息傳播等安全隱患。為應(yīng)對這一挑戰(zhàn)，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合多部門近期正式發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《標(biāo)識辦法》）及配套強制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法》（以下簡稱《標(biāo)識標(biāo)準(zhǔn)》），開創(chuàng)了技術(shù)標(biāo)準(zhǔn)與管理制度配合實施的新型治理模式，標(biāo)志著我國人工智能安全治理邁入“技管雙強”的新階段。

此次《標(biāo)識辦法》《標(biāo)識標(biāo)準(zhǔn)》的協(xié)同發(fā)布，破解了以往治理中管理規(guī)范與技術(shù)標(biāo)準(zhǔn)銜接不暢的問題，形成了“制度牽引技術(shù)落地，技術(shù)固化制度要求”的治理閉環(huán)。作為我國人工智能領(lǐng)域首部“辦法+強標(biāo)”組合拳，其創(chuàng)新性體現(xiàn)在三個維度：管理維度明確生成、傳播、分發(fā)全鏈條主體責(zé)任；監(jiān)管維度建立審核、監(jiān)測、追責(zé)的閉環(huán)機制；技術(shù)維度規(guī)范顯隱標(biāo)識體系并預(yù)留創(chuàng)新空間。這種三位一體的治理架構(gòu)，既通過管理機制明確責(zé)任邊界，又依托監(jiān)管舉措筑牢安全防線，更以技術(shù)標(biāo)準(zhǔn)固化治理要求，為人工智能安全治理提供了清晰的實施路徑。

一、強標(biāo)支撐：夯實標(biāo)識管理，激發(fā)協(xié)同創(chuàng)新

《標(biāo)識辦法》《標(biāo)識標(biāo)準(zhǔn)》的同步發(fā)布，標(biāo)志著我國人工智能安全治理從“分散管理”向“系統(tǒng)協(xié)同”的跨越，為人工智能安全治理帶來全新思路。二者通過管理要求與技術(shù)標(biāo)準(zhǔn)的深度融合，為內(nèi)容標(biāo)識的規(guī)范化實施提供了雙重保障。

（一）雙管齊下：管理與技術(shù)緊密契合

在人工智能驅(qū)動內(nèi)容生態(tài)變革的過程中，《標(biāo)識辦法》與配套《標(biāo)識標(biāo)準(zhǔn)》緊密結(jié)合，為內(nèi)容標(biāo)識管理勾勒出清晰路徑?！稑?biāo)識辦法》從宏觀管理角度，明確了生成合成服務(wù)提供者、內(nèi)容傳播服務(wù)提供者等多元主體在內(nèi)容標(biāo)識中的主要責(zé)任，構(gòu)建起內(nèi)容標(biāo)識管理的基本框架。例如，其規(guī)定生成合成服務(wù)提供者需精準(zhǔn)識別所生成內(nèi)容的屬性并添加標(biāo)識，內(nèi)容傳播服務(wù)提供者要確保標(biāo)識在傳播過程中的完整性，為后續(xù)技術(shù)實施指引方向。

《標(biāo)識標(biāo)準(zhǔn)》從技術(shù)層面，針對文本內(nèi)容，詳細規(guī)定了文字形式的顯式標(biāo)識應(yīng)包含“人工智能”或“AI”以及“生成”“合成”等要素，且在字型、顏色及位置上嚴(yán)格規(guī)定，確保用戶能迅速識別；對于音頻、視頻等多媒體內(nèi)容，分別設(shè)計了獨特的顯式標(biāo)識方式，如音頻的語音或節(jié)奏標(biāo)識、視頻畫面特定位置的文字提示等，在不干擾用戶體驗的前提下實現(xiàn)有效標(biāo)識。在隱式標(biāo)識方面，構(gòu)建文件元數(shù)據(jù)隱式標(biāo)識的結(jié)構(gòu)，涵蓋生成合成標(biāo)簽、服務(wù)提供者信息等要素，并對其編碼規(guī)則和存儲方式進行規(guī)范，從技術(shù)底層保障內(nèi)容的可追溯性與安全性，實現(xiàn)管理要求與技術(shù)手段的無縫對接。

（二）管理協(xié)同：全方位深度融合

管理協(xié)同在內(nèi)容標(biāo)識管理中處于重要位置，是保障治理體系有效運行的關(guān)鍵，《標(biāo)識標(biāo)準(zhǔn)》《標(biāo)識辦法》從多方面實現(xiàn)了緊密協(xié)同。一是責(zé)任主體的統(tǒng)一。二者明確生成合成服務(wù)提供者、內(nèi)容傳播服務(wù)提供者、應(yīng)用分發(fā)平臺等主體的標(biāo)識義務(wù)，避免責(zé)任模糊導(dǎo)致的監(jiān)管漏洞。二是全流程的覆蓋。《標(biāo)識辦法》提出從內(nèi)容生成、傳播到分發(fā)的全流程管理，而《標(biāo)識標(biāo)準(zhǔn)》通過元數(shù)據(jù)隱式標(biāo)識技術(shù)，確保內(nèi)容在流轉(zhuǎn)過程中始終可追溯。三是與現(xiàn)有制度銜接。《標(biāo)識標(biāo)準(zhǔn)》要求服務(wù)提供者在算法備案和安全評估時提交標(biāo)識相關(guān)材料，與《生成式人工智能服務(wù)管理暫行辦法》等法規(guī)形成制度閉環(huán)。

（三）推動創(chuàng)新：激發(fā)行業(yè)內(nèi)生動力

《標(biāo)識標(biāo)準(zhǔn)》推動行業(yè)自律與技術(shù)創(chuàng)新，為行業(yè)持續(xù)發(fā)展注入強大動力?！稑?biāo)識標(biāo)準(zhǔn)》不僅通過強制性方式規(guī)范行業(yè)行為，還通過“柔性治理”理念激發(fā)企業(yè)主動性。例如，《標(biāo)識標(biāo)準(zhǔn)》允許服務(wù)提供者根據(jù)業(yè)務(wù)場景選擇顯式標(biāo)識的具體形式，并鼓勵探索新型隱式標(biāo)識技術(shù)。這種“底線約束+創(chuàng)新激勵”的模式，既保障了治理剛性，又為技術(shù)升級預(yù)留空間，推動行業(yè)從被動合規(guī)轉(zhuǎn)向主動創(chuàng)新。

二、強標(biāo)決心：強化法治威懾，嚴(yán)守安全防線

《強制性國家標(biāo)準(zhǔn)管理辦法》明確指出，強制性標(biāo)準(zhǔn)是“保障國家安全、人身健康和生命財產(chǎn)安全”的技術(shù)法規(guī)。《標(biāo)識標(biāo)準(zhǔn)》作為我國人工智能安全領(lǐng)域首部強制性國家標(biāo)準(zhǔn)，以法律效力強化治理剛性，體現(xiàn)了國家對人工智能安全隱患零容忍的態(tài)度。

（一）效力升級：強化法治保障力度

法律效力的提升是《標(biāo)識標(biāo)準(zhǔn)》的重要特征，與此前的推薦性標(biāo)準(zhǔn)不同，《標(biāo)識標(biāo)準(zhǔn)》的強制性屬性意味著相關(guān)服務(wù)提供者必須遵守標(biāo)識要求。同時，通過強制規(guī)定標(biāo)識技術(shù)的最低要求，如元數(shù)據(jù)字段格式，統(tǒng)一行業(yè)技術(shù)門檻，防止劣幣驅(qū)逐良幣，維護市場的公平公正。

（二）監(jiān)管閉環(huán)：全鏈條嚴(yán)密管控

《標(biāo)識標(biāo)準(zhǔn)》構(gòu)建的全方位監(jiān)管體系是保障人工智能安全的重要防線，通過多環(huán)節(jié)協(xié)同實現(xiàn)全鏈條閉環(huán)管理。一是在事前審核環(huán)節(jié)，互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺需在上架審核時核驗標(biāo)識相關(guān)材料，從源頭阻斷未標(biāo)識內(nèi)容的傳播，將風(fēng)險遏制在萌芽狀態(tài)。二是在事中監(jiān)測環(huán)節(jié)，依靠隱式標(biāo)識的元數(shù)據(jù)標(biāo)簽，監(jiān)管部門可實時追蹤內(nèi)容傳播路徑，快速定位違規(guī)主體，及時發(fā)現(xiàn)并處理問題，確保監(jiān)管的及時有效性。三是事后追責(zé)環(huán)節(jié)，對惡意篡改標(biāo)識或偽造內(nèi)容的行為絕不姑息，可依據(jù)有關(guān)法規(guī)進行處罰。

（三）依法實施：發(fā)揮強制效力

《中華人民共和國標(biāo)準(zhǔn)化法》規(guī)定不符合強制性標(biāo)準(zhǔn)的產(chǎn)品、服務(wù)，不得生產(chǎn)、銷售、進口或者提供。同時，規(guī)定了生產(chǎn)、銷售、進口產(chǎn)品或者提供服務(wù)不符合強制性標(biāo)準(zhǔn)的，依法承擔(dān)民事責(zé)任。這種“法律+標(biāo)準(zhǔn)”的組合拳，體現(xiàn)了內(nèi)容標(biāo)識治理的強制效力。

三、技術(shù)規(guī)范：構(gòu)建標(biāo)識體系，推動安全升級

《標(biāo)識標(biāo)準(zhǔn)》從顯式標(biāo)識的用戶感知和隱式標(biāo)識的技術(shù)追溯兩個維度，構(gòu)建了多層次、立體化的內(nèi)容標(biāo)識技術(shù)體系，既保障了用戶知情權(quán)，又為監(jiān)管溯源提供了支撐。

（一）顯式標(biāo)識：優(yōu)化用戶體驗平衡

作為內(nèi)容標(biāo)識體系的前端防線，顯式標(biāo)識通過直觀可見的信息呈現(xiàn)，既保障用戶知情權(quán)，又維護了內(nèi)容可信度。

一是要素統(tǒng)一性要求，顯式標(biāo)識必須包含“人工智能”“生成”“合成”等核心要素，確保用戶一眼識別內(nèi)容屬性，減少信息誤解與混淆。二是形態(tài)多樣性要求，針對不同內(nèi)容模態(tài)，《標(biāo)識標(biāo)準(zhǔn)》設(shè)計了文本角標(biāo)、音頻節(jié)奏標(biāo)識、交互界面水印等。例如，視頻內(nèi)容可在畫面角落添加“AI生成”提示，音頻內(nèi)容可通過特定節(jié)奏提示用戶，滿足不同場景下的標(biāo)識需求。三是干擾最小化考慮，標(biāo)識位置和形式兼顧了提示效果與用戶體驗，例如允許在背景添加半透明水印，而非強制覆蓋主要內(nèi)容區(qū)域，在保障用戶獲取信息的同時，不影響其正常使用內(nèi)容。

（二）隱式標(biāo)識：強化數(shù)據(jù)安全標(biāo)準(zhǔn)

隱式標(biāo)識的規(guī)范重點在于強化元數(shù)據(jù)管理與安全防護，為內(nèi)容追溯與安全保障奠定基礎(chǔ)。一是在元數(shù)據(jù)字段規(guī)范上，隱式標(biāo)識需包含生成合成標(biāo)簽要素、生成合成服務(wù)提供者要素、內(nèi)容制作編號要素等五個核心要素，確保跨平臺數(shù)據(jù)互通，實現(xiàn)信息的高效傳遞與共享。二是在安全防護預(yù)留方面，《標(biāo)識標(biāo)準(zhǔn)》在元數(shù)據(jù)中預(yù)留兩個字段，分別用于生成合成服務(wù)提供者和內(nèi)容傳播服務(wù)提供者自主開展安全防護，保護其內(nèi)容和標(biāo)識的完整性，抵御潛在的安全威脅。三是在技術(shù)兼容性上，鼓勵添加數(shù)字水印作為補充標(biāo)識，兼容現(xiàn)有技術(shù)生態(tài)。

（三）技術(shù)引領(lǐng)：推動創(chuàng)新應(yīng)用升級

《標(biāo)識標(biāo)準(zhǔn)》在技術(shù)領(lǐng)域不僅起到規(guī)范作用，更通過積極引導(dǎo)推動標(biāo)識技術(shù)從合規(guī)邁向創(chuàng)新，提升行業(yè)技術(shù)水平。它不僅規(guī)范了技術(shù)底線，還通過附錄中的示例（如在交互場景界面適當(dāng)位置嵌入顯示標(biāo)識），引導(dǎo)企業(yè)探索更友好的標(biāo)識形式。這種“標(biāo)準(zhǔn)引領(lǐng)+實踐示范”的模式，激發(fā)企業(yè)創(chuàng)新思維，將標(biāo)識技術(shù)從被動合規(guī)工具轉(zhuǎn)變?yōu)樘嵘脩粜湃蔚暮诵母偁幜Γπ袠I(yè)技術(shù)升級與發(fā)展。

綜上所述，《標(biāo)識辦法》《標(biāo)識標(biāo)準(zhǔn)》的發(fā)布，標(biāo)志著我國在人工智能安全治理領(lǐng)域邁出了重要的一步。通過“技管結(jié)合”的人工智能安全治理的新范式，實現(xiàn)了管理要求與技術(shù)標(biāo)準(zhǔn)的有機結(jié)合，從明確各主體責(zé)任、強化監(jiān)管力度到規(guī)范標(biāo)識要求，全方位構(gòu)建起嚴(yán)密的內(nèi)容標(biāo)識治理體系，有效應(yīng)對生成式人工智能帶來的安全挑戰(zhàn)，保障網(wǎng)絡(luò)空間內(nèi)容生態(tài)的穩(wěn)定發(fā)展。

作者：范科峰　中國電子技術(shù)標(biāo)準(zhǔn)化研究院副院長

(來源："網(wǎng)信浙江”)

(鏈接：https://mp.weixin.qq.com/s/mNDgBBFklg25Rw6CitxkcQ）