以ChatGPT為代表的現(xiàn)象級互聯(lián)網(wǎng)應(yīng)用的出現(xiàn)，掀起了人工智能領(lǐng)域新一輪技術(shù)浪潮。作為新一代信息技術(shù)，生成式人工智能通過對人類“腦力”的無限延伸，賦予人們對于追求美好生活的更大想象空間。與此同時，生成式人工智能被濫用帶來的數(shù)據(jù)泄露、虛假信息等風(fēng)險挑戰(zhàn)也紛至沓來，各國陸續(xù)推出或完善針對生成式人工智能的監(jiān)管方案。《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱《辦法》），是對我國人工智能法律體系與算法治理體系的進(jìn)一步完善?！掇k法》與《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》在治理思路上一脈相承，在治理制度方面創(chuàng)新推進(jìn)，堅持從生成式人工智能技術(shù)特點(diǎn)出發(fā)，提出了一系列針對性的發(fā)展與治理措施。

一、契合新技術(shù)新特性，有針對性地進(jìn)行制度設(shè)計

與《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》相比，《辦法》更加關(guān)注生成式人工智能技術(shù)本身，主要與生成式人工智能技術(shù)自身特性有關(guān)：一是生成式人工智能應(yīng)用場景具有通用性。傳統(tǒng)算法應(yīng)用的處理模式與應(yīng)用場景相對固定，有較為明確的服務(wù)邊界，但生成式人工智能應(yīng)用場景更為豐富，如ChatGPT產(chǎn)品幾乎可以處理自然語言領(lǐng)域的所有任務(wù)，如果延續(xù)針對固定用途信息服務(wù)的管理思路，將難以充分切合實(shí)際監(jiān)管需求。二是生成式人工智能具有價值觀屬性。生成式人工智能模型經(jīng)過訓(xùn)練后，對一些概念具備了較為穩(wěn)定的“認(rèn)知”，圍繞相關(guān)概念的生成內(nèi)容往往表現(xiàn)出驚人的一致性。一旦模型在訓(xùn)練過程中引入偏見歧視等有害信息，在模型實(shí)際應(yīng)用中很可能呈現(xiàn)放大化輸出。三是生成式人工智能具備可引導(dǎo)性。生成式人工智能模型在原有的人工智能“預(yù)訓(xùn)練—微調(diào)”范式上，增加了“對齊”的訓(xùn)練環(huán)節(jié)。在提升模型能力方面，通過在生成式人工智能模型訓(xùn)練過程中調(diào)整模型輸出概率分布不斷趨近人類偏好，但同時也存在被不法分子惡意利用的風(fēng)險。

《辦法》充分結(jié)合生成式人工智能特性，提出相應(yīng)管理要求：一是在生成內(nèi)容上，《辦法》要求利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)“堅持社會主義核心價值觀，不得生成煽動顛覆國家政權(quán)、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統(tǒng)一和社會穩(wěn)定，宣揚(yáng)恐怖主義、極端主義，宣揚(yáng)民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容”。二是在算法設(shè)計等過程上，《辦法》要求提供者在“算法設(shè)計、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，采取有效措施防止出現(xiàn)民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視”，以及對尊重知識產(chǎn)權(quán)、商業(yè)道德和他人合法權(quán)益等方面提出了保護(hù)原則。從這些要求看，《辦法》基本涵蓋了生成式人工智能服務(wù)在應(yīng)用過程中可能暴露出來的安全及倫理問題。三是在監(jiān)管方式上，除了安全評估、算法備案、標(biāo)識等制度外，還提出國家有關(guān)主管部門針對生成式人工智能技術(shù)特點(diǎn)及其在有關(guān)行業(yè)和領(lǐng)域的服務(wù)應(yīng)用，完善與創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式，制定相應(yīng)的分類分級監(jiān)管規(guī)則或者指引。

二、聚焦關(guān)鍵環(huán)節(jié)，高度重視性能與安全的平衡

《辦法》在技術(shù)監(jiān)管方面更為聚焦和深入，以生成式人工智能模型訓(xùn)練生產(chǎn)中的“對齊”這一關(guān)鍵技術(shù)環(huán)節(jié)為例，在傳統(tǒng)人工智能模型“預(yù)訓(xùn)練—微調(diào)”生成范式中，預(yù)訓(xùn)練環(huán)節(jié)是利用海量無標(biāo)注數(shù)據(jù)讓模型學(xué)習(xí)豐富的知識信息，形成模型的底層知識來源。微調(diào)階段是根據(jù)應(yīng)用領(lǐng)域，通過針對性定制的標(biāo)注數(shù)據(jù)集，引導(dǎo)模型形成回答問題的思路。當(dāng)前，生成式人工智能模型在原有訓(xùn)練范式基礎(chǔ)上，應(yīng)用人工智能模型“對齊”技術(shù)，能夠幫助生成式人工智能與人類偏好保持對齊并遵循人類意圖，實(shí)現(xiàn)模型輸出內(nèi)容符合“有幫助的”、“誠實(shí)的”和“無害的”準(zhǔn)則。在追求生成式人工智能的性能與安全的平衡方面，“對齊”技術(shù)的適當(dāng)使用將發(fā)揮關(guān)鍵作用。

《辦法》圍繞相關(guān)關(guān)鍵技術(shù)環(huán)節(jié)提出多項(xiàng)條款：一是明確了模型訓(xùn)練及優(yōu)化的安全性要求，要求模型訓(xùn)練要使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型，明確“涉及知識產(chǎn)權(quán)的，不得侵害他人依法享有的知識產(chǎn)權(quán)”“涉及個人信息的，應(yīng)當(dāng)取得個人同意或者符合法律、行政法規(guī)規(guī)定的其他情形”及采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量等，在提升訓(xùn)練數(shù)據(jù)質(zhì)量等生成式人工智能模型重要基礎(chǔ)方面作出了詳細(xì)監(jiān)管說明。二是明確在數(shù)據(jù)標(biāo)注過程中，應(yīng)制定清晰、具體、可操作的標(biāo)注規(guī)則，以及開展數(shù)據(jù)標(biāo)注質(zhì)量評估、抽樣核驗(yàn)標(biāo)注內(nèi)容的準(zhǔn)確性等要求，在提供符合“對齊”要求的高質(zhì)量數(shù)據(jù)方面也提出明確要求。三是在模型輸出信息出現(xiàn)違法內(nèi)容時，要求提供者采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改，體現(xiàn)了《辦法》與生成式人工智能技術(shù)特點(diǎn)及關(guān)鍵環(huán)節(jié)的高度適應(yīng)。

三、強(qiáng)調(diào)促進(jìn)創(chuàng)新與規(guī)范引導(dǎo)并重，有力推動生成式人工智能技術(shù)健康發(fā)展

《辦法》的制定和出臺，是我國推進(jìn)生成式人工智能服務(wù)領(lǐng)域治理、促進(jìn)產(chǎn)業(yè)規(guī)范健康發(fā)展、引導(dǎo)技術(shù)向善的重要舉措?！掇k法》第三條指出，生成式人工智能服務(wù)，堅持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則；第五條明確鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，支持行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)在生成式人工智能多個方面開展協(xié)作；第六條提出鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎(chǔ)技術(shù)的自主創(chuàng)新及平等互利開展國際交流與合作，參與生成式人工智能相關(guān)國際規(guī)則制定。以上內(nèi)容均體現(xiàn)出我國高度重視生成式人工智能健康發(fā)展，科學(xué)合理規(guī)范引導(dǎo)生成式人工智能應(yīng)用的管理原則。在人工智能技術(shù)迎來重要發(fā)展的時期，我們不僅要讓相關(guān)新技術(shù)新應(yīng)用充分釋放出創(chuàng)新活力，也要在安全監(jiān)管與創(chuàng)新引導(dǎo)之間掌握好平衡。一方面，高度重視和充分研判生成式人工智能相關(guān)創(chuàng)新應(yīng)用對數(shù)據(jù)安全、公共利益、知識產(chǎn)權(quán)、倫理道德等方面可能造成的影響，進(jìn)一步加強(qiáng)人工智能領(lǐng)域的行業(yè)自律，引導(dǎo)大數(shù)據(jù)、人工智能等先進(jìn)技術(shù)在社會主義核心價值觀的引導(dǎo)下開展應(yīng)用創(chuàng)新，加快制定相關(guān)行業(yè)標(biāo)準(zhǔn)和規(guī)范。另一方面，充分支持人工智能領(lǐng)域研發(fā)主體開拓進(jìn)取，鼓勵和支持自主創(chuàng)新，培育國家級生成式人工智能技術(shù)生態(tài)和應(yīng)用生態(tài)，堅持包容和審慎相結(jié)合，理性務(wù)實(shí)推進(jìn)中國人工智能科技創(chuàng)新和數(shù)字經(jīng)濟(jì)的蓬勃發(fā)展。

(來源："網(wǎng)信中國”）

(鏈接：https://mp.weixin.qq.com/s/9XWX5vqwu3XJ114mk4H4jQ）