圖片由AI生成。

用最新的人工智能技術(shù)深度合成一個(gè)名人音視頻要多少錢(qián)？記者的實(shí)驗(yàn)告訴我們：粗糙一些的不要錢(qián)，精細(xì)一點(diǎn)的幾十塊錢(qián)。最近媒體記者調(diào)查發(fā)現(xiàn)，深度合成軟件在網(wǎng)絡(luò)上越來(lái)越容易獲得，一些網(wǎng)絡(luò)主播會(huì)開(kāi)直播教網(wǎng)友如何使用，因此引發(fā)的侵權(quán)糾紛也原來(lái)越普遍。

深度偽造的危害，早有跡象。深度偽造是一種合成技術(shù)，利用深度學(xué)習(xí)來(lái)合成或操縱視頻、音頻、圖片等，實(shí)現(xiàn)篡改、偽造和自動(dòng)生成，產(chǎn)生高度逼真且難以甄別的效果。從制造虛假新聞到惡意偽造圖像、視頻和音頻，人工智能“造假”正成為智能時(shí)代傳播領(lǐng)域的新風(fēng)險(xiǎn)，對(duì)社會(huì)的穩(wěn)定和公共秩序構(gòu)成威脅。

當(dāng)代碼與算法成為人人都能揮灑的“顏料”，昔日需要好萊塢特效團(tuán)隊(duì)斥資打造的換臉魔術(shù)，如今別有用心者輕易就可以將人格權(quán)、肖像權(quán)、知識(shí)產(chǎn)權(quán)當(dāng)作“顏料”，涂抹出以假亂真的“畫(huà)皮”。當(dāng)“AI馬斯克”“AI靳東”“AI張文宏”被用來(lái)實(shí)施精準(zhǔn)詐騙時(shí)，當(dāng)“每20個(gè)‘80后’中就有1人去世”這種“AI幻覺(jué)”謠言廣為流傳時(shí)，深度偽造對(duì)法律監(jiān)管和倫理規(guī)則的挑戰(zhàn)，變得越來(lái)越迫在眉睫。誰(shuí)也說(shuō)不清，會(huì)不會(huì)有一天我們自己的臉，也出現(xiàn)在一則從未拍攝過(guò)的視頻，說(shuō)著完全陌生的臺(tái)詞。

應(yīng)對(duì)之法，目前還很有限，最直接了當(dāng)?shù)木褪侨庋邸罢也纭?。比如AI生成的內(nèi)容中，往往存在著一些現(xiàn)實(shí)中不存在的細(xì)節(jié)問(wèn)題。比如AI不太會(huì)畫(huà)手，圖片的手部總有著不自然的痕跡，視頻中的邊界不是很清晰，畫(huà)面可能有閃爍。尤其是成本較低的偽造，有破綻可察。對(duì)文字類(lèi)AI謠言的識(shí)別，靠不了肉眼只能靠“心眼”?！?0后死亡率5.2%”等于每20個(gè)80后就有一個(gè)去世，這樣的結(jié)論顯然有違常識(shí)。對(duì)反常的結(jié)論多問(wèn)一句“可能嗎”，可能就免于被騙了。

技術(shù)在進(jìn)步，這些瑕疵破綻總會(huì)被完全攻克的，當(dāng)深度偽造完全能以假亂真時(shí)，技術(shù)和法律的重要性就更加凸顯。用技術(shù)對(duì)抗技術(shù)、用魔法打敗魔法，是一場(chǎng)無(wú)法避免的持久博弈。2024年國(guó)家網(wǎng)絡(luò)安全宣傳周網(wǎng)絡(luò)安全博覽會(huì)上，5秒就能辨別是不是“AI換臉”的技術(shù)防火墻，已經(jīng)出現(xiàn)了。一些科技公司也正在陸續(xù)推出其AI深度偽造檢測(cè)工具，通過(guò)在內(nèi)容被篡改時(shí)發(fā)送警報(bào)來(lái)幫助人們識(shí)別虛假圖像和視頻，從而守護(hù)用戶(hù)的心智。

加快制定和完善針對(duì)深度偽造的法律法規(guī)至關(guān)重要。近年來(lái)，我國(guó)先后相繼出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》及《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)，全國(guó)首例“AI生成聲音人格權(quán)侵權(quán)案”也帶來(lái)了一定警示性。但顯然實(shí)際應(yīng)用中，還需要進(jìn)一步規(guī)范技術(shù)的開(kāi)發(fā)與應(yīng)用，明確技術(shù)濫用的法律責(zé)任，加大對(duì)違規(guī)行為的處罰力度，積極促進(jìn)共同制定AI治理的全球規(guī)則。規(guī)范制定與技術(shù)發(fā)展的賽跑，就像用力跑在“雨點(diǎn)”前面，才能避免被“打濕”的下場(chǎng)。

當(dāng)人工智能制造的幻影一時(shí)遮住了眼睛，我們或許該重拾那個(gè)古老的生存智慧：不要輕信眼見(jiàn)為實(shí)。這不是對(duì)技術(shù)的背叛，而是數(shù)字公民的自我修養(yǎng)。在虛擬與現(xiàn)實(shí)的纏斗中，人類(lèi)最堅(jiān)固的堡壘不是防火墻，而是對(duì)真相的敬畏之心。

(來(lái)源："網(wǎng)信浙江”)

(鏈接：https://mp.weixin.qq.com/s/9KTUtJ4XJa7kBoccbEtGtw）