從ChatGPT到Sora，這兩年人工智能的發(fā)展速度之快、影響范圍之廣、滲透能力之強(qiáng)，讓人們直觀地感受到未來已來。

新技術(shù)的發(fā)展，有時(shí)會伴隨著悖論和陷阱。面對AI市場這片藍(lán)海，人工智能帶來的六大陷阱需要引起高度警惕。

一、數(shù)據(jù)安全陷阱：你的“AI朋友”能守口如瓶嗎

在科幻電影中，因?yàn)閿?shù)據(jù)泄露帶來的安全隱憂曾在很多情節(jié)中出現(xiàn)過。而在現(xiàn)實(shí)中，隨著AI技術(shù)在各行各業(yè)的廣泛應(yīng)用，數(shù)據(jù)安全的確成為一個(gè)重要且緊迫的問題。

人工智能系統(tǒng)的個(gè)性化服務(wù)，往往依賴于大量個(gè)人數(shù)據(jù)的輸入和模型訓(xùn)練。也就是說，你的“AI小伙伴”越智能，個(gè)人信息“喂養(yǎng)”得越頻繁，你在它面前就越像個(gè)“透明人”。數(shù)據(jù)的收集、存儲、處理和使用過程，任何一個(gè)環(huán)節(jié)出了差錯，就可能存在個(gè)人健康記錄、金融信息、位置數(shù)據(jù)等敏感信息泄露的風(fēng)險(xiǎn)。

除了隱私泄露外，研究人員發(fā)現(xiàn)，當(dāng)前人工智能技術(shù)在實(shí)踐應(yīng)用中，還可能帶來模型中毒、數(shù)據(jù)竄改、內(nèi)部威脅、蓄意攻擊等數(shù)據(jù)安全威脅。而AI時(shí)代數(shù)據(jù)安全治理有哪些出路，也成為相關(guān)領(lǐng)域的熱門課題。

圖源：“科學(xué)家雜志”微信公眾號

二、侵權(quán)陷阱：AI創(chuàng)作不能“隨心所欲”

我們一貫認(rèn)為“藝術(shù)是人類最終的圣殿”，人類之外無法取代。但如今，生成式人工智能打破了人類對創(chuàng)作的“壟斷”。谷歌公司旗下的人工智能模型“雙子座（Gemini）”根據(jù)“三言兩語”就能生成一篇短篇小說或詩歌；去年，“AI孫燕姿”等AI翻唱刷屏網(wǎng)絡(luò)，登上熱搜。

一邊是AI創(chuàng)作的噴涌式發(fā)展，另一邊是藝術(shù)家們的“集體擔(dān)憂”。今年4月，世界各地的200余名音樂人聯(lián)合發(fā)布了一封反對AI的公開信，呼吁數(shù)字音樂開發(fā)商“停止使用人工智能來侵犯和貶低人類藝術(shù)家的權(quán)利”。

生成式人工智能推動了創(chuàng)作方式的變革，也引發(fā)了關(guān)于版權(quán)歸屬、責(zé)任界定和利益分配等問題。不久前，全國首例“AI聲音侵權(quán)案”一審宣判，四個(gè)被告方使用原告聲音、開發(fā)涉案AI文本轉(zhuǎn)語音產(chǎn)品未獲得合法授權(quán)，構(gòu)成侵權(quán)，有的賠禮道歉，有的賠償原告各項(xiàng)損失25萬元。

目前，探索建立對于AI生成內(nèi)容侵權(quán)判定的具體規(guī)則、加強(qiáng)對相關(guān)領(lǐng)域的法律監(jiān)管是必要而且是迫切的。AI創(chuàng)作不能隨心所欲，須守好邊界，行有所止、行有所戒。

圖源：視覺中國

三、認(rèn)知陷阱：人工智能也有“智商欠費(fèi)”的可能

人工智能也有智商“掉線”之時(shí)，究竟是“人工智能”還是“人工智障”，需要一雙慧眼去辨別。

當(dāng)前，大語言模型在處理和生成信息時(shí)，仍有生成錯誤或誤導(dǎo)性回答的概率。訓(xùn)練數(shù)據(jù)的選擇、算法設(shè)計(jì)的方式，以及最終應(yīng)用場景中的使用方法，都可能導(dǎo)致AI“犯迷糊”。

如，有網(wǎng)友在使用人工智能系統(tǒng)生成旅游攻略時(shí)，系統(tǒng)忽略了天氣等客觀因素，“AI導(dǎo)游”帶著網(wǎng)友在烈日下戶外徒步，令人哭笑不得；還有網(wǎng)友發(fā)現(xiàn)，在某款語言模型的兩個(gè)子系統(tǒng)中，分別用中、英文問同一個(gè)問題，則會得到截然不同的答案。

四、倫理陷阱：“數(shù)字生命”能真正寄托思念嗎

現(xiàn)實(shí)與虛擬的界限、人機(jī)情感的可能性等，一直都是人工智能面臨的倫理問題。

此前，一位音樂人利用AI技術(shù)讓因病去世的女兒在數(shù)字世界“復(fù)活”，原本天人永隔的親人，通過人工智能進(jìn)行互動，彌補(bǔ)了情感的缺憾。但同時(shí)，有網(wǎng)絡(luò)博主通過AI制作已逝公眾人物的視頻，打著溫情的名義收割流量，備受爭議。

有人因此想到《流浪地球2》里的“數(shù)字生命”，“質(zhì)疑圖恒宇，理解圖恒宇，成為圖恒宇”，這就是AI存在的意義，撫慰悲傷、治愈人心；也有人因此開始思考技術(shù)該有的界限和底線。AI“復(fù)活”必須經(jīng)過家人同意，并符合法律，否則就要警惕侵權(quán)陷阱和倫理陷阱。

技術(shù)的“一體兩面”并非新論，歷史上很多重大的技術(shù)革新都曾被視為“雙刃劍”，既帶來巨大益處，也引發(fā)新的挑戰(zhàn)和問題?？萍寄芊衽诵?，究竟是“數(shù)字療愈”還是“數(shù)字陷阱”，最終要看它是不是向善，是不是為美好生活所服務(wù)，有沒有界限分明的底線和紅線。

電影《流浪地球2》中的“數(shù)字生命”圖丫丫圖源：微博@電影流浪地球

五、詐騙陷阱：眼見不一定為實(shí)

人工智能時(shí)代，文字、聲音、圖片和視頻都有可能是假的，“眼見為實(shí)”不再是絕對真理。當(dāng)我們覺得“換臉”“變聲”技術(shù)只是“好玩”的時(shí)候，騙子們已盯上了深度合成等人工智能技術(shù)。

當(dāng)前，電信詐騙已走向智能化、定制化，相關(guān)案件時(shí)有發(fā)生。據(jù)某機(jī)構(gòu)發(fā)布的《2024人工智能安全報(bào)告》顯示，2023年，基于AI的深度偽造欺詐暴增3000%，基于AI的釣魚郵件增長1000%。

人工智能技術(shù)不僅可以讓各種騙術(shù)“有圖有真相”，甚至還能“有視頻”，這讓騙子偽造的身份看似更加“可信”，令普通老百姓防不勝防。在前段時(shí)間香港警方披露的多人“AI換臉”詐騙案中，受害人在多人視頻會議中被要求先后多次轉(zhuǎn)賬，而除了受害人是“真人”上線，其余都是經(jīng)過AI“換臉”的詐騙同伙。

被騙2億港元，男子參加多人視頻會議只有自己是“真人” 圖源：“央視網(wǎng)”微信公眾號

六、舒適陷阱：在AI面前如何當(dāng)“伸手黨”

當(dāng)我們越來越頻繁地借助AI幫我們完成計(jì)劃制定、資料搜集、文本寫作時(shí)，AI系統(tǒng)在反復(fù)訓(xùn)練過程中不斷“成長”，而我們原本熟練的技能卻在“偷懶”中面臨退化的風(fēng)險(xiǎn)。某媒體的一項(xiàng)調(diào)查顯示，52.6%的受訪者表示“比較擔(dān)心”AI工具的普及會讓個(gè)人的表達(dá)能力變差，20.9%的受訪者表示“非常擔(dān)心”。

也有學(xué)者認(rèn)為，選擇“節(jié)能”模式是人類的天性和本能。人工智能時(shí)代，人類的機(jī)械性體力技能和計(jì)算型腦力技能也許會逐漸退化，但從長遠(yuǎn)來看，也會催生諸如創(chuàng)新研發(fā)、優(yōu)化設(shè)計(jì)、實(shí)時(shí)分析等新的技能增長點(diǎn)。

是“退化”還是“新生”，是“去技能化”還是“再技能化”，取決于我們在人工智能面前當(dāng)“伸手黨”時(shí)，對技能退化、創(chuàng)造力減弱、決策依賴等一系列問題能不能多一分感知和警惕，同時(shí)，能否相對應(yīng)地去提升更高階的技能，從而更好地駕馭技術(shù)。

人工智能的未來就像“薛定諤的貓”，充滿不確定性。但可以確定的是，人類不會在各種陷阱面前望而卻步、畏首畏尾。面對人工智能帶來的陷阱，堅(jiān)持開放而審慎、包容而敬畏、大膽而自信的心態(tài)，我們就能與新技術(shù)的更迭保持同頻，站在人工智能的肩膀之上抓住機(jī)遇，確保AI技術(shù)朝著有益于人類福祉的方向發(fā)展。

(來源："網(wǎng)信浙江”)

(鏈接：https://mp.weixin.qq.com/s/WPbxsg3i9DiIs9GFKa6WGQ）