伴隨人工智能的興起，人工智能的安全問(wèn)題如影隨形。5月21日，歐盟理事會(huì)批準(zhǔn)了世界首部對(duì)人工智能進(jìn)行全面監(jiān)管的法案《人工智能法案》。同一天，第二屆人工智能安全峰會(huì)在韓國(guó)首爾召開，包括OpenAI、微軟、智譜AI等全球16家公司共同簽署前沿人工智能安全承諾。然而，目前的監(jiān)管行動(dòng)是否足以對(duì)抗風(fēng)險(xiǎn)，仍是各方疑問(wèn)。

記者：在韓國(guó)開了一個(gè)人工智能的全球的一個(gè)會(huì)議，您關(guān)注它的內(nèi)容嗎？

薛瀾：對(duì)，我當(dāng)然也關(guān)注。

記者：您最關(guān)注它的什么？

薛瀾：一個(gè)是，首先這些國(guó)家在對(duì)人工智能風(fēng)險(xiǎn)的認(rèn)識(shí)，有些什么新的變化？另外關(guān)鍵在國(guó)際合作機(jī)制這方面，大家有什么新的建議。

薛瀾，清華大學(xué)蘇世民書院院長(zhǎng)、人工智能國(guó)際治理研究院院長(zhǎng)，長(zhǎng)期致力于人工智能國(guó)際治理重大理論問(wèn)題及政策需求開展的研究。

薛瀾：對(duì)人工智能這個(gè)新的技術(shù)的發(fā)展，我覺(jué)得國(guó)際社會(huì)這一點(diǎn)是有共識(shí)的，它可能會(huì)帶來(lái)一些風(fēng)險(xiǎn)，大家需要一起來(lái)共同合作采取措施，來(lái)對(duì)它風(fēng)險(xiǎn)防控。

人工智能，英文縮寫為AI，是一種由人制造出來(lái)的機(jī)器，這種機(jī)器可以模擬人的思想和行為，從而體現(xiàn)出一種智能反應(yīng)。

網(wǎng)絡(luò)時(shí)代下，不知不覺(jué)間，人工智能走進(jìn)人們的生活。從小愛(ài)同學(xué)到SIRI到小度，再到第一個(gè)擊敗人類職業(yè)棋手的人工智能機(jī)器人阿爾法狗，AI呈現(xiàn)出快速進(jìn)化的趨勢(shì)。

薛瀾：舉個(gè)例子，很多事情我們要去銀行排隊(duì)什么的，可能那就是挺麻煩的事，現(xiàn)在因?yàn)樵蹅冇惺謾C(jī)銀行，而手機(jī)銀行背后一個(gè)非常重要的工具其實(shí)是人臉識(shí)別、指紋識(shí)別等等，這背后其實(shí)都要用人工智能技術(shù)。好比說(shuō)我要去坐高鐵，我可以通過(guò)人臉識(shí)別技術(shù)一下讓我很快就通過(guò)，這當(dāng)然都是便利。

記者：你的工作或者說(shuō)你的生活體驗(yàn)所及的人工智能的觸角，你覺(jué)得是已經(jīng)涵蓋到方方面面，還是說(shuō)這僅僅是露了一個(gè)頭而已。

薛瀾：其實(shí)我覺(jué)得人工智能技術(shù)在我們的社會(huì)當(dāng)中，它的應(yīng)用其實(shí)已經(jīng)遠(yuǎn)遠(yuǎn)比我們想象廣泛，我們社會(huì)很多的運(yùn)行，包括日常開車，覺(jué)得今天路上更加暢通，這個(gè)背后其實(shí)用大量的人工智能技術(shù)去調(diào)控整個(gè)紅綠燈的交通體系，所以應(yīng)該說(shuō)人工智能技術(shù)的應(yīng)用已經(jīng)遠(yuǎn)遠(yuǎn)超出我們直接能看到的。

近一年來(lái)，以CHATGPT和SORA為代表的生成式AI橫空出世，它們以具有龐大參數(shù)規(guī)模和深度學(xué)習(xí)的大模型為框架，通過(guò)海量的數(shù)據(jù)和強(qiáng)大的計(jì)算能力進(jìn)行訓(xùn)練，實(shí)現(xiàn)對(duì)各種任務(wù)的高效處理。這讓科學(xué)家擔(dān)心：在不久的未來(lái)，人工智能技術(shù)會(huì)超越人類的智慧，甚至?xí)催^(guò)來(lái)控制或毀滅人類。著名物理學(xué)家史蒂芬·霍金就曾發(fā)出警告——未來(lái)100年內(nèi)，人工智能將比人類更為聰明，機(jī)器人將控制人類。他還與特斯拉CEO伊隆·馬斯克共同發(fā)表公開信，呼吁人工智能的發(fā)展應(yīng)該受到控制，否則人類可能陷入黑暗的未來(lái)。

記者：站在人類的層面上，意識(shí)到這樣一個(gè)新的技術(shù)，有可能在哪些方面會(huì)讓我們不安，才會(huì)在這種高級(jí)別引發(fā)重視？

薛瀾：因?yàn)檫^(guò)去的這些各種科技，其實(shí)都還是人最后掌控這些技術(shù)的。人工智能的話，現(xiàn)在是有可能倒過(guò)來(lái)了，有可能它不受人控制，有可能它會(huì)反過(guò)來(lái)想要控制人類。

記者：您說(shuō)人工智能最后會(huì)反噬人類這樣一種觀念，是建立在科學(xué)基礎(chǔ)之上，還是建立在科幻的基礎(chǔ)之上的一種推測(cè)。

薛瀾：我想首先目前的所有人工智能技術(shù)都還是在人類社會(huì)掌控之內(nèi)的，但是按照這個(gè)技術(shù)發(fā)展的方向，的確是有相當(dāng)一部分科學(xué)家認(rèn)為未來(lái)是有這種可能的，就是人工智能系統(tǒng)它會(huì)不受人類控制，它可能會(huì)超越人類控制。

在2024中關(guān)村論壇年會(huì)開幕式上，全球首個(gè)通用智能人“通通”亮相，并入選十大重大科技成果。愛(ài)干凈、眼里有活兒、主動(dòng)做家務(wù)、能記住是誰(shuí)偷吃了蘋果、會(huì)耍小脾氣、會(huì)感到無(wú)聊、無(wú)聊時(shí)還會(huì)自己看電視……“通通”的問(wèn)世，意味著通用人工智能雛形已成。通用人工智能是要讓智能體像人一樣，不僅能夠獨(dú)立感知環(huán)境、進(jìn)行思考、作出決策、學(xué)習(xí)新技能、執(zhí)行任務(wù)，還能夠理解人類的情感。

薛瀾：它的學(xué)習(xí)能力，進(jìn)展迅速。今后慢慢可能這個(gè)界限就會(huì)比較模糊了，哪些能力是我們?nèi)祟惖摹４蠹覄e忘了，我們的這個(gè)能力其實(shí)也是逐漸演進(jìn)而成的，人工智能系統(tǒng)也是這樣的。

在過(guò)去相當(dāng)長(zhǎng)的時(shí)間里，人工智能脫離人類掌控、反攻人類一直是科幻作品津津樂(lè)道的題材。在這些作品中，機(jī)器人不僅能獨(dú)立思考，還能擁有和人一樣的情感。電影《機(jī)械公敵》中，機(jī)器人曲解了“機(jī)器人三大安全法則”，認(rèn)為人類間的戰(zhàn)爭(zhēng)將使得人類自我毀滅，遵照“保護(hù)人類”的法則，決定將所有人囚禁在家中。

薛瀾：有的研究已經(jīng)看到，某種程度有時(shí)候系統(tǒng)已經(jīng)開始有點(diǎn)能欺騙人了，這還是挺可怕的，如果這個(gè)系統(tǒng)能知道去有效地自我保護(hù)，欺騙人說(shuō)我聽你的話，但是最后它要實(shí)現(xiàn)它自己目標(biāo)的時(shí)候，那它可能就會(huì)反過(guò)來(lái)控制人。

記者：但是我總是覺(jué)得機(jī)器是騙不了人的，一定是掌控機(jī)器的人想做到這樣的一個(gè)事情。

薛瀾：這是我們?cè)瓉?lái)傳統(tǒng)的看法，我覺(jué)得至少這是很多技術(shù)專家，認(rèn)為不排除它會(huì)有這個(gè)能力的。在差不多一兩個(gè)月以前，我們?cè)陬U和園外面一個(gè)酒店開會(huì)，討論人工智能發(fā)展的時(shí)候，當(dāng)時(shí)也是國(guó)際上很多專家在一起，當(dāng)時(shí)討論有幾條紅線，這幾條紅線之一就是說(shuō)我們要保證讓這個(gè)系統(tǒng)不能產(chǎn)生這種欺騙的能力，我們要設(shè)立一些紅線，到這個(gè)地方你就為止了，不要再往前走了。

如果說(shuō)機(jī)器人反噬人類還只是對(duì)未來(lái)的一種擔(dān)憂，那么在當(dāng)下的現(xiàn)實(shí)生活中，尤其在金融領(lǐng)域以及個(gè)人隱私保護(hù)方面，人工智能帶來(lái)的風(fēng)險(xiǎn)已經(jīng)變成現(xiàn)實(shí)。

薛瀾：因?yàn)槲覀儸F(xiàn)在已經(jīng)看到，各種在網(wǎng)上通過(guò)這種人工智能技術(shù)，可能包括這種換臉，包括可能其他一些方式，給不同的人帶來(lái)這種困擾。

不久前，香港一家跨國(guó)公司的員工在多位高管參加的視頻會(huì)議中，接受指令將2億港幣轉(zhuǎn)到不知名賬戶，5天之后才發(fā)現(xiàn)被騙了。香港警方在通報(bào)中稱，以往的AI換臉詐騙，一般都是一對(duì)一的。這次騙子用視頻電話會(huì)議的形式，偽造了一個(gè)高管團(tuán)隊(duì)，讓可信度大幅上升。參與視頻會(huì)議的都是真人，然后通過(guò)人工智能換臉，把騙子的臉和聲音都換成了對(duì)應(yīng)的高管的臉和嗓音，下達(dá)了轉(zhuǎn)賬的指令。

薛瀾：現(xiàn)在通過(guò)圖靈測(cè)試，已經(jīng)不是難事了，甚至于可能進(jìn)行網(wǎng)絡(luò)的攻擊等等，這些如果有了人工智能技術(shù)，那可能使得它的這種攻擊的欺騙性更強(qiáng)，可能帶來(lái)的危害更大。

圖靈測(cè)試，是被稱作計(jì)算機(jī)科學(xué)之父的艾倫·麥席森·圖靈，在上世紀(jì)50年代提出的一個(gè)理論——當(dāng)一個(gè)自然人和一臺(tái)機(jī)器進(jìn)行對(duì)話，在經(jīng)過(guò)很多輪對(duì)話之后，如果自然人仍然搞不清對(duì)方是人還是機(jī)器，那么機(jī)器就通過(guò)了圖靈測(cè)試，具備了與自然人相似或無(wú)法區(qū)分的智能。如今，文字方面的圖靈測(cè)試早已不是問(wèn)題，隨著sora等軟件的誕生，對(duì)于一個(gè)圖片或者一段視頻，到底是AI制造的，還是人產(chǎn)生的，兩者之間的差異也越來(lái)越難以辨別。

薛瀾：人工智能系統(tǒng)它有創(chuàng)造力，因?yàn)槲覄偪吹絊ora，當(dāng)然后來(lái)有的專家說(shuō)它實(shí)際上還是學(xué)習(xí)的東西，不是它去創(chuàng)造的。但是我覺(jué)得不管怎么說(shuō)，一旦你到了這一步以后的話，它有大量的東西以后，創(chuàng)造和記憶之間的界限就模糊了，就像熟讀唐詩(shī)三百首，不會(huì)學(xué)詩(shī)也會(huì)偷，你慢慢實(shí)際上很自然而然就會(huì)從大量的語(yǔ)料當(dāng)中調(diào)出來(lái)，那我覺(jué)得就是我們?nèi)祟悇?chuàng)造性的某些方面，不排除人工智能系統(tǒng)有這種能力的。

今年初，美國(guó)流行歌星泰勒·斯威夫特的AI不雅照在網(wǎng)上瘋傳，數(shù)百萬(wàn)人在社交媒體上看到了這些照片，美國(guó)白宮對(duì)此表示“擔(dān)憂”，并敦促美國(guó)國(guó)會(huì)立法打擊此類行為。

薛瀾：我們研究科技政策的人都非常知道，這是雙刃劍，它在造福人類的時(shí)候，往往也可能會(huì)給人類帶來(lái)各種風(fēng)險(xiǎn)影響，我們?cè)谕七M(jìn)它創(chuàng)新的時(shí)候，也要關(guān)注它的治理，所以這兩個(gè)輪子永遠(yuǎn)都必須同時(shí)去推進(jìn)。

上周，AI首爾峰會(huì)召開前夕，大會(huì)發(fā)布了一份名為《關(guān)于先進(jìn)人工智能安全性的國(guó)際科學(xué)報(bào)告》。報(bào)告稱，盡管通用AI可以用來(lái)推進(jìn)公共利益，但也可能被用來(lái)造成危害，甚至帶來(lái)系統(tǒng)性風(fēng)險(xiǎn)。AI的未來(lái)充滿不確定性，但社會(huì)和政府的決策將顯著影響其未來(lái)。包括美國(guó)、法國(guó)、中國(guó)、韓國(guó)以及阿聯(lián)酋在內(nèi)的16家全球領(lǐng)先的科技公司在峰會(huì)期間作出的“前沿AI安全承諾”包含了一個(gè)重要條款——如果緩解措施無(wú)法將人工智能的風(fēng)險(xiǎn)控制在閾值以下，則根本不開發(fā)或部署模型或系統(tǒng)。

記者：當(dāng)意識(shí)到有可能給未來(lái)帶來(lái)一些風(fēng)險(xiǎn)的時(shí)候，我們放慢，甚至也許會(huì)停止，那誰(shuí)來(lái)做出這個(gè)判斷呢？

薛瀾：我們需要國(guó)家和全球治理的機(jī)制來(lái)做出這個(gè)判斷，所以像中國(guó)人工智能在2017年的新一代人工智能發(fā)展規(guī)劃里面就明確提到了，我們?cè)诎l(fā)展技術(shù)的同時(shí)，也要去建立相應(yīng)的這種風(fēng)險(xiǎn)防范機(jī)制，現(xiàn)在全球在國(guó)際社會(huì)里面，大家也已經(jīng)形成這樣的共識(shí)，盡管我們的意識(shí)形態(tài)不同，我們的社會(huì)管理體制不同，我們治理體系不同，但是大家都認(rèn)為我們需要坐在一起來(lái)討論這些問(wèn)題。

今天，越來(lái)越多的人堅(jiān)信，人工智能已經(jīng)成為人類第四次產(chǎn)業(yè)革命的核心驅(qū)動(dòng)力。以蒸汽、機(jī)電和信息技術(shù)為基石的前三次產(chǎn)業(yè)革命深刻改變了人類文明的進(jìn)程，而人類是否能夠更好地應(yīng)對(duì)人工智能產(chǎn)生的沖擊，仍然充滿不確定性。

記者：是不是每一次重大科學(xué)技術(shù)進(jìn)步的降臨，都會(huì)給人帶來(lái)很大的不適，就像我們現(xiàn)在這樣。

薛瀾：我想我們過(guò)去這些年用到的很多技術(shù)的擴(kuò)散速度，其實(shí)花的時(shí)間是很長(zhǎng)的，幾十年，甚至于上百年。但這次人工智能的技術(shù)，它有一個(gè)特點(diǎn)就是技術(shù)變革特別快，擴(kuò)散特別快，所以像ChatGPT一出來(lái)，最短的時(shí)間用戶達(dá)到上億人次，上億人的用戶在過(guò)去可能是花多少年的時(shí)間，但它只花短短的可能也就是幾十天。

記者：為什么讓人感到如此不安呢？

薛瀾：我們往往會(huì)發(fā)現(xiàn)這個(gè)技術(shù)它在剛開始應(yīng)用的時(shí)候，因?yàn)榇蠹已芯康木褪窃趺慈ピ旄Ｈ祟悾跃蜁?huì)特別關(guān)注積極的一面，但還有一些風(fēng)險(xiǎn)，可能要過(guò)相當(dāng)一段時(shí)間才逐漸展現(xiàn)出來(lái)，所以當(dāng)這技術(shù)變革這么快就應(yīng)用到這么大范圍，我們可能還沒(méi)有充分認(rèn)識(shí)到這個(gè)技術(shù)危害的時(shí)候，全社會(huì)已經(jīng)在用了，已經(jīng)對(duì)它產(chǎn)生依賴了。有可能等到我們認(rèn)識(shí)到它的危害的時(shí)候，說(shuō)不定已經(jīng)為時(shí)已晚。可能我們需要去要提前采取這種謹(jǐn)慎的措施，它一旦出現(xiàn)，我們能夠有辦法應(yīng)對(duì)。

發(fā)展和監(jiān)管，是治理的一體兩面。但人工智能技術(shù)的系統(tǒng)性和專業(yè)性，顯然對(duì)治理能力形成新的挑戰(zhàn)。

薛瀾：我們提了一個(gè)概念，叫敏捷治理，就是技術(shù)發(fā)展得非常非常快，但是我的治理體系，我的改變，其實(shí)是很慢的，所以你技術(shù)發(fā)展那么快了，我這邊好不容易大家經(jīng)過(guò)討論辯論最后達(dá)成一致，形成了某一種治理方式，結(jié)果一發(fā)現(xiàn)，對(duì)不起，技術(shù)已經(jīng)跑了，已經(jīng)變成新的一個(gè)技術(shù)，原來(lái)討論的方式一點(diǎn)用處都沒(méi)有了，所以這時(shí)候傳統(tǒng)的治理體系需要進(jìn)行調(diào)整。

記者：我們?cè)趺蠢斫膺@個(gè)敏捷？就是出了一件事，我得很快速知道怎么去應(yīng)對(duì)，比如說(shuō)到治理的時(shí)候，往往都是說(shuō)一些政府職能部門，或者說(shuō)是相關(guān)的一些機(jī)構(gòu)，但是我們的學(xué)習(xí)能力夠嗎？我們的治理能不能做到專業(yè)的水平，或者說(shuō)我們能不能理解人家的專業(yè)？

薛瀾：因?yàn)橛械臅r(shí)候就是對(duì)人工智能下一步發(fā)展，到底有什么風(fēng)險(xiǎn)，企業(yè)也未見得那么清楚，政府可能就更不清楚。

記者：你說(shuō)的企業(yè)是人工智能企業(yè)。

薛瀾：就是開發(fā)人工智能技術(shù)的企業(yè)，所以在這種情況下，那怎么辦呢？企業(yè)就告訴政府，說(shuō)我現(xiàn)在要發(fā)展這個(gè)技術(shù)，會(huì)帶來(lái)什么樣巨大的后果。

記者：為什么要告訴政府？

薛瀾：如果企業(yè)開發(fā)出什么技術(shù)，有一些什么風(fēng)險(xiǎn)，政府事先不知道，可能一上來(lái)就會(huì)非常嚴(yán)厲地規(guī)范治理，可能一下子企業(yè)前面做出的各種努力就前功盡棄，付諸東流。但如果說(shuō)政府和企業(yè)能夠更好溝通，的確這個(gè)技術(shù)有很好的這種潛力，能夠造福，但也可能有什么樣的風(fēng)險(xiǎn)，可能政府就說(shuō)我們可來(lái)共同討論，什么是我們社會(huì)能夠接受的風(fēng)險(xiǎn)程度，在這個(gè)之內(nèi)，也許你可以更好地發(fā)展。