智能、人類與大國(guó)責(zé)任

傅瑩

2019年11月，96歲的基辛格博士來(lái)北京出席創(chuàng)新經(jīng)濟(jì)論壇，期間主動(dòng)要求參加一個(gè)討論人工智能（AI）的分論壇。當(dāng)時(shí)我與谷歌前首席執(zhí)行官埃里克·施密特（Eric Schmidt）作為嘉賓參加這個(gè)論壇的討論。基辛格博士在發(fā)言中談到，AI技術(shù)的發(fā)展將給人類帶來(lái)巨大的變化，它所展示的是人類探索的新現(xiàn)實(shí)——這將帶來(lái)什么影響？沒(méi)人能給出答案，需要由技術(shù)人員和政策研究者一起討論。

兩年后，基辛格博士與施密特和麻省理工學(xué)院蘇世民計(jì)算機(jī)學(xué)院院長(zhǎng)丹尼爾·胡滕洛赫爾（Daniel Huttenlocher）合著的《人工智能時(shí)代與人類未來(lái)》（The Age of AI： And Our Human Future）正式出版，彼時(shí)關(guān)于AI的討論更加活躍，世界首個(gè)萬(wàn)億級(jí)語(yǔ)言模型Switch Transformer橫空出世。此刻，AI不僅已經(jīng)滲透到人類生活的方方面面，ChatGPT等自然語(yǔ)言識(shí)別程序應(yīng)用更引發(fā)全球?qū)I前景的熱烈討論，連小學(xué)生都開始擔(dān)心自己的夢(mèng)想將因人工智能對(duì)人類技能的取代而得不到實(shí)現(xiàn)。

人類將因AI擁有不一樣的未來(lái)？

AI的應(yīng)用不斷發(fā)生質(zhì)的飛躍，用業(yè)內(nèi)人士的話來(lái)說(shuō)，技術(shù)爆炸正以天為單位發(fā)生。機(jī)器從人類的工具到伙伴甚至成為人類的對(duì)手，不再是幻想，我們似乎正在邁入科幻的真實(shí)世界。

基辛格喜歡凡事都從哲學(xué)的角度思考，并且聲稱這是他與中國(guó)領(lǐng)導(dǎo)人談話時(shí)獲得的啟發(fā)。在這本書中，他試圖從人類生存和命運(yùn)的角度，探討AI對(duì)人類的未來(lái)意味著什么。其他兩位作者也是在各自領(lǐng)域頗有建樹的專家。如他們所言，該書并沒(méi)有試圖定義一個(gè)時(shí)代，而是想趁著AI帶來(lái)的影響尚未超出人類理解范圍之際，通過(guò)描繪這項(xiàng)技術(shù)如何改變?nèi)祟惖乃枷搿⒅R(shí)、認(rèn)知和現(xiàn)實(shí)，對(duì)其進(jìn)行思想和哲學(xué)上的敘述與分析，由此呼喚人類為共同應(yīng)對(duì)挑戰(zhàn)開展對(duì)話。

《人工智能時(shí)代與人類未來(lái)》從人類處境和走過(guò)的路說(shuō)起，引出一個(gè)需認(rèn)真思考的前景：AI的問(wèn)世標(biāo)志著人類在探索現(xiàn)實(shí)本質(zhì)的旅程中，創(chuàng)造了一個(gè)新的強(qiáng)大參與者，它將如何影響和改變?nèi)祟惣捌渖姝h(huán)境？人類將面臨怎樣的未來(lái)？書中有一個(gè)章節(jié)專門描繪人類的理性是如何歷經(jīng)不同歷史時(shí)代，最終獲得至尊地位的。如蘇格拉底所言，哲學(xué)家如同一個(gè)掙脫束縛、沿著坡路走出洞穴，在陽(yáng)光下感知真實(shí)世界的囚徒。懷著理性探索世界現(xiàn)實(shí)是長(zhǎng)期以來(lái)人類積累知識(shí)和提升智慧的主導(dǎo)思維方式，不同社會(huì)和認(rèn)知上的沖突與相互融合亦不斷擴(kuò)大人類的經(jīng)驗(yàn)積累，加快科學(xué)進(jìn)步。

長(zhǎng)期以來(lái)，人類對(duì)自身是“世界唯一智者”這一點(diǎn)深信不疑。現(xiàn)在，AI的突飛猛進(jìn)動(dòng)搖著這一信念。書中談到，過(guò)去所取得的許多創(chuàng)新技術(shù)都可以被視為是以往實(shí)踐的延伸：電影是移動(dòng)的照片，電話是跨越空間的對(duì)話，汽車是快速移動(dòng)的馬車。現(xiàn)在，AI帶來(lái)的創(chuàng)新不再是已知事物的延伸。許多過(guò)去只能由人工完成的任務(wù)，例如閱讀、研究、購(gòu)物、談話、記錄保存、監(jiān)視、制訂軍事計(jì)劃和行動(dòng)，等等，已能轉(zhuǎn)為數(shù)字化和由數(shù)據(jù)驅(qū)動(dòng)，在網(wǎng)絡(luò)空間實(shí)現(xiàn)。在傳統(tǒng)的場(chǎng)景里，信息被情境化時(shí)就變成了知識(shí)，當(dāng)知識(shí)令人信服時(shí)就變成了智慧。而現(xiàn)在，AI的應(yīng)用開始波及人在思考、選擇和決定方面的中心角色。

AI已經(jīng)在不經(jīng)意間走進(jìn)人類的生產(chǎn)和生活。確實(shí)，AI所能帶來(lái)的便捷顯而易見(jiàn)，人們得以從許多繁瑣的細(xì)節(jié)里脫身。我記得30多年前在聯(lián)合國(guó)的勞工組織臨時(shí)工作期間，常利用休息時(shí)間步行參觀羅馬城，靠的是一份折疊的小地圖冊(cè)，上面標(biāo)注了每一條街角、每一座博物館和每一處歷史遺跡。現(xiàn)在似乎很少有人用這種紙質(zhì)地圖了，人們依賴手機(jī)導(dǎo)航出行。我甚至好久都沒(méi)有翻閱字典了，遇到生僻詞會(huì)習(xí)慣性地在網(wǎng)絡(luò)上搜索……這些只是普通人在生活中初步接觸到的AI應(yīng)用。在科研和醫(yī)學(xué)探索等領(lǐng)域，AI帶來(lái)的革命性變化更是近代以來(lái)前所未有，它可以進(jìn)入人類尚不了解、難以察覺(jué)的層面，觸碰著知識(shí)尖端探索的前沿。例如，AI參與藥物研發(fā)時(shí)，通過(guò)“學(xué)習(xí)”科學(xué)家預(yù)設(shè)具有抗菌能力的分子特質(zhì)，就能“察覺(jué)”到超越人類知識(shí)范疇的分子結(jié)構(gòu)，從而“發(fā)現(xiàn)”了全新的抗生素；美國(guó)國(guó)防部高級(jí)研究計(jì)劃局（DARPA）“阿爾法狗斗”（Alpha Dogfight）AI戰(zhàn)斗機(jī)飛行員可以做出超出人類能力的動(dòng)作，并在虛擬空戰(zhàn)中戰(zhàn)勝經(jīng)驗(yàn)豐富的人類飛行員。

由基辛格等人所著《人工智能時(shí)代與人類未來(lái)》一書中文版已由中信出版集團(tuán)出版發(fā)行。

AI的強(qiáng)大學(xué)習(xí)能力也讓人感到困惑甚至恐懼。《人工智能時(shí)代與人類未來(lái)》一書提到，AI的致命問(wèn)題在于，它可以得出正確的結(jié)論卻不能展示研究路徑，其獲得結(jié)論的方式是不透明的，人類無(wú)法得知其所以然。那么，未來(lái)AI介入后的世界可能無(wú)法被人類完整地認(rèn)識(shí)和解釋。在我們所關(guān)心的所知為何、何以知之甚至何為可知等問(wèn)題上，AI也許將采取不同的路徑，從而對(duì)人類運(yùn)用理性探索現(xiàn)實(shí)的信念構(gòu)成挑戰(zhàn)。作者們追問(wèn)：當(dāng)人被AI提供的信息和知識(shí)包裹起來(lái)時(shí)，是在向知識(shí)邁進(jìn)嗎？抑或知識(shí)正在離我們而去？

“我思故我在”。若AI能思考或近乎思考，那我們又是誰(shuí)？雖然關(guān)于AI的一些前瞻性探究已經(jīng)預(yù)測(cè)其未來(lái)可能擁有意識(shí)，但是至少目前它還沒(méi)有進(jìn)入具備理性和感性能力的階段。書中判斷AI沒(méi)有反思、畏懼、原諒等人類的共情與道德，進(jìn)而提出，信賴AI的判斷是否會(huì)導(dǎo)致人類喪失人性？書中列舉了荷馬史詩(shī)《伊利亞特》對(duì)赫克托耳、阿喀琉斯在特洛伊城下決斗的講述和畢加索畫作《格爾尼卡》對(duì)西班牙內(nèi)戰(zhàn)中平民傷亡的描繪，由此說(shuō)明，人類經(jīng)歷過(guò)戰(zhàn)爭(zhēng)后，能對(duì)戰(zhàn)爭(zhēng)導(dǎo)致的悲劇進(jìn)行反思，竭力避免下一場(chǎng)戰(zhàn)爭(zhēng)，然而AI卻無(wú)法做到——它可以嚴(yán)守規(guī)則、表現(xiàn)出色，贏得最有利結(jié)果，卻無(wú)法產(chǎn)生反思善惡的道德或者哲學(xué)沖動(dòng)。

《人工智能時(shí)代與人類未來(lái)》一書分析和列舉了AI的可能風(fēng)險(xiǎn)，比如，不具備人類“常識(shí)”，基于數(shù)據(jù)的判斷是僵化的，有可能犯錯(cuò)，并且不具備自主“糾錯(cuò)”能力。再如，AI會(huì)將人類設(shè)計(jì)者的偏見(jiàn)放大，做出更加錯(cuò)誤的判斷，還可能產(chǎn)生不符合需要的行為。2016年，微軟研發(fā)的聊天機(jī)器人Tay在互聯(lián)網(wǎng)接觸到仇恨言論，開始迅速模仿，迫使創(chuàng)造者將其關(guān)停下線。如果未來(lái)人類對(duì)AI的依賴加深，演變成一種授權(quán)，其潛在風(fēng)險(xiǎn)將難以估量。

軍事安全風(fēng)險(xiǎn)尤值關(guān)注

《人工智能時(shí)代與人類未來(lái)》一書重點(diǎn)關(guān)注在地緣政治和戰(zhàn)略安全領(lǐng)域里的風(fēng)險(xiǎn)問(wèn)題。雖然現(xiàn)在沒(méi)有跡象表明人類已經(jīng)開啟AI賦能武器的軍備競(jìng)賽，但是，作者們認(rèn)為，一旦AI與網(wǎng)絡(luò)武器、核武器相結(jié)合，將極大增強(qiáng)武器的效力和可及性，從而構(gòu)成沖突升級(jí)的內(nèi)在風(fēng)險(xiǎn)。如果AI進(jìn)入戰(zhàn)略的各個(gè)層面，在人類理性不可及的領(lǐng)域，那么其過(guò)程、范圍和最終意義將變得不再透明。

當(dāng)年人類面對(duì)核武器時(shí)也充滿恐懼和不安，當(dāng)時(shí)世界處于美蘇冷戰(zhàn)對(duì)峙僵持階段，雙方依據(jù)核威懾理念，拼命發(fā)展足以毀滅人類的致命武器，同時(shí)聲稱這是為了避免戰(zhàn)爭(zhēng)，也就形成一個(gè)邏輯怪圈，令戰(zhàn)爭(zhēng)風(fēng)險(xiǎn)不斷上升。當(dāng)時(shí)戰(zhàn)略界關(guān)心的是，核武器的使用能否與全面戰(zhàn)爭(zhēng)和相互毀滅以外的政治目標(biāo)相協(xié)調(diào)？換言之，如何使核武器的發(fā)展擺脫共同毀滅的風(fēng)險(xiǎn)？經(jīng)過(guò)包括基辛格在內(nèi)一批國(guó)際學(xué)者的多年研討和美蘇之間的長(zhǎng)期談判，核軍控措施和核查機(jī)制最終達(dá)成了，更重要的是，促進(jìn)了大國(guó)必須避免核戰(zhàn)爭(zhēng)的全球共識(shí)。

該書的關(guān)切點(diǎn)在于，如何防范和避免AI技術(shù)在軍事領(lǐng)域的發(fā)展可能給世界帶來(lái)的威脅。首先，AI技術(shù)具有不可知性，不受空間限制。實(shí)體武器無(wú)論多么隱蔽，其制造、部署終有跡可循，而AI技術(shù)不受空間限制，在世界上的任何角落，一臺(tái)連接網(wǎng)絡(luò)的電腦就能運(yùn)行經(jīng)過(guò)開發(fā)的AI程序并賦能武器，通過(guò)國(guó)際機(jī)制監(jiān)督與限制AI武器的部署會(huì)很困難。更重要的是，AI的介入可以極大地提升軍事能力，甚至達(dá)到超越人類認(rèn)知的層面。這使得沖突對(duì)手之間更加難以相互預(yù)測(cè)，誤判和沖突升級(jí)的風(fēng)險(xiǎn)大大增加，如果出現(xiàn)自主攻擊型AI武器就更危險(xiǎn)。書中提到，雖然許多國(guó)家承諾不將致命自主武器投入使用，但是考慮到AI武器的隱秘性和不可知性，誰(shuí)都難以確信AI技術(shù)新發(fā)展下的軍事應(yīng)用不會(huì)擴(kuò)散。

當(dāng)今世界已經(jīng)將核武器置于國(guó)際安全和軍備控制概念的框架中，對(duì)AI和網(wǎng)絡(luò)武器則尚未建立類似的戰(zhàn)略框架。《人工智能時(shí)代與人類未來(lái)》的作者們認(rèn)為，阻擋技術(shù)發(fā)展是不可能的，但是AI武器化的前景將挑戰(zhàn)人類已經(jīng)取得的一些基本國(guó)際安全共識(shí)。他們呼吁以理性、智慧、合作創(chuàng)造出比核軍控更高明的戰(zhàn)略框架，對(duì)AI武器化實(shí)現(xiàn)有效的管控和治理。他們尤其關(guān)注在AI技術(shù)開發(fā)與應(yīng)用方面走在世界前列的美國(guó)和中國(guó)能否就這個(gè)事關(guān)人類前途的問(wèn)題開展合作。

中美作為AI研究和應(yīng)用領(lǐng)跑國(guó)家需承擔(dān)更大責(zé)任

在2019年北京創(chuàng)新經(jīng)濟(jì)論壇上的那場(chǎng)討論中，我曾談到，中美作為AI領(lǐng)域的領(lǐng)跑者，在治理問(wèn)題上責(zé)任重大，目前兩國(guó)間日益惡化的緊張關(guān)系必然會(huì)影響到人類如何應(yīng)對(duì)未來(lái)新技術(shù)的挑戰(zhàn)。我提出的問(wèn)題是：雙方是能夠共同努力、實(shí)現(xiàn)人類與技術(shù)的共生，還是分道揚(yáng)鑣甚至導(dǎo)致技術(shù)削弱甚至傷害對(duì)方？當(dāng)時(shí)基辛格博士表示，美中面臨的最大挑戰(zhàn)和基礎(chǔ)性問(wèn)題是：兩國(guó)是否進(jìn)入一種互為敵手的關(guān)系（adversary relationship）？ 還能否通過(guò)合作找出一些問(wèn)題的解決辦法？如果互為敵手，兩國(guó)將在整個(gè)世界的范圍里彼此爭(zhēng)斗，世界將會(huì)被分裂。

2023年5月30日，年度“中關(guān)村論壇”重大科技成果專場(chǎng)發(fā)布會(huì)在北京舉行，會(huì)上發(fā)布了《北京市加快建設(shè)具有全球影響力的人工智能創(chuàng)新策源地實(shí)施方案（2023-2025）》和《北京市促進(jìn)通用人工智能創(chuàng)新發(fā)展的若干措施》。

基辛格等人在《人工智能時(shí)代與人類未來(lái)》一書中寫到，國(guó)家間永遠(yuǎn)不會(huì)有完全的信任，但是這并不意味著無(wú)法達(dá)成某種程度的諒解。兩國(guó)需要認(rèn)識(shí)到，無(wú)論雙方關(guān)系如何演變，彼此都不應(yīng)打一場(chǎng)前沿技術(shù)戰(zhàn)爭(zhēng)。因此，雙方在各個(gè)層面啟動(dòng)關(guān)于網(wǎng)絡(luò)和AI的討論至關(guān)重要，哪怕只是形成一套共同的戰(zhàn)略概念話語(yǔ)，增強(qiáng)對(duì)彼此紅線的感知力。書的作者們承認(rèn)，定義AI的難度也許超過(guò)人類歷史上遇到的任何挑戰(zhàn)。

他們并非少數(shù)對(duì)AI前景感到恐懼的人。最近離職的谷歌前副總裁兼工程研究員杰弗里·辛頓（Geoffrey Hinton）提出“人類只是智能演化過(guò)程中一個(gè)過(guò)渡階段”的觀點(diǎn)，聲稱AI已具備簡(jiǎn)單推理能力，不能排除將來(lái)掌握更多能力，甚至操縱人。歐洲正在推進(jìn)“人工智能法”（The AI Act）的立法進(jìn)程，試圖對(duì)AI實(shí)施強(qiáng)監(jiān)管。該法案嚴(yán)格禁止“對(duì)人類安全造成不可接受風(fēng)險(xiǎn)的AI系統(tǒng)”。基辛格認(rèn)為，如果人類能夠劃定邊界，讓理性凌駕于對(duì)新技術(shù)的恐懼和困惑之上，人類未來(lái)大有可為，否則可能墜入深淵。

美國(guó)近年從國(guó)家層面加強(qiáng)了對(duì)AI的關(guān)注和投入。2018年8月，美國(guó)政府組建人工智能國(guó)家安全委員會(huì)。2021年3月，該委員會(huì)出臺(tái)報(bào)告，規(guī)劃了美國(guó)在AI時(shí)代遏制他國(guó)贏得競(jìng)爭(zhēng)的戰(zhàn)略方針和行動(dòng)路線圖。2023年5月，美國(guó)政府召集多家科技龍頭企業(yè)高管，討論AI的安全性問(wèn)題。但是，現(xiàn)任美國(guó)政府對(duì)于在高技術(shù)領(lǐng)域與中國(guó)的合作不僅不予支持，而且不斷設(shè)置障礙，試圖阻斷中國(guó)的技術(shù)發(fā)展，在AI國(guó)際治理方面也缺乏與中國(guó)溝通的意愿。因此，基辛格等人提出的主張和倡議并不能反映美國(guó)政府的真實(shí)意愿。

盡管如此，中美在AI領(lǐng)域的民間交流與學(xué)術(shù)對(duì)話并沒(méi)有停止。2022年3月斯坦福大學(xué)發(fā)布的《人工智能指數(shù)2022》顯示，2010年至2021年，中美在人工智能出版物方面的合作數(shù)量增加了五倍，連續(xù)12年居全球榜首。目前全球AI發(fā)展的基礎(chǔ)理論和技術(shù)研發(fā)保持著一定的開放態(tài)勢(shì)，其開源模式有利于制約壟斷。中國(guó)科研和企業(yè)界加快了步伐，呈現(xiàn)出你追我趕的氣氛。2019年10月，清華大學(xué)戰(zhàn)略與安全研究中心（CISS）與美國(guó)布魯金斯學(xué)會(huì)啟動(dòng)“人工智能武器化的治理”聯(lián)合研究項(xiàng)目，雙方的學(xué)術(shù)討論在過(guò)去三年多時(shí)間里頓挫推進(jìn)。雖然中美戰(zhàn)略分歧上升、信任度下降，但是，參加項(xiàng)目的雙方學(xué)者都認(rèn)為，對(duì)AI賦能的武器，尤其自主性武器的治理事關(guān)重大。項(xiàng)目焦點(diǎn)是如何圍繞AI賦能武器建立一定的治理共識(shí)和規(guī)則。例如，如何把雙方和世界大多數(shù)國(guó)家都認(rèn)可和遵循的國(guó)際戰(zhàn)爭(zhēng)和安全法律、規(guī)則植入AI武器中，如何確認(rèn)禁止AI武器攻擊核電站、大水壩等民用設(shè)施……這個(gè)項(xiàng)目的進(jìn)程從一個(gè)側(cè)面反映了大國(guó)博弈中前沿學(xué)術(shù)合作研討的艱難，但其成果令人鼓舞。

中美有更大責(zé)任去思考人類未來(lái)，兩國(guó)的選擇將深刻影響技術(shù)的發(fā)展方向。不論美國(guó)還是中國(guó)都不可能壟斷世界的技術(shù)進(jìn)步，如果雙方采取互補(bǔ)的積極態(tài)度，AI技術(shù)的前景會(huì)更加光明;如果兩國(guó)不能合作，雙方都將遭受損失，人類也會(huì)付出代價(jià)。大國(guó)在新技術(shù)的浪潮面前，不能像美國(guó)所表現(xiàn)出來(lái)的那樣過(guò)于重視私利而忽視人類共同利益。如果繼續(xù)抱著冷戰(zhàn)思維、零和博弈的心態(tài)不放，必將走向人類共同命運(yùn)的相反方向。

2022年9月1日，世界人工智能大會(huì)在上海開幕。本屆大會(huì)以“智聯(lián)世界 元生無(wú)界”為主題，集中展示全球人工智能發(fā)展成果。圖為“AI+城市”展區(qū)。

中國(guó)倡導(dǎo)負(fù)責(zé)任的AI全球治理

在習(xí)近平外交思想指引下，中國(guó)在AI治理方面的言論和行動(dòng)是負(fù)責(zé)任的。2019年2月，由中國(guó)科技部牽頭組建成立國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布了新一代人工智能治理的八項(xiàng)原則，包括和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理。2020年9月，中國(guó)政府提出“全球數(shù)據(jù)安全倡議”，強(qiáng)調(diào)在相互尊重基礎(chǔ)上，加強(qiáng)溝通交流，深化對(duì)話與合作，共同構(gòu)建和平、安全、開放、合作、有序的網(wǎng)絡(luò)空間命運(yùn)共同體。2021年12月和2022年11月，中國(guó)政府先后發(fā)布《關(guān)于規(guī)范人工智能軍事應(yīng)用的立場(chǎng)文件》和《關(guān)于加強(qiáng)人工智能倫理治理的立場(chǎng)文件》，呼吁各方遵守國(guó)家或地區(qū)人工智能倫理道德準(zhǔn)則。2023年5月18日，中國(guó)科協(xié)主席萬(wàn)鋼在第七屆世界智能大會(huì)上表示，要著力打破“數(shù)據(jù)孤島”，合法合規(guī)推動(dòng)開源開放，為人工智能產(chǎn)業(yè)的穩(wěn)定發(fā)展提供源頭動(dòng)力。

誠(chéng)然，《人工智能時(shí)代與人類未來(lái)》這本書有著明顯的局限性，其觀點(diǎn)的闡述基于西方理念和價(jià)值，歷史參照也主要源自美歐經(jīng)驗(yàn)，對(duì)發(fā)展中國(guó)家和其他美歐之外國(guó)家的歷史和文化思想缺乏認(rèn)識(shí)，對(duì)AI技術(shù)發(fā)展對(duì)非西方國(guó)家社會(huì)和人民的影響缺乏關(guān)注和反映。這本書提出的問(wèn)題也比給出的答案多，對(duì)許多疑問(wèn)沒(méi)能給出更加深入的分析和解決方案。但總體上看，這是一本比較通俗的關(guān)于前沿技術(shù)和熱門話題的書，有助于開啟多維度的嚴(yán)肅討論甚至辯論，也能幫助中國(guó)讀者更好地了解國(guó)際上圍繞人工智能討論中涉及的各種話題。我們需要廣泛了解世界各國(guó)和各界的思想、觀點(diǎn)和疑問(wèn)，提出中國(guó)人的想法和主張，積極參與到當(dāng)今世界重大問(wèn)題研究和探尋解決路徑的努力中去，踐行構(gòu)建人類命運(yùn)共同體的主張。