警惕“智能超人”

王宿慧

作者：王宿慧，軍事科學(xué)院研究生院，在讀碩士研究生

人工智能，是研究、開發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)，以及應(yīng)用系統(tǒng)的一門技術(shù)科學(xué)。其在研究人類自身智能的基礎(chǔ)上，借助現(xiàn)代科學(xué)技術(shù)手段，增強(qiáng)人類智能或模擬人類智能，提高了生產(chǎn)效率、生活質(zhì)量，以及決策的科學(xué)性和及時(shí)性。人工智能自1956年誕生以來，已進(jìn)入并快速改變著人類生產(chǎn)生活的方方面面。在交通領(lǐng)域，人工智能系統(tǒng)通過對(duì)路口信息的分析判斷，適時(shí)調(diào)整紅綠燈間隔，緩解交通壓力、減少事故發(fā)生概率，有效維護(hù)了人民生命財(cái)產(chǎn)安全。在醫(yī)學(xué)領(lǐng)域，人工智能的專家系統(tǒng)使得醫(yī)院對(duì)病人病情的把握快速精準(zhǔn)，節(jié)約了病人的時(shí)間和金錢，使看病更有保障。在經(jīng)濟(jì)領(lǐng)域，人工智能使復(fù)雜的體力任務(wù)自動(dòng)化，提高了生產(chǎn)率。可見，人工智能帶來了巨大便利。

人類對(duì)世界的探索和開發(fā)從未停止，科學(xué)家們不斷追求著單純的科技進(jìn)步，他們的愿望是世界和平、歲月靜好，他們希望通過智慧推動(dòng)人類社會(huì)的進(jìn)步和發(fā)展。但科學(xué)技術(shù)的發(fā)展和應(yīng)用史表明，技術(shù)有時(shí)會(huì)與人們的良好愿望背道而馳。歷史多次證明，任何一項(xiàng)新科技的發(fā)展和應(yīng)用，都是一把雙刃劍，在給人類帶來巨大利好的同時(shí)，也會(huì)產(chǎn)生一些次生的負(fù)面作用。

生化技術(shù)帶來文明，但其使用也遭異化。第二次世界大戰(zhàn)期間，日本法西斯專門組建了731特種部隊(duì)，使用中國(guó)軍民的活體進(jìn)行生物武器與化學(xué)武器的實(shí)驗(yàn)，僅鼠疫一項(xiàng)活菌實(shí)驗(yàn)，就害死我同胞3000多人。這是利用化學(xué)和生物技術(shù)戕害人類的令人發(fā)指的罪行。現(xiàn)在，生化技術(shù)依然是禁止武器試驗(yàn)的主要領(lǐng)域。核技術(shù)帶來了進(jìn)步，也曾造成過人道主義災(zāi)難。原子彈對(duì)廣島長(zhǎng)崎的毀滅性打擊，切爾諾貝利核事故對(duì)地球環(huán)境的污染，始終是人類揮之不去的災(zāi)難記憶。現(xiàn)在，核武器依然是懸在人類頭頂?shù)摹斑_(dá)摩克利斯之劍”。

當(dāng)前，世界主要大國(guó)均把促進(jìn)人工智能技術(shù)的發(fā)展和應(yīng)用提升到國(guó)家戰(zhàn)略層面，人工智能技術(shù)在全球范圍、各個(gè)領(lǐng)域得以飛速發(fā)展，并逐步對(duì)人類社會(huì)產(chǎn)生巨大而深刻的影響。在軍事領(lǐng)域，一些發(fā)達(dá)國(guó)家特別是美國(guó)已率先將人工智能技術(shù)應(yīng)用到武器裝備研發(fā)之中，以此謀求在未來戰(zhàn)爭(zhēng)中的代差優(yōu)勢(shì)和顛覆性勝算。為保護(hù)和擴(kuò)大自己的軍事優(yōu)勢(shì)，美國(guó)專門成立了聯(lián)合人工智能中心（JAIC），將人工智能和自主系統(tǒng)運(yùn)用到作戰(zhàn)體系中，視為未來部隊(duì)組成的核心。美國(guó)政府也先后出臺(tái)多項(xiàng)措施，保證人工智能“領(lǐng)頭羊”地位，從國(guó)家戰(zhàn)略層面加緊布局，為人工智能更好地融入軍事領(lǐng)域搭橋鋪路。

物極必反，器滿則傾。當(dāng)人工智能發(fā)展到一定程度時(shí)，就可能擁有超越“自然人類”的智能，這些“超級(jí)人類”擁有意識(shí)、思維、記憶力、自我感知、自我學(xué)習(xí)等能力，且能實(shí)現(xiàn)自我提升。與一些人的歡呼雀躍不同，許多重量級(jí)科學(xué)家和科學(xué)團(tuán)體，對(duì)人工智能的發(fā)展前景進(jìn)行預(yù)測(cè)后表示擔(dān)憂：“超級(jí)人類”可能對(duì)“自然人類”構(gòu)成巨大威脅。

哈佛大學(xué)物理學(xué)家維納斯-格羅斯博士在他的論文當(dāng)中提出，未來具有自我編程的人工智能將得以自我完善，且這種行為是反復(fù)、單方面持續(xù)性加強(qiáng)的。當(dāng)程序開始自我進(jìn)化，勢(shì)必會(huì)有一個(gè)質(zhì)變的奇點(diǎn)，也就意味著具有感知地位的機(jī)器人已經(jīng)出現(xiàn)。霍金教授生前對(duì)人工智能發(fā)展也表達(dá)了擔(dān)憂：“我擔(dān)心人工智能將全面取代人類。如果有人能設(shè)計(jì)出計(jì)算機(jī)病毒，那么就會(huì)有人設(shè)計(jì)出能提升并復(fù)制自己的人工智能。這就會(huì)帶來一種能夠超越人類的全新生命形式。”

基于這些預(yù)測(cè)，可以推斷：一旦自我感知機(jī)器人或“超級(jí)人類”出現(xiàn)，對(duì)其所有的限定規(guī)則，均可能因偶然原因或必然原因而失效，進(jìn)而造成對(duì)“自然人類”的巨大威脅。一旦“超級(jí)人類”和我們“自然人類”干上了，我們能夠察覺隱患、排除故障嗎？我們有把握取勝嗎？也許有人說，這是杞人憂天。但是，發(fā)展出強(qiáng)人工智能甚至是超人工智能，只不過是時(shí)間問題。

習(xí)近平主席在9月17日致2018年世界人工智能大會(huì)的賀信中專門指出，“處理好人工智能在法律、安全、就業(yè)、道德倫理和政府治理等方面提出的新課題”。面對(duì)可能的科技威脅，我們必須未雨綢繆，在加快技術(shù)發(fā)展的同時(shí)，也要對(duì)其進(jìn)行風(fēng)險(xiǎn)評(píng)估，以應(yīng)對(duì)其負(fù)面效應(yīng)的挑戰(zhàn)，規(guī)避對(duì)其賦予過多的“擬人”能力。

摒棄傳統(tǒng)觀點(diǎn)，對(duì)人工智能的發(fā)展前景要有清醒的認(rèn)識(shí)。圖靈測(cè)試和眾多人工智能技術(shù)水平量度方案表明，短期內(nèi)尚難以實(shí)現(xiàn)超人工智能，但諸多合并人類智慧和機(jī)器智能的模式，已經(jīng)能夠獨(dú)立感知基本情感顆粒，并識(shí)別陌生物體。谷歌旗下的波士頓動(dòng)力公司曾發(fā)布一款“機(jī)器狗”（Little Dog），具有極強(qiáng)的自我學(xué)習(xí)能力，能通過分析過往的錯(cuò)誤而加以改進(jìn)。美國(guó)國(guó)防高級(jí)研究計(jì)劃局（DARPA）也給Gamalon公司投下巨資，因該公司的核心技術(shù)實(shí)現(xiàn)了由機(jī)器自主完成概率編程。實(shí)踐表明，人工智能已邁進(jìn)自主學(xué)習(xí)、自我進(jìn)化的大門。隨著各國(guó)加快建立“人工神經(jīng)網(wǎng)絡(luò)”，人工智能“深度學(xué)習(xí)”能力不斷加強(qiáng)，對(duì)其跟蹤評(píng)估應(yīng)是研發(fā)的重中之重。

制定相應(yīng)的法規(guī)、研發(fā)反制技術(shù)，提高防范的方法和能力。美國(guó)制訂了《人工智能未來法案》，對(duì)人工智能可能帶來的倫理問題、社會(huì)問題和法律問題進(jìn)行研究，以期為后續(xù)人工智能相關(guān)立法提供支持。由于人工智能的發(fā)展是基于互聯(lián)網(wǎng)海量的“大數(shù)據(jù)”和各種信息的實(shí)時(shí)交互。因此，可通過加強(qiáng)網(wǎng)絡(luò)安全來為人工智能的發(fā)展保駕護(hù)航，為其引入網(wǎng)絡(luò)安全評(píng)估機(jī)制。根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》和國(guó)務(wù)院《新一代人工智能發(fā)展規(guī)劃》，完善與人工智能相關(guān)的網(wǎng)絡(luò)安全等級(jí)保護(hù)制度；提高網(wǎng)絡(luò)檢測(cè)、分析技術(shù)；提高處理網(wǎng)絡(luò)安全應(yīng)急事件的處理能力。同時(shí)，促進(jìn)世界人工智能技術(shù)交流融合，提高全球性聯(lián)合應(yīng)對(duì)人工智能潛在風(fēng)險(xiǎn)的能力。