總體國家安全觀視角下的人工智能與國家安全

李崢

內容提要 近年來，人工智能技術的迅速發展引起國內外廣泛關注。作為一項革命性新技術，人工智能在政治、軍事、經濟、社會等各方面均有巨大應用潛力，對國家安全而言，既蘊含著機遇，也存在風險，其中一些潛在風險已開始有所顯現。這些風險的存在使得各國需要結合本國情況對人工智能開展治理，規范其發展方向，確定應對重點。總體國家安全觀作為我國新時代國家安全工作的統領性思想，應當成為我國處理好人工智能與國家安全關系的理論基礎，指導我國走一條有中國特色的人工智能發展道路。

關鍵詞 總體國家安全觀；人工智能；國家安全

DOI： 10.19422/j.cnki.ddsj.2018.10.004

2006年以來，人工智能技術進入第三輪“飛躍期”，部分試驗性技術進入快速應用發展階段，給經濟和社會帶來越來越直接的影響。人工智能不僅是新的產業增長點，也對各國政治、軍事、社會帶來巨大影響，需要各國政府引導并加以應對。黨的十八大以來，以習近平同志為核心的黨中央提出了總體國家安全觀，成為解決國家安全問題的指導性理論，對自身如何看待人工智能帶來的風險與挑戰提供了思想指引。新形勢下，我國應根據國情特點應對人工智能對國家安全帶來的機遇與挑戰，推動人工智能技術和產業健康發展。

人工智能技術

在國家安全領域的應用

人工智能是計算機科學的一個分支，用以泛指讓機器實現智能行為的一系列技術。這些技術包括機器視覺和聽覺、自然語言處理、人工神經網絡、機器學習、認知與推理、博弈論、機器人學等。人工智能發端于20世紀50年代，與現代計算機技術幾乎同步出現。20世紀50年代至七八十年代，人工智能先后出現過兩輪“技術飛躍”，出現了一些革命性的理念和算法。[1]2006年，加拿大學者提出了革命性的深度學習訓練方法，讓人工智能得以融入新一輪信息科技浪潮。[2]2010年至今，人工智能進入第三輪“飛躍期”，在機器翻譯、無人駕駛、圖像識別、博弈對抗等應用領域接近或超越了人類的水平。

人工智能的終極目的是讓機器實現類似人類的感知、認知、推理、記憶、學習、抉擇、交流、反應能力，能夠自主完成使用者所交付的任務，或對外界變化做出智能反應。從人工智能過往的發展歷史看，數據、計算能力、輔助訓練、算法是支撐該技術發展的四大支柱。數據的豐富能夠提升人工智能的學習能力；計算能力的強化能加快其反應速度；輔助訓練使其抉擇更為精確；算法進步則使人工智能發生“迭代”[3]，能夠實現前所未有的功能。在可預見的將來，數據、計算能力和輔助訓練仍將進一步推進人工智能的發展，使其實現更廣泛的功能。

人工智能對社會的影響主要體現在其“賦能”[4]功能，即通過機器增強人類應對復雜環境及繁瑣任務的能力，幫助人類承擔危險、繁重、重復的工作。這種能力既擁有商業潛力，也可應用于國家安全領域。從當前發展態勢看，人工智能在國家安全領域的應用主要體現在以下方面。

第一，軍事領域。人工智能可與現有武器裝備和指揮體系結合，提升軍隊的作戰能力。例如，人工智能可用于輔助槍炮瞄準、鎖定、擊發過程，提高打擊精度和作戰反應速度。俄羅斯、美國也開始研發完全由人工智能控制的自主性武器，在無人干預的情況下實施火力打擊。人工智能也可協助參謀人員分析處理來自多種渠道的海量信息，運用其運算處理優勢在短時間內完成分析任務，提供即時、全面的戰場情報，使指揮和作戰人員可以完整把握戰場實況。2017年，美國國防部啟動名為“馬文”（Maven）的人工智能項目，該項目將利用人工智能輔助無人機識別目標，從而實現無人機遠程精準打擊。[5]一旦該項目付諸實踐，將成為人工智能介入真實戰場的首個案例。

第二，經濟領域。人工智能可提升政府對經濟社會的把控能力，通過早期預警預防系統性風險。經濟社會瞬息萬變，監管部門與市場參與主體的信息不對稱和監管部門不能正確處置苗頭性風險容易導致系統性風險放大、傳導甚至失控。人工智能可協助政府監控微觀經濟行為，預先判斷政府的調控措施是否有效，是否會帶來預期之外的影響。在經過深度學習后，成熟的人工智能能夠為政府調控經濟社會提供多個選項，幫助政府選擇最優路徑及應對外部金融沖擊的最優方案。[6]

第三，社會領域。人工智能將幫助政府變得更加智能、全能和超能，輔助政府日常社會管理，提升公共服務效率，增強社會安全。基于人工智能技術，政府能夠預先發現、解決問題，并且在意外發生后的最短時間內設計出行之有效的解決方案。運用先進的人工智能技術，政府可準確預測城市交通情況，在發生嚴重擁堵前施加干預。人工智能也可用于犯罪預防和處置，提升城市治安水平。這些應用將使政府更加“自動化”，可在最短時間內做出正確決策。美國一些地方政府已經開始運用人工智能監測食品安全和預防犯罪。如拉斯維加斯衛生署運用一個軟件監測社交媒體，可在早期發現食品安全危機。[7]英國杜倫郡警方啟用一套犯罪預測系統，用來分析刑滿釋放人員和犯罪嫌疑人的犯罪行為，辨別其社會危險性。德勤會計師事務所（Deloitte & Touche）發布報告稱，政府一直希望變得更“聰明”，人工智能技術就是實現這一目標最便捷的途徑。[8]

第四，網絡領域。人工智能在網絡安防領域已經有部分應用成功的實踐，可有效降低發生大規模網絡災難的風險。其效果主要體現在提升漏洞挖掘效率、迅速應對分布式拒絕服務攻擊[9]和主動識別具有惡意的網站和郵件。利用人工智能技術，網絡安全維護者可布設更為廣泛的網絡防線，在早期發現網絡異常情況，并通過歷史比對判斷其性質。

人工智能發展

對國家安全帶來的挑戰

人工智能對國家安全帶來的挑戰主要體現在三個層面：一是技術濫用風險。作為一項技術，人工智能并不能甄別、判斷使用者的身份和意圖，這使得該技術也可能被犯罪分子、網絡黑客或恐怖分子使用。這些惡意行為將危及民眾的生命和財產安全。二是技術競爭風險。人工智能存在著技術水平優劣的差異，先進技術對落后技術具有顯著優勢，甚至可能在戰場或產業競爭中產生決定性作用。因此，各國都不希望本國在人工智能的國際競賽中居于下風。人工智能技術發展所依托的數據、算法、人才成為各國國力競爭的新焦點，并隨之引發出一系列國際政治問題。三是對民眾生活方式和勞動方式的挑戰。人工智能在個別領域達到了“超越人類”的能力，但其整體發展仍處于雛形階段，無法實時應對復雜的環境。然而，隨著算法的演進，人工智能的進步不但不會停止或倒退，反而可能在越來越多的領域起到替代人類的角色。一旦“強人工智能”出現，將對人類社會帶來革命性影響。屆時，民眾生活和勞動所依賴的法律、道德和倫理體系都會受到巨大沖擊。[10]

上述三個層面的安全挑戰存在著遞進關系，即隨著人工智能技術愈發先進，其帶來的主要威脅將從一國內部上升到國家間關系，最后上升到對整個人類社會的挑戰。當前，人工智能帶來的安全挑戰主要體現在第一個層面。人工智能讓電腦生成逼真視頻和音頻內容變得越來越容易，人們可以在網絡視頻、網絡通信工具上仿冒他人，甚至仿冒政治領導人等知名人物。此類偽造音視頻通過互聯網和社交媒體快速傳播，對社會和經濟秩序帶來沖擊。

人工智能控制的交易程序、交易產品也容易成為引發金融市場閃崩的罪魁禍首。[11]2012年，美國“騎士資本”就因其高頻交易程序發生故障導致超過四億美元的虧損，并造成美國股市大幅波動。[12]隨著人工智能在軍事、安全領域的應用，其帶來的風險也開始向國家間層面擴展。一方面，人工智能與武器系統結合產生的自主性武器對現有戰爭規則和軍事行為準則帶來挑戰。自主性武器可能發生錯判或誤判，可能在兩軍軍事對峙時制造危機，這種風險并未在傳統軍事規則中有所體現。另一方面，西方國家也意識到人工智能的戰略重要性，開始積極圍繞該技術保護本國科技產業和科技資源，推行科技保護主義政策。例如，美國推動改革“外國投資委員會”，重點審查他國對美國人工智能、大數據等“專有技術”的并購和轉讓。[13]這種做法對他國經濟安全和產業安全帶來負面沖擊。

監管和規則滯后于技術發展是人工智能帶來安全問題的主要原因。與其他由人類操控的技術不同，人工智能在一定程度上擁有自主的反應和行動能力，這讓如何認定人工智能的責任存在困難。作為一項具有革命性潛力的技術，政府需要在促進技術發展與規制技術安全中找到平衡，借助法律、倫理等約束性手段抑制人工智能“作惡”的苗頭。由于技術的全球化，一國也可能遭遇他國人工智能惡意行為的傷害。試圖用人工智能“作惡”的技術人員將不斷尋找各國監管制度的空白，從不同國家的監管差異上套利。因此，只有國際社會在人工智能治理上達成普遍共識，才能真正管控該技術帶來的威脅。目前，國際組織已開始關注人工智能的安全問題。2018年4月，聯合國“致命性自主武器系統問題政府專家組”在日內瓦召開會議，討論人工智能的武器化問題。80余國官員及專家參與討論，各主要國家借此會議表達了本國對該議題的基本立場。[14]

從總體國家安全觀

看人工智能

對中國國家安全的意義

人工智能對于國家安全來說是一把“雙刃劍”，是中國保證國家安全、推進國家治理體系和治理能力現代化所面臨的新問題。人工智能影響范圍廣泛，需要以一種綜合、系統、全面、辨證、發展的安全理論框架才能夠正確把握人工智能帶來的機遇與挑戰。2015年以來，美國、英國、日本、歐盟等西方國家均提出了關于發展人工智能技術、應對安全挑戰的戰略文件，各國結合自身國情特點提出了本國的發展重點和主要安全關切。中國也需要從本國實際情況出發，結合自身具有綱領性的國家安全理念處理人工智能與國家安全的關系。

2014年4月，中共中央總書記、中央國家安全委員會主席習近平在主持召開中央國家安全委員會首次會議時提出了“總體國家安全觀”，具體闡釋了該理念的內涵與外延。[15]堅持總體國家安全觀，是習近平新時代中國特色社會主義思想的重要內容，是指導新時代國家安全工作的強大思想武器。“總體國家安全觀”所提出的11種安全正好能夠涵蓋人工智能對我國帶來的諸多機遇和挑戰，其強調統籌發展和安全，增強憂患意識的原則也與人工智能的“雙刃劍”特質相吻合。結合“總體國家安全觀”的內容和理論體系，我國處理人工智能與國家安全關系時需要把握以下幾點。

第一，以維護政治安全為根本，著力應對人工智能所帶來的突出性安全挑戰。總體國家安全觀以政治安全為根本，其核心要義在于堅持黨對國家安全工作的絕對領導。習近平總書記指出，“我們治國理政的本根，就是中國共產黨領導和社會主義制度……推進國家治理體系和治理能力現代化，絕不是西方化、資本主義化”[16]。堅持以政治安全為根本意味著我國在發展人工智能產業時不能走西方自由放任的道路，中國共產黨的相關負責機構應當成為引領我國人工智能治理的支柱力量。人工智能的產業發展和技術應用不能違背黨的各項大政方針，不能被用于破壞社會主義制度和黨的領導。在這一前提基礎下，我國應著力發展人工智能對黨的執政能力、國家治理能力現代化的“賦能”作用，充分運用先進人工智能技術提升各級黨和政府的管理能力、應急能力，讓黨和政府在應用人工智能上走到全社會的最前列。

第二，以人民安全為宗旨，權衡人工智能的經濟機遇與社會沖擊。人民安全高于一切，是總體國家安全觀的精髓所在，體現了黨的性質宗旨和唯物史觀。人民安全是國家安全的基石和歸宿，人民安全感越強，國家安全就越有依靠，人民安全感和歸屬感越弱，國家安全就越脆弱。[17]人民安全理念要求我國在發展應用新科技時需要照顧、考慮廣大人民群眾的獲得感和感受，新技術不應成為破壞社會穩定、擴大貧富差距的推動力。像以往的先進技術一樣，人工智能技術也有著較高的門檻，技術精英和數字經濟企業是人工智能技術的主要獲益者，但人工智能帶來的就業替代卻會影響一些勞動者的生計。以人民安全為宗旨要求我國政府應重視人工智能對社會和人民發展機會的潛在負面效應，預先采取措施加以應對。政府應避免人工智能強化互聯網企業的壟斷地位，提高關于人工智能的公共教育投入，加強全社會使用、適應人工智能的能力，限制人工智能在對社會具有破壞性領域的應用。

第三，以經濟安全為基礎，促進人工智能在經濟治理體系中的應用。經濟安全不僅涉及經濟的各個方面，也與其他領域的國家安全交織。維護經濟安全，核心是堅持社會主義基本經濟制度不動搖，不斷完善社會主義市場經濟體制，提高經濟實力、競爭力和抵御內外沖擊的能力。[18]人工智能作為一項“賦能”技術，能夠在完善經濟體制、抵御內外風險上發揮顯著作用。例如，人工智能能夠增強政府的宏觀和微觀調控效果，降低政府調控失誤的風險。人工智能也可用于市場監管、風險排查、打擊經濟犯罪等經濟社會治理領域，提升政府管控市場秩序的能力。上述“賦能”效果需要中國加強對經濟社會的統計和監控，獲得更多真實、準確、及時、有效的數據。運用人工智能提升經濟社會治理能力是一項系統性工程，也是中國經濟社會治理現代化的重要方向之一。

第四，以軍事安全為保障，運用人工智能推動軍事變革。軍事安全是中國各項安全的重要保障。我國軍事實力建設的基本目標是建立一支聽黨指揮、能打勝仗、作風優良的世界一流軍隊。[19]當今世界并不太平，我國維護主權和領土完整面臨著嚴峻的外部挑戰。美國等西方軍事大國運用人工智能技術開發自主性武器、人工智能作戰系統對中國國家安全帶來了新的安全挑戰，或將擴大中國與西方國家的軍事力量差距。軍事競爭不進則退。西方將人工智能運用于軍事安全領域違背了該技術的設計初衷，也使得其他國家必須有所回應。中國應從本國安全利益出發，積極探索人工智能在軍事領域的應用和創新，借助該技術提升中國軍事實力，推動基于該技術的軍事變革，滿足未來戰場需求。

第五，以共同安全為目標，推進人工智能治理的國際合作。習近平總書記提出“人類命運共同體”理論，倡導建設持久和平、共同繁榮的和諧世界。[20]“人類命運共同體”理念孕育于全球化深入發展、非傳統安全風險突出、國際治理體系亟待改革的大背景下，提出了解決國與國之間利益沖突、各國共同應對全球性安全挑戰的路徑。人工智能所帶來的多數安全挑戰具有全球性特征，技術濫用和監管失控的風險將通過互聯網在全球范圍內廣泛傳導。在這些挑戰面前，世界各國也是“命運共同體”，存在著一榮俱榮、一損俱損的關系。因此，各國需要在人工智能領域一些根本性、原則性的規則和倫理上達成共識，對該技術衍生出的犯罪行為持統一態度。中國作為維護全球共同安全的重要力量，應積極參與人工智能治理領域的國際合作，推動美國、俄羅斯等主要大國在該領域協調立場，充分顧及發展中國家的利益和訴求，推動人類社會共同應對人工智能所帶來的顛覆性挑戰。

（作者系中國現代國際關系研究院美國研究所副研究員，軍事安全研究室主任）

（責任編輯：徐海娜）

[1] The History of Artificial Intelligence，http：//sitn.hms.harvard.edu/flash/2017/history-artificial-intelligence/.

[2] How U of T's "godfather" of deep learning is reimagining AI，https：//www.utoronto.ca/news/how-u-t-s-godfather-deep-learning-reimagining-ai.

[3] 迭代是重復反饋過程的活動，其目的通常是為了逼近所需目標或結果。每一次對過程的重復稱為一次“迭代”，而每一次迭代得到的結果會作為下一次迭代的初始值。

[4] “賦能”顧名思義，就是為誰或某個主體賦予某種能力和能量。它最早是積極心理學中的一個名詞，旨在通過言行、態度、環境的改變給予他人正能量。后來被廣泛應用于商業和管理學。

[5] Project Maven Industry Day Pursues Artificial Intelligence for DoD Challenges，https：//www.defense.gov/News/Article/Article/1356172/project-maven-industry-day-pursues-artificial-intelligence-for-dod-challenges/.

[6] Artificial intelligence and machine learning in financial services，http：//www.fsb.org/wp-content/uploads/P011117.pdf.

[7] Artificial Intelligence： The Next Big Thing in Government，http：//www.governing.com/columns/tech-talk/gov-artificial-intelligence-government-technology.html.

[8] AI-augmented government ，https：//www2.deloitte.com/content/dam/Deloitte/uk/Documents/public-sector/deloitte-uk-dup-AI-in-government.pdf.

[9] 分布式拒絕服務（DDoS：Distributed Denial of Service）攻擊指借助于客戶/服務器技術，將多個計算機聯合起來作為攻擊平臺，對一個或多個目標發動DDoS攻擊，從而成倍地提高拒絕服務攻擊的威力。

[10] Understanding Artificial General Intelligence — An Interview With Hiroshi Yamakawa，https：//futureoflife.org/2017/10/23/understanding-agi-an-interview-with-hiroshi-yamakawa/？cn-reloaded=1.

[11] AI does not have enough experience to handle the next market crash，https：//qz.com/1151664/ai-does-not-have-enough-experience-to-handle-the-next-market-crash/.

[12] Knight Shows How to Lose $440 Million in 30 Minutes，https：//www.bloomberg.com/news/articles/2012-08-02/knight-shows-how-to-lose-440-million-in-30-minutes.

[13] CFIUS Reform： What's Next？，https：//www.steptoe.com/en/news-publications/cfius-reform-whats-next.html.

[14] Lethal Autonomous Weapons Systems at the First and Second U.N. GGE Meetings，https：//www.lawfareblog.com/lethal-autonomous-weapons-systems-first-and-second-un-gge-meetings.

[15] 習近平：《堅持總體國家安全觀走中國特色國家安全道路》，http：//cpc.people.com.cn/n/2014/0416/c64094-24900492.html。

[16] 中共中央黨史和文獻研究院編：《習近平關于總體國家安全觀論述摘編》，北京：中央文獻出版社，2018年4月第1版，第24頁。

[17] 《總體國家安全觀干部讀本》編委會：《總體國家安全觀干部讀本》，北京：人民出版社，2016年4月第1版，第57頁。

[18] 同[17]，第105頁。

[19] 《建設一支聽黨指揮能打勝仗作風優良的人民軍隊》，http：//www.81.cn/jwgz/2017-11/29/content_7847460.htm。

[20] 《共同構建人類命運共同體——在聯合國日內瓦總部的演講》，http：//world.people.com.cn/n1/2018/0119/c416882-29775965.html。