人工智能時代亦需“反人工智能”

李雅琪 馮曉輝

人工智能在高速發展的同時潛藏著兩大風險，反人工智能技術的出現凸顯了人類對人工智能的憂慮。反人工智能目前尚處于起步階段，技術效能較低，其在本質上與人工智能相同，也須“三思而后用”。

2018年歐盟人工智能高級專家組發布《可信賴的人工智能道德準則草案》。該準則草案提出實現“可信賴人工智能”的兩個核心要素——道德目的、技術可靠。學術界已開始從技術角度探索防范人工智能潛在風險的“反人工智能”技術。當前，人工智能尚處于“弱人工智能”階段，反人工智能的出現，既凸顯出人類對人工智能的潛在憂慮，也從技術角度提供了一條確保人工智能不會危及人類自身的新思路。

人工智能高速發展引發風險擔憂

一、人工智能引發的憂慮日漸增多

人臉檢測是當前人工智能領域最為成熟的技術之一，已經開始在多個領域應用推廣。但也有不少人認為，人臉檢測等人工智能技術雖然能夠提供極大便利，但也隨之帶來了數據隱私泄露等安全隱患，有必要從多個角度開展防范策略研究，以防止用戶數據隱私泄露。

事實上，在人工智能蓬勃發展的光環之下，其所引發的憂慮遠遠不止隱私數據泄露。當前，雖然各國大力倡導人工智能的應用推廣，但現階段的“弱人工智能”與真正的人腦智慧相差甚遠，缺乏自主認知意識與學習能力，十分依賴海量數據訓練，并且還無法學習形成人類的道德倫理觀念，這就意味著“弱人工智能”應用過程中存在著大量令人擔憂的隱患環節。

二、人工智能高速發展有兩大風險

對人工智能的憂慮，主要源自人工智能的自身技術缺陷和技術潛在濫用兩個方面。在自身技術缺陷方面，其體現主要集中于兩點。

第一，當前的機器學習本質上是一項黑盒技術，其訓練過程具有難以解釋、不可控制的特點，且隨著人工智能的應用復雜度、數據需求量的指數式增長，機器學習尤其是基于多層神經網絡的深度學習，其復雜程度愈發超出人類理解和控制的范疇，在快速進化過程中極易偏離人類為其預設的軌跡。例如，微軟發布的人工智能推特Tay，在與網友聊天過程中很快就學會臟話，甚至學會了種族歧視的言論，導致微軟被迫緊急下線該產品。

第二，機器學習模型訓練過程完全依賴于海量數據，數據的好壞將直接決定人工智能技術效能，訓練數據的任何偏差都將在人工智能應用中如實反映。例如，亞馬遜的智能簡歷篩選系統，由于用于模型訓練的簡歷具有男多女少的特點，因此學會了性別歧視，一旦抓取到簡歷中“女”這一關鍵詞，便會降低應聘者的考核分數。

在技術濫用方面，隨著人工智能應用領域的快速延伸，人工智能技術觸及人類道德倫理底線，乃至威脅人類自身安全的事件不斷出現。例如，斯坦福大學的研究人員2017年發布了一種依靠面部圖像識別來判斷性取向的算法，該算法判斷男同性戀和女同性戀的準確率分別高達91%和83%。因此，該應用只需提取人類上傳在社交網絡的照片即可判斷其性取向，這無疑是嚴重侵犯個人隱私的行為。

此外，人工智能在黑客網絡攻擊，甚至大規模殺傷性武器等方面可能的濫用行為，更將引發難以估量的嚴重后果。

三、防范人工智能風險已經“在路上”

伴隨著“AlphaGo戰勝李世石”等標志性事件接連出現，人工智能引發的憂慮也隨之加深，人類開始從法律法規、道德準則、技術等多個角度，探索防范人工智能潛在風險的手段。

在法律法規方面，2017年，歐美等國家和地區提出要積極開展人工智能相關立法研究。例如，英、美分別在《人工智能：未來決策制定的機遇與影響》、《人工智能未來法案》中強調，要密切關注人工智能可能的負面影響，并提出要確保人工智能威脅的最小化。在道德準則方面，2018年3月，谷歌因參與人工智能項目而引發內部員工強烈反對，最終被迫發布了11條運用人工智能技術的“不作惡”準則。2018年12月，歐盟發布人工智能道德指南草案，提出了規范人工智能應用的幾大問題。

此外，在技術方面，加拿大學者2018年8月公布的人臉檢測動態擾亂系統也并非反人工智能的首次技術嘗試。此前，美國MIT的研究人員就曾嘗試通過構建3D對抗樣本來欺騙圖像識別系統。此外，生成對抗網絡（GANs）的創造者伊恩·古德費洛曾在2017年牽頭組織對抗攻擊防御競賽，引導研究人員開展人工智能算法的攻防比拼，以期引起各方對反人工智能技術的關注和研究。從某種意義上講，當人類出于自身福祉考慮開發出的人工智能令人擔憂，而相關法律法規和技術倫理又大為滯后時，相比于法律道德的“防君子不防小人”，在技術層面實實在在地開發人工智能對抗技術顯然更能讓人心安。

因此，雖然現在的人工智能技術還很弱，但反人工智能的出現也是必然的。

反人工智能仍處于起步探索階段

一、反人工智能歷經兩大階段

截至目前，反人工智能技術的發展經歷了兩個階段。早期，反人工智能技術主要聚焦于通過污染訓練數據來攻擊機器學習模型。這是一種簡單直接的反制方法。但由于機器學習模型一般都在封閉環境中開展訓練，很難受到外部干擾，因此這類技術并未獲得進一步發展。2014年，伊恩·古德費洛提出的生成對抗網絡為反人工智能技術開辟了第二條技術路徑，研究人員可基于生成對抗網絡對源數據施加微擾，從而構造動態對抗數據，這一微擾難以被用戶感知，但卻能使機器學習模型在檢測識別時做出錯誤判斷。該方法與人工智能技術相同，都屬于機器學習算法。

二、反人工智能技術效能仍然較低

與人工智能尚處于初級階段相比，反人工智能在技術效能和應用領域等方面處于更加早期的階段。從技術效能看，構造對抗數據的方法易于被有效防御。只要在人工智能模型訓練初期利用已知的對抗性數據進行訓練，就能提升模型辨別良性、惡性數據的能力，進而抵御對抗性數據對模型系統的壓制。從應用領域看，由于反人工智能技術亦基于機器學習，因此與人工智能技術在圖像和語音識別領域發展最成熟類似，反人工智能技術也集中在這兩個領域。在自然語言處理、認知推理等其它人工智能應用領域，尚無可行的反人工智能解決方案。此外，此類方法只能在人工智能模型系統的推斷環節實施干擾，無法在訓練環節發揮作用。

三、反人工智能也須“三思而后用”

反人工智能技術的出現，反映了人類對人工智能發展的憂慮，但該技術的發展與應用一樣需要審慎。本質上，人工智能和反人工智能都是基于機器學習算法的技術，只是在技術效能上構成相互對抗的關系，即以人工智能對抗人工智能。因此，反人工智能在某種程度上與人工智能同樣具有不可靠性，也同樣面臨著不可控、被濫用的風險。例如，自動駕駛高度依賴人工智能的圖像識別技術，倘若反人工智能技術被非法運用在自動駕駛領域，就可能導致自動駕駛汽車無法有效識別道路信息，從而引發災難性后果。因此，在人工智能演進路徑尚不清晰的情況下，要審慎思考人工智能與反人工智能的關系，發展和運用人工智能與反人工智能技術的同時注重綜合性和互補性，以最大程度確保人工智能在造福人類時可控、可靠、可信。

對策建議

一、前瞻布局反人工智能技術研究

圍繞確保人工智能技術可控、可靠、可信的總體目標，加快推進反人工智能的基礎理論研究和應用技術研發，爭取掌握未來技術發展的主動權。一是支持開展基于生成對抗網絡的反人工智能技術研發，提升反人工智能技術的抗干擾能力和實用性，防止其被人工智能技術“反對抗”。二是在開展圖像識別、語音識別領域反人工智能技術研發的同時，積極探索在自然語言處理、認知推理等領域的反人工智能技術研究。三是支持開展針對人工智能機器學習模型訓練環節的反人工智能技術的理論研究和技術開發。四是前瞻布局適用于反人工智能技術研發的基礎理論，探索機器學習以外的革新性技術路徑。

二、探索反人工智能應用場景

面向人工智能應用過程中潛在風險防控的現實需求，推動反人工智能技術的落地應用，積極探索人工智能與反人工智能的協同發展路徑。一是圍繞智能終端、云端軟件系統等各類人工智能應用模式，支持將反人工智能技術作為風險防控模塊嵌入現有的人工智能產品服務，提升其可靠和可控度。二是針對用戶隱私保護、敏感系統防護等特定場景，將反人工智能技術作為獨立產品，探索信息安全防護產品服務的開發與應用。三是積極推動現有圖像識別對抗系統、語音識別對抗系統等反人工智能成熟技術的商業化落地。

三、深化人工智能與反人工智能理論研究

從確保人工智能健康發展、造福人類的根本立場出發，在理論、倫理等層面加強對人工智能、反人工智能的綜合性研究。一是前瞻布局腦科學、計算機科學、哲學等領域的跨領域基礎理論研究，探索人工智能發展的客觀規律和根本目標。二是積極開展人工智能的系統研究，提高對人工智能與反人工智能兩者之間關系及本質的認識，明確人工智能與反人工智能的研發標準、認證體系、應用范圍。三是積極參與國際合作，共同開展人工智能道德倫理準則研究，推進相關法律法規的研究制定，加快完善人工智能和反人工智能的管理規范和監管手段。