人工智能安全問題及其解決思路

閆 翔

（西北大學信息科學與技術學院，陜西 西安 710000）

在二十世紀，人工智能技術有著質的飛越，取得了突破性的進展。而近年來人工智能技術在仍舊在不斷的前進著，而應用人工智能應用的行業也隨著人工智能的問世以及發展在不斷的增多，比如軍事行業、服務行業、駕駛行業等，而隨著人工智能在這些行業的應用，各種各樣的安全問題也不斷的出現并增加，這對人工智能的發展有著重要的阻礙作用，甚至影響了人工智能前進的步伐。同樣隨著人工智能算法和應用場景的不斷完善，加之人工智能訓練水平的提升，人們已經享受到人工智能帶來的種種便利，減輕了人類重復性的工作，人工智能已有大規模替代人類勞動的趨勢。若對人工智能的發展不加以控制，勢必會帶來無法想象的安全問題。

1 人工智能安全問題的重要意義

人工智能，不難理解，其含義就是人工與智能的結合體，人工就是人力所制造、所創造的。而智能就是靠先進的技術比如計算機等這些技術來與人工相結合。人工智能一定意義上講它是計算機的一個分支，而人工智能所應用的領域也特別的廣泛，比如機器人的研究、圖像和人物的識別、語言的識別等。人工智能從問世走到現在，所面臨的問題也是很多的，其中人工智能的安全問題就是很重要的問題之一[1]。首先，人類應用人工智能是否是一直的，也就是人們平時所擔心的人工智能是否會超過人類在這個社會上的主體地位這個問題。人工智能應用的出發點是為人類所應用，使用的過程必須受到人類的控制，必須防止其野蠻發展，更不能被別有用心的人利用。這是保障人工智能安全問題很重要的一個方面。其次，如果不處理好人工智能的安全問題，人工智能有可能會對人類或者領域產生危害，影響人類以及相關領域的發展。最后，人工智能的安全問題也影響著人工智能本身的發展，安全問題，從始至終都是各行各業必須重視的問題之一，而人工智能行業的發展也離不開人工智能安全問題的妥善處理。

2 人工智能安全問題的現狀

2.1 人工智能網絡安全問題

眾所周知，很多行業在應用人工智能這項技術以及相關的知識的時候都是依附于計算機網絡來進行的，而計算機網絡這個行業是錯綜復雜的，很多計算機網絡的安全問題也是目前我國面臨的很嚴重的問題之一，相應的人工智能的網絡安全問題也是還存在問題的，比如機器人在為人類服務的過程中，操作系統可能遭到黑客的控制，機器人的管理權限被黑客拿到，使機器人任由黑客擺布；亦或突然源代碼遭受到攻擊，人工智能的信息基本通過網絡進行傳輸，在此過程中，信息有可能遇到黑客的篡改和控制，這就會導致機器人產生違背主人命令的行為，會有給主人造成安全問題的可能性[2]。不僅如此，在人工智能的發展過程中，大量的人工智能訓練師需要對現有的人類大數據進行分析和統計，如何防止信息的泄漏和保護個人信息的隱私也是人工智能領域需要關注的問題。

2.2 人工智能應用范圍限定的問題

對一些發展不成熟、會有引起安全問題的可能性的領域以及技術的應用范圍給出一定的限定，這是保障人類與社會和諧發展的一種手段，也是不能或缺的一個步驟。目前，人工智能的發展也是如此的，這也是人工智能目前安全問題所面臨的問題之一[3]。目前各行各業都有人工智能的應用，比如無人駕駛、各類機器人等，很多行業都會看到人工智能的存在，小到購物APP中的客服機器人，大到國際比賽中機器人的應用，在許多危險的領域，如核電、爆破等危及人類生命安全的場景，發揮了至關重要的作用。這些領域的應用如果應用的成功那沒什么問題，一旦出現問題就會產生很嚴重的安全性問題。對于人工智能應用的范圍，目前并沒有給出明確的界定，也沒有明確的法律依據，這就需要相關組織和機構，盡快對人工智能的適用場景進行梳理，加快人工智能標準和法律的建設步伐，防止一些不法分子，利用法律漏洞將人工智能運用到非法的范圍中，造成全人類不可估量的損失。

2.3 人工智能本身的安全標準

人工智能的產生以及應用的本身目的并不是為了趕超人類或者達到人類的智力水平，它本身存在的價值是服務于人類，可以成為人類生活的更好的一種工具，人類需要對其有著一定的控制的能力。但是近幾年來，很多人工智能的存在是為了與人類的智力水平以及人類為標準，忽略了部分人類倫理的問題，甚至涉及到部分人權問題，這就偏離了人工智能本身存在的目的，而這種的偏離會產生一定的安全問題，從而影響人工智能的發展。所以人們應對機器人的道德和行為判斷力進行判定，確保其在人類的道德倫理范圍中，避免人工智能產物做出危害人類安全的行為。人類必須對人工智能的行為進行嚴格的監管，也要大力發展人工智能自身的倫理監督機制，使其為人類所用。

3 解決人工智能安全問題的措施

人工智能還處在高速發展期，各方面還未完全成熟，人工智能的安全性問題成為了其發展道路上的絆腳石。解決人工智能安全問題對人工智能的發展有著很重要的作用，我們可以采取一定的措施來防止人工智能安全問題的產生。既對人工智能的安全隱患進行排除，又對人工智能的運行進行管理和監督。

首先，網絡安全已成為人工智能安全的首要攔路虎，解決好網絡安全的問題，讓人工智能的研發工作、實驗工作已經實施的工作可以在一個安全、穩定的網絡環境中來進行。網絡安全講求人、物、策略的三合一，不僅要做好物理層面網絡安全的防護，還需要加強對網絡管理、維護人員隊伍的管理，還要對網絡的管理策略進行可持續的優化。定期對網絡安全進行隱患排查和漏洞修補，加強網絡安全常規化的管理，通過建立完整的網絡安全制度，并建立人工智能網絡安全體系等這些措施來完成。善于運用各類的技術手段，從硬件防火墻、IPS、IDS等進行網絡安全的加固，通過各類網管和EDR等軟件加強系統補丁、漏洞的管理，定期對端口策略、底層防御策略進行調整，對網絡安全進行閉環式的持續性優化。

其次，人工智能是很專門的一個問題，各個領域都有研究人工智能的權利也有應用人工智能的權利。但相關人員要研究人工智能的時候一定要向相關部門進行報告，取得必要的證明以及許可，確保這項工作的安全性，然后在進行相應的工作。人工智能的應用和發展必須遵循社會發展的規律，以維護社會公共安全和穩定為先決條件，避免因此而產生不良影響。人工智能因為運算速度、運算能力和標準化程度優于人類，在圍棋、象棋等體育競技類項目中能力能超出人類，可以幫助人類運動成績的提升，但同時也要防止其運用到競技類的作弊過程中，有礙比賽的公平和公正。

最后，人工智能安全評估與管理工作，這也是保障人工智能安全問題很重要的工作之一。近幾年來，人工智能的發展在不斷的進步，因此，評估人工智能安全也是對將來可能產生危害及這種危害的程度的一種預測，相關的研究要不斷的加強這種評估的技術，并嚴謹的完成評估的工作[4]。尤其要加強人工智能算法和程序的測試，確保其在應用過程中不會對人類的人身安全產生影響。根據安全的測試數據，構建人工智能產品的評估模型和模擬機制，通過概率統計學對可能發生的危險行為進行預測并做好相關危害發生時的應急預案。加快人工智能訓練師和維護人員的隊伍建設，從源頭和使用過程中對人工智能的安全進行管理和監督，最大程度的降低危害事故的發生。針對人工智能公共安全領域的事故要做到零容忍，做到對信息處理和智能化全過程的安全督察。人工智能行業協會需統籌各地和各企業之間行業標準的建立，真正做到人工智能安全標準的統一，讓整個行業有據可依、依標辦事。

4 結束語

人工智能的應用是目前我國各行業各發展的一個大形勢，而同樣的，人工智能的發展也是目前我國智能化發展的一個前提，因此人工智能的發展對我國有著很重要的作用。而人工智能安全問題作為人工智能發展重要的問題之一是不能忽略的一個問題，因此認識到人工智能所面臨的安全問題并將這些問題研究出良好的對策可以對我國人工智能的發展有著很重要的作用。