人工智能安全問題及其解決方向

◆但少華

人工智能安全問題及其解決方向

◆但少華

（湖北省赤壁市人民檢察院 湖北 437300）

人工智能的出現無疑開啟了人類歷史的新時代，它在給國家和社會帶來進步和發展的同時，也帶來了巨大的安全威脅。如何解決新時代下人工智能的安全問題成為網絡信息領域的當務之急。本文筆者首先對人工智能及其發展進行介紹，然后從倫理、社會秩序、隱私以及系統整體性四個層面分析人工智能的信息安全威脅，最后提出人工智能安全問題的規避策略。

人工智能；安全問題；解決策略

0 引言

近年來，人工智能已經成為了一個炙手可熱的名詞，圍棋天才柯潔大戰阿爾法狗和第一個擁有人類身份證的機器人索菲亞等這一系列現象的出現讓人們在感嘆人工智能給世界帶來巨大變化的同時也引起了人們對于信息安全的擔憂。一項新技術的出現，如果能夠有效利用，將會引領時代的進步和發展，但是忽略了其潛在威脅，就會適得其反。人工智能技術的出現，也意味著一場革命，在市場競爭如此激烈的時代浪潮裹挾下，我國的人工智能是否能夠引領時代發展，關鍵在于如何解決人工智能的信息安全問題。

1 人工智能及其發展

從根本上說，人工智能就是一項信息處理系統，它主要通過輸入圖像或者文字信息，進行感知、分析和學習，進而采取恰當的行動解決問題。由于人工智能天生具備的信息屬性決定了其信息安全問題會全程貫穿在其應用中。世界范圍內的各領域各行業都感受到了人工智能帶來的巨大變化，政府部門在制度設計上出臺了各種政策促進人工智能的發展，技術人員也試圖搶占技術的高點。我國的《新一代人工智能發展規劃》和十三五規劃都對人工智能的發展進行了詳細的戰略部署。中國具有天然的市場優勢，目前人工智能的發展態勢十分樂觀，人們日常獲取信息、網購和出行等都離不開人工智能技術的支持。2017年，麻省理工科技評論公布的全球十大突破技術之中，深度學習、刷臉支付以及自動駕駛位列其中，而這些技術的研究者中科大訊飛、阿里巴巴、百度等都是中國企業。除此之外，我國的人工智能還被引入了政務領域，有效地提升了工作效率，促進了政府服務的創新。

2. 人工智能信息安全威脅分析

2.1 倫理安全

隨著人工智能的發展，越來越多智能化、自動化的設備進入了我們的日常生活，同時它們也面臨著現有法律、社會規范以及倫理道德的挑戰。比如世界圍棋大師李世石與人工智能機器人阿爾法狗的對決，人們會擔心未來人工智能會取代人類，索菲亞成為第一個擁有人類身份的機器人，人們會擔心如果她對人造成傷害怎么辦，這些現象都不符合我們的傳統認知。除此之外，人工智能技術的進步，逐漸取代了那些重復性的工作，導致相關從業人員出現極大的心理恐慌。

2.2 影響社會秩序

傳統的信息系統依賴于人的操作和控制，但是人工智能技術有一個自己的“大腦”，在一定程度上可以自我控制。人工智能控制的機器人、無人駕駛汽車、無人機等設備都具備一些自主行為，一旦受到安全威脅，就會帶來極大的破壞，例如無人駕駛汽車失控后對交通系統造成的影響，而且人工智能系統設備的行為還會給同一系統的人員帶來諸多的干擾和麻煩，導致現有秩序的混亂。

2.3 隱私安全

人工智能催生了大數據時代，人、事、物可以實現綜合的管理，沒有人是一座孤島，不可避免地會與周圍的人事物產生聯系，在大數據的作用下，個人的家庭信息、聯系方式、賬號密碼，甚至是出行軌跡、消費情況和健康狀況等，都可以通過智能設備、互聯網或者傳感設備實現數據的獲取，如果這些信息都被曝光，那么個人隱私安全就會受到極大的威脅。

2.4 系統整體性安全

人工智能系統中的大部分數據都被保存在云端，通過大數據分析向控制端發出指令，進而形成傳輸、智能處理。在此過程中，如果該人工智能系統受到攻擊或者設備故障，將會引發整個系統的危機，就算是局部的安全風險，也會在短時間內迅速擴散，形成更大的安全威脅。

3 人工智能安全問題的規避策略

3.1 樹立科學的安全觀念

建立起對人工智能安全問題的科學意識，消除恐慌和擔憂的情緒，更好地利用技術促進社會的進步和發展，是規避人工智能安全問題的重點。將人工智能安全問題絕對化一定程度上是在將安全風險擴大化，相關行業人員應該樹立起科學的觀念，辯證看待人工智能的安全問題，立足發展，認真權衡利弊，別讓安全問題阻斷了發展的道路，應該運用規則的作用，以更先進的管理手段和技術措施應對人工智能所帶來的負面影響。

3.2 完善法律法規，制定道德準則

政府應充分發揮主導作用，專家作為技術宣傳的主體應該肩負起普及人工智能信息安全相關知識的責任，公眾要積極參與其中，發揮整個社會的協同作用，針對人工智能的不同環節和應用場景，研究人工智能安全發展方略，明確各主體的權利和義務。同時，有關部門制定相關的法律法規，劃定人工智能安全發展的邊界，并鼓勵公眾參與到倫理道德準則的制定過程之中，在人工智能的科研團隊中開展相關倫理道德的知識宣傳工作，發揮倫理道德的柔性約束作用。

3.3 確立有效的發展策略

任何一項技術的出現都會經歷一個相對漫長的發展過程，過去很多技術都是遵循先發展后治理的原則，但是當技術發展速度越快，產生的影響就會越大，滯留的問題就會越多。人工智能具備自主、智能和自適應的特征，因此要改變發展策略，將發展和治理放在同一高度來看待，歐美各國在人工智能的發展戰略中將安全管控和風險治理都納入了其中，防微杜漸，這是我們需要學習和借鑒的。在新一代人工智能的發展過程中，應該以科學的態度迎接安全挑戰，做好相關的安全保障措施，才能更好地促進人工智能的發展。

3.4 創新加快科學普及，強化輿論引導

要構建一個健康的人工智能發展環境，就要加大科普宣傳力度，發揮輿論的引導作用，傳遞正能量，讓人們認識和了解人工智能的發展現狀以及取得的成果。針對人工智能是否會取代人類等一系列疑問，相關專業人士應該進行科學宣傳和引導，消除人們對人工智能的誤解，幫助他們打消疑慮，營造和諧穩定的社會氛圍，提升全社會的科技認知水平，讓人工智能更好地為人類服務。

3.5 人工智能的安全評估與管理

當前人工智能正以飛快的速度向前發展，相關人士應對其可能產生的危害以及危害的程度進行科學的評估，人工智能產生的安全性已不容忽視。由于人工智能產生在出現問題之前沒有任何預兆，因此人們會認為高科技所造成的后果是十分嚴重的，進而導致對相應安全問題嚴重性做出偏高的主觀評價，這也體現了人工智能安全評估和管理的重要性。安全評估主要著眼于那些未發生但存在發生可能性的事件，并將其數據化，計算事故發生的概率、劃分危險等級，并制定相應的安全標準和對策措施，從中選擇最佳方案，以預防事故的發生。對人工智能進行安全評估，不僅能夠讓技術人員更加全面地認識到研發對象的特性，設計出更加全面且安全的系統，同時在工程技術當中，安全評估是安全管理的重要內容。

4 結語

綜上所述，人工智能給人類社會帶來的深刻變革是有目共睹的，縱觀歷史，每一個經濟繁榮時代的到來都是由新技術引領的。隨著人工智能技術的不斷進步，人工智能在給人類帶來更多技術上的變革和生活上的便捷的同時，也存在著一些安全隱患。在這個智能時代背景下，我們應該理性看待人工智能的影響，同時還要用發展的眼光看待人工智能的發展，因為它就好比是一把“雙刃劍”。當然，更重要的是，我們不應將人工智能的安全問題丟給未來，人工智能安全問題不僅是網絡安全領域面臨的問題，更是全世界都需要解決的問題，只有真正解決了人工智能的安全問題，才能將人類引入更加光明和幸福的未來。

[1]杜嚴勇.人工智能安全問題及其解決進路[J].哲學動態,2016.

[2]史博偉,傅曉微. 美國的國家網絡安全戰略及其借鑒意義[J].南京郵電大學學報(社會科學版),2016.

[3]何哲.人工智能時代的政府適應與轉型[J].行政管理改革,2016.

[4]郭華. 基于人工智能的網絡安全技術[J].電子技術與軟件工程,2017.

[5]邵江寧.基于人工智能后發制人的網絡安全新對策[J]. 信息安全研究,2017.