論人工智能安全問題及其解決途徑

董皓然

摘 要：近年來，人工智能的發展迅速，人工智能的應用領域也越來越廣泛。于此同時，人們對人工智能安全問題的討論也越來越激烈，不管人工智能最后的發展會不會超過人類智慧，其對人工智能安全問題的研究有著重要意義，是人工智能的科學發展的前提和保證。在解決人工智能安全途徑上，可以從內部、外部同時進行，采取有效的科學措施，保證人工智能能夠給人類帶來福利。

中圖分類號：TP18 文獻標識碼：A 文章編號：1003-9082（2018）11-0-01

一、探究人工智能安全問題的必要性

1.人工智能超越人類智能的可能性

目前，關于人工智能能否超越人類智慧一直是學術界討論的話題，很多學者在此問題上存在很大的差異，但是這些討論恰恰體現了人類對人工智能理解的多樣性，這是人類對人工智能更加深入了解的發展過程。從發展的角度考慮，科學家對人工智能的發展和探究也只是時間的問題。從技術考度考慮，計算機的發展速度、云計算、云儲存等技術的發展推進了人工智能的發展。人工智能能否超越人類智慧并不是目前可以預測的，但是目前而言，人類是無法阻止人工智能的發展腳步。

2.人工智能產生危害的可能性與后果的嚴重性

人工智能在短時間內是無法超越人類智慧的，但是如果不加以控制，人工智能也可能給人類帶來相當嚴重的危害，著名科學家波斯特洛姆就曾提出，如果一種人工智能不加以控制，很可能會產生最大產量的智能系統，這種智能系統有無法滿足的胃口，不斷地獲取物質和能力。此外，互聯網等技術的發展，讓網絡黑客、木馬病毒等成為對人工智能產品的潛在威脅元素，使人類對計算機等人工智能產品的依賴有可能變成災難，比如黑客能夠控制人類的計算機、機器人，能夠遠程操作這些智能系統，由此導致的后果將不堪設想。

二、解決人工智能安全問題的內部途徑

解決人工智能的安全問題，就必須要先從內部途徑著手。

第一，加強倫理設計。對人工智能相關產品的理論設計是解決其安全問題的基本途徑之一。近年來，人工智能方面的倫理問題受到了西方發達國家的關注，對人工智能的倫理進行研究，就是讓機器人與人類之間的互動，有道德判斷的標準和行為準則判斷的標準，讓人工智能的行為符合人類基本的道德標準。對人工智能進行理論設計，讓其成為只能做好事的“楷模”，在某種程度上可以避免人工智能不正確的使用造成對人類的危害。

第二，應用范圍的限定。為了保證社會的和諧與發展，對于一些不成熟的技術或者容易引起社會安全問題討論的技術都會進行對其應用范圍的設定。例如克隆技術，英國在首次克隆羊成功之后，又成功克隆出牛、豬、狗等動物，但是是否對人類進行克隆技術一直處于爭議的狀態，對克隆技術的應用范圍需要限定。人工智能技術同樣如此，隨著人工智能的不斷發展，必須要對其應用范圍進行限定。

第三，建立人工智能安全標準與規范。人工智能的安全問題，歸根到底是對人工智能能否能為一種安全可靠的使用工具進行討論，其最終的決定權利還是人類，為了實現對人工智能絕對的控制目標，首先就要對其進行自主程序的設定，要建立一套完善的安全標準和規范。

三、解決人工智能安全問題的外部途徑

第一，加強科學家的社會責任。人工智能作為一種產品，其設計和研發的主體是人，解決其安全問題的關鍵也是人。因此，解決人工智能安全問題要加強研發者的社會責任，首先要明確人工智能的專家學者的設計目的，如何通過人工智能來為人類社會提供服務，不能僅僅追求個人利益而忽略社會責任。其次明確人工智能安全問題的后果，一旦出現安全問題，能夠有專家承擔相應的責任，而不是把責任歸咎于人工智能本身的不確定性與復雜性。在一定程度上，解決其人工智能的安全問題其核心還是相關科學家的責任心。

第二，公眾的接納及其觀念的調整。人工智能的安全問題，客觀而言是指技術本身的安全問題，主觀來說是指受眾對人工智能的主觀判斷或者體驗，隨著人工智能所涉及到的領域越來越多，人們對人工智能的科技風險也越來越敏感，例如，人工智能取代了一部分人工勞動，這對于一部分人來說就變成了威脅。因此，解決人工智能的安全問題，還在于加強公眾對其觀念的調整和改變。

第三，加強人工智能安全評估與管理。隨著人工智能的發展越來越快速，對其可能產生的危害進行評估就變得越來越重要。安全評估的意義在于對于那些潛在的、還未發生但可能發生的危險進行預防，并將這種可能量化，制定安全的指標，從而能夠計算事故發生的概率，劃分危險等級。在措施上，安全評估是預防事故發生的有效措施，是安全生產管理的一個重要組成部分，在人工智能系統中引人安全評估是必然之舉。

結語

人工智能的發展給人類帶來了新的發展，同時也可能產生一定的安全隱患，在人工智能時代，人們對其安全也越來越重視，人工智能的安全問題是一個涉及到哲學和科技的復雜問題，解決其安全也需要從多個角度綜合考慮。本文對人工智能的安全問題的研究還處于較為初級的階段，但這并不妨礙所討論問題的重要性，只有真正重視人工智能的安全問題，才能給人工智能的發展只能正確的方向。

參考文獻

[1]徐英瑾：《心智、語言和機器—維特根斯坦哲學和人工智能科學的對話》，人民出版社，2013.

[2]庫茲韋爾：《奇點臨近》，李慶誠、董振華、田源譯，機械工業出版社，2014.

[3]松尾豐：《人工智能狂潮—機器人會超越人類嗎？》，趙函宏、高華彬譯，機械工業出版社，2016.

[4]波斯特洛姆：《超級智能》，張體偉、張玉青譯，中信出版社，2015.

[5]貝克、威爾姆斯：《自由與資本主義》，路國林譯，浙江人民出版社，2001，第121頁。