當代人工智能技術發展中的倫理問題研究

吳愷

〔摘要〕 隨著當代技術領域的革新和進步，人工智能技術的相關倫理問題日益凸顯。目前，人工智能技術發展中的倫理問題存在人工智能的“權利”、人工智能事故的責任認定、人工智能的道德地位等方面的問題。為此，應加強人工智能技術的國際交流與合作，在人工智能技術中融入更多哲學和倫理學的思考，以生態價值觀推動人工智能技術的發展，增強科學家的道德責任感，積極構建有關人工智能技術的法律規范。

〔關鍵詞〕 人工智能技術;倫理道德;生態價值觀;法律法規

〔中圖分類號〕TP18 ? 〔文獻標識碼〕A 〔文章編號〕1009-1203（2019）03-0065-04

作為計算機科學分支的人工智能，是研發用于模擬、延伸和擴展人的智能的理論、方法及其應用的一門新興技術科學。人工智能通過解析人類智能的本質，力圖研制出一種能以與人類智能相似的方式作出反應的智能機器，該領域的研發包括機器人、語言模擬、圖像識別、自然語言處理和專家系統等 〔1 〕。隨著現代科學技術的蓬勃發展，人工智能已經逐漸滲透到了人類工作和生活的方方面面，與人工智能相關的倫理問題也日益凸顯。人工智能技術發展中倫理問題的發現和解決，勢必促進人工智能技術的健康發展，使其更好地為經濟社會發展和人民美好生活服務。

一、人工智能技術的發展歷程

人工智能技術是一門綜合性很強的學科，再加上心理學、生理學、數學、哲學等對其的貢獻，各種關于人工智能的新思想、新理論、新技術層出不窮 〔2 〕。人工智能技術經過幾十年的發展，對人類社會的影響與日俱增，其應用領域也越來越廣泛，如今，人工智能技術已經用于軍事、安保、圖像識別、無人駕駛、股票分析、太空船航行、生物控制等眾多領域。

早在古希臘時期，亞里士多德就開始了對人類思維規律的研究。近代，英國科學家喬治·布爾創立了邏輯代數，英國數學家巴貝奇致力于差分機和分析機的研究，英國數學家圖靈提出了理想計算機模型，并創立了自動機理論，這些早期的研究為現代人工智能的出現奠定了理論基礎。在1963年后，人工智能技術的發展進入了新的階段，人類在自然語言通訊方面取得突破性進展，人工智能的目標主要在于如何讓計算機理解自然語言、準確回答問題、自動分析圖像或圖形等。20世紀70年代出現了專家系統，可以模擬人類專家的知識和經驗來解決特定問題，這促進了人工智能從理論研究走向實際應用的突破。20世紀80年代，專家系統在醫療、化學、地質等領域取得了一系列成功，使人工智能在應用方面達到了一個高峰。20世紀90年代之后，由于互聯網技術的發展，讓人工智能技術進一步走向實用化。1997年5月，IBM公司研制的“深藍”成為戰勝國際象棋世界冠軍卡斯帕羅夫的第一個計算機系統。2016年3月，阿爾法圍棋與圍棋世界冠軍、職業九段棋手李世石進行圍棋人機大戰，以4比1的總比分獲勝。這標志著人工智能系統在某些領域可以達到人類的最高水平。2017年10月，在沙特阿拉伯利雅得舉行的“未來投資倡議”大會上，機器人“索菲亞”被授予沙特公民身份，成為全球首個獲得公民身份的機器人。2018年11月22日，在“偉大的變革——慶祝改革開放40周年大型展覽”上，第三代國產骨科手術機器人“天璣”進行了模擬手術的展示。這眾多成就的取得，對人工智能的研究起到了巨大推動作用，也促使世界各國大力關注人工智能技術的倫理問題。

二、當代人工智能技術發展中遇到的倫理問題

隨著社會的不斷發展，各行各業的分工越來越精細，尤其是在現代生產中，各種職業病層出不窮，于是人們強烈希望用某種機器去代替自己工作，因此人們研制出了人工智能機器人，用來代替人類去完成那些單調、枯燥或危險的工作。雖然用人工智能代替人類去完成部分工作解決了某些人類不易完成的問題，并在很大程度上提高了工作效率，但人工智能的問世，必然會使一部分人失去原來的工作，出現“人工智能上崗，人將下崗”的情況，從而有意無意地剝奪了人們勞動和就業的權利，出現人類與人工智能在就業上的沖突。此外，隨著生命技術、信息技術、納米技術等新領域的發展，人類與人工智能之間的結合越來越緊密，將來我們有可能生活在一個充滿各種“混合人”的世界里，比如會出現“人與動物的結合體”“人與機器的結合體”等 〔3 〕。可見，對人工智能倫理問題的思考終將成為人類不可回避的問題。具體來說，人工智能發展可能導致的倫理問題包括如下方面：

第一，人工智能的“權利”問題。在人工智能技術快速發展的背景下，各種“智能生命”陸續問世，使得人類的人權受到了前所未有的挑戰。隨著人工智能應用領域的廣泛，以往只是從事簡單體力勞動的智能機器人具有了不同程度的感知能力及“人性”，機器人代替人類工作已不再是神話。這一方面給人類生活帶來了便利和福音，但另一方面也使得越來越尖銳的人權倫理問題擺在了人類面前，如人工智能是否會危害人類的生命和健康、侵犯人類的尊嚴和隱私、破壞人類的自由等。現在人工智能的表情和行為是通過內部軟件來控制的，通過相關程序的設定，可以使人工智能具有人的某些特性。從某些方面的能力來看，如記憶、運算等，由電腦武裝起來的人工智能已遠遠超過了人類。隨著人類與人工智能的交集越來越大，我們是否應該給人工智能以等同于人類的“權利”？有反對者認為：我們不需要太強大的人工智能機器人，也不能給它任何“權利”;讓人工智能擁有“人權”，就違背了“人工智能機器人三大法則”，就是放棄人類對人工智能的管控，這將間接危害到人類。而贊成者認為：如果人工智能機器人有“道德良知”，能與人類互動，他們就應該享有一定程度的權利。

第二，人工智能事故的責任認定問題。當今，人工智能技術發生了翻天覆地的變化，且正以驚人的速度向服務業、娛樂業、軍事、農業、教育等領域擴展。人工智能產品在給人類帶來幫助的同時也讓人非常糾結，因為某些人工智能有學習的功能，能“自學成才”。也就是說，一段時間之后，它會像人一樣，根據自己的所“見”所“想”自作主張。與此同時，用于規范人工智能相關行為的規則遠遠沒有跟上，這使得人工智能技術的責任倫理問題越來越明顯，其爭論的焦點在于由誰來負責人工智能技術所引發事故的責任。于是，對人工智能可能帶來的各種后果，人們產生了極大的恐慌和擔憂。例如，隨著人工智能替代了更多人力勞動后，誰來負責不斷加劇的失業率;醫療行業用于診斷的專家系統如果出現失誤，所導致的醫療事故由誰來負責;股市預測系統給股民帶來的損失由誰來賠償，等等 〔4 〕。再比如，如果出現機器傷害人類的事故，是機器的責任還是其設計者和使用者的責任？因此，不管是人工智能技術相關領域的政策制定者、科研人員，還是人工智能技術的使用者，都應擔負起相應的倫理責任。現代技術的突飛猛進，要求我們更深入地關心人類的前途和命運，不能隨意將技術的進步作為人類和自然界相互較量的“賭注”。

第三，人工智能的道德地位問題。一種事物如果擁有道德地位，人類就應對其承擔相應的倫理義務。如果我們否定智能機器人的道德地位和社會身份，我們就可以用任何自己喜歡的方式來對待它，而沒有仁慈或殘酷的區別。但事實上，不顧及人工智能的道德地位而為所欲為，就會與我們的傳統倫理相違背。當前機器人的“人格化”是一個大的發展趨勢，家用服務型機器人除了能替人們完成一些枯燥的工作外，還能進行復雜的有交互性質的行為，如收獲果實、輔助醫療等，甚至還可以在一定程度上滿足人類的情感需要。在“人形交互式機器人”這個新興領域，還逐漸實現了情感交流、言語感知、知識學習等新功能。如果人們對具備“情感”的人工智能機器人任意指使、傳喚、謾罵、毆打，就明顯違背了人類公認的道德標準。

三、當代人工智能技術倫理問題之成因

人類研發人工智能的初衷是讓人工智更好地服務人類社會，為人類生活帶來便利，但當人類越來越依賴人工智能的時候，我們必須正視人工智能可能帶來的威脅。其中人工智能技術帶來的倫理問題不僅真實存在，而且也必將會愈發突出。通過對人工智能所引發的倫理問題的分析，我們可以從以下幾個方面來探討人工智能倫理問題的成因：

第一，技術上的局限性。目前，人工智能技術已經應用于各行各業，大到軍事武器、航空航天，小到家用電器、兒童玩具等。人工智能技術的發展給人類帶來了巨大的便利，其未來前景可觀且潛力無限。但當前人工智能在技術上存在的不足導致了很多倫理上的問題，這些倫理問題成為了人工智能技術發展道路上的“攔路虎”。例如，目前的戰爭機器人還無法準確區分平民和戰斗人員，也無法分辨出哪些人是傷兵，或者哪些建筑是符合戰爭法中規定的可打擊目標，他們只是按照人類既定程序去執行命令，沒有人類判斷力和識別力的戰爭機器人無法判斷“命令”的對錯，也無法停止執行錯誤的“命令”。如果使用者濫用各種“命令”，其后果將不堪設想。因此人工智能技術自身的局限性帶來了倫理問題。

第二，倫理規制的缺乏。當今，與人工智能相關的現有倫理規制已遠遠落后于人工智能技術發展速度，而人們對人工智能技術倫理規制的重視不足，導致新的人工智能倫理規制制定進展緩慢，人工智能技術相關倫理規制的缺失造成大量倫理問題的產生。例如，當我們的某些情緒找不到人發泄時，就可以向“智能聊天機器人”宣泄;但如果長時間與“智能聊天機器人”進行溝通，將不可避免地會對“智能聊天機器人”產生情感上的依賴，這容易引發心理疾病或其他不良后果。但是，今天還沒有任何規范人與“智能聊天機器人”交往的倫理道德規范，這一問題已引起了越來越多學者的關注。

第三，政策法規的滯后與不完善。隨著人們對人工智能研究的深入，關于人工智能技術的倫理道德原則也逐漸引起人們的關注。關于人工智能的規范，在人工智能發展的早期，美國科幻作家阿西莫夫就曾給出了著名的“機器人學三定律”：一是機器人不得傷害人類，也不得見人受到傷害而袖手旁觀;二是機器人必須服從人的命令;三是機器人必須保護自己，但不得違反第一、第二條定律 〔5 〕。2005年，歐洲人工智能領域的頂尖專家共同成立了“機器人倫理學研究室”，主要致力于為人工智能技術的研發制定合理的倫理原則。2007年，韓國政府出臺了“機器人憲章”，旨在對機器人的設計、生產和應用給予指導。同年，日本千葉大學也制定了關于智能機器人研究的規定——“千葉大學機器人憲章”，強調人工智能研發的初衷是保護人類、服務人類，為人類創造和平的發展環境。2017年9月，聯合國“犯罪和司法研究所”決定在海牙成立第一個聯合國人工智能和機器人中心，以規范人工智能技術的發展。當然，這些規范雖然很明確，但無法適應復雜的人工智能活動。人工智能技術作為一種新興技術，其發展時間還不長，與其相關的人權、環境、責任等倫理問題基本都超出了現有法律的范圍。這些倫理問題的出現，目前只能借助科學家的道德素養和社會輿論的監督來規范和約束，很難利用法律途徑對其有效解決。因此，關于人工智能技術領域的相關法律法規還需要不斷進行補充和完善。

四、人工智能技術倫理問題的解決對策

通過對人工智能技術倫理問題成因的分析，我們可以從技術、道德法律、人類自身等層面采取相應的應對策略，來解決這些倫理問題，使人工智能技術更好地造福于人類。具體來講，應做到以下幾點：

第一，加強人工智能技術的國際交流與合作。現在人工智能逐漸得到了世界各個國家的重視，與空間技術、能源技術并稱為世界三大尖端技術。人工智能技術屬于一個正在發展并有極大提升空間的新技術，它還存在很多技術方面的不足。通過國際間的合作與交流，人工智能技術提升的空間會更大，其解決問題的能力也會更強大。如果各國能加強人工智能技術的交流與合作，人工智能技術的發展必將迎來新的突破。對人工智能技術領域的管理，也要加強國際間的合作，要堅決反對違反國際條例的人工智能科研計劃，并按照相關法律法規和國際慣例對人工智能技術進行嚴格管理 〔6 〕。

第二，在人工智能技術中融入更多哲學和倫理學的思考。盡管目前關于人工智能技術的哲學思考比較豐富，但幾乎都只是建立在純學術領域，且更多是對人工智能的現象進行思辨，這對解決人工智能技術的倫理問題沒有太多實質性幫助。因為人工智能的研發和實施人員優先考慮的是科技的合理性、高效性和經濟性，很少注重構建相應的倫理體系，這往往導致技術預測不到位，對人工智能發展的很多后果都預測不到。相比于社會大眾來說，人工智能研發和實施人員對人工智能技術可能存在的危害會更清楚。如果他們在研發人工智能技術時，能像哲學家那樣對人的情感、人的認知、社會倫理等方面有更周全的考慮，就能避免很多倫理困境。只有加強人工智能技術領域研發、實施人員與哲學家之間的交流與合作，將更多哲學思考融入人工智能技術，才能使人工智能技術更人性化、生態化、和諧化，并有助于各種人工智能技術倫理問題之解決。

第三，以生態價值觀推動人工智能技術的發展。對生態價值觀的踐行，有助于人們正確認識技術實踐的雙重效應，矯正技術理性的片面發展，化解技術發展的消極后果，推動技術實踐的綠色和生態化轉向。如何使人工智能技術更好地發展？人工智能技術將走向何方？對于任何一項人工智能技術，必須考慮它是否破壞環境，是否對人類的身心健康有害，是否會帶來新的倫理道德問題或引起國際間的沖突。對生態價值觀的踐行，將對包括人工智能技術在內的高新技術提出更高的要求，這對人工智能技術的發展既是一種挑戰也是一種機遇。對人工智能技術來說，確保其與生態價值觀相符合，不違背生態文明建設的目標，將是未來發展的一種方向。

第四，增強科學家的道德責任感。愛因斯坦曾指出，怎樣使用科學技術，究竟是給人類帶來幸福還是帶來災難，全取決于人自己，而不取決于工具本身 〔7 〕。人工智能技術產生的一些倫理問題往往是由于科學家缺乏道德義務和道德責任。有些科學家將自己封閉于單純開發技術的狹隘空間，對社會道德責任處于無意識的狀態，這導致他們很容易被某些別有用心的政治家利用，使他們自己及他們擅長的技術成為這些政治家的工具。因此，提高科學家的道德責任感十分必要。一方面，科學家應以辯證的態度開展自己的工作，能夠清晰認識到人工智能技術既能造福人類，也能毀滅人類。另一方面，科學家應該有長遠的眼光，不要為短暫的私利而開發出不符合人類道德的產品，而應該以仁愛、和諧、生態、可持續等積極理念去開發造福于人類的技術。當人工智能科學家的道德素養達到足夠高的境界時，他們會自動擺正人工智能技術發展的方向盤，將人工智能帶向更美好的明天。

第五，積極構建有關人工智能技術的法律規范。俗話說，“沒有規矩，不成方圓”，目前針對人工智能技術的相關立法，如數字安全法、個人信息保護法等，我國已經有了初步的規劃，但規范人工智能技術發展的正式立法還未出臺。只有正式立法才能構建人工智能技術發展的剛性原則，并將其落實到人工智能技術新產品生產的各個環節中。鑒于人工智能技術的發展給人類帶來的諸多隱患，我國應積極關注國外已經出現、國內尚未出現的人工智能技術倫理問題，并盡早出臺有關人工智能技術的法律法規。此外，人工智能技術倫理問題也應得到國際社會的高度重視，并早日制定一部通用性國際法律，以引導人工智能技術的發展。在此基礎上，以這部通用法律為指導，各個國家可以制定與本國國情相符的人工智能技術相關法律法規，并對其嚴格執行，這將使人工智能技術的發展之路充滿光明。

總之，人工智能技術的發展是當今社會發展的必然趨勢。正如習近平總書記在十九屆第九次中央政治局集體學習時所指出的：“人工智能是引領這一輪科技革命和產業變革的戰略性技術，具有溢出帶動性很強的‘頭雁效應。” 〔8 〕雖然當代人工智能的發展引發了不少倫理問題，但只要我們堅持以人為本，把握好其發展尺度，確定好其發展原則，就必將使人工智能真正服務于人類的幸福安康。

〔參 考 文 獻〕

〔1〕陳立鵬.人工智能引發的科學技術倫理問題〔J〕.文學教育，2012（08）：130.

〔2〕譚 印.人工智能在計算機網絡技術中的應用〔J〕.通訊世界，2017（06）：53-54.

〔3〕張顯峰，程宇婕.情感機器人：技術與倫理的雙重困境〔N〕.科技日報，2009-04-21（05）.

〔4〕陳 靜.科技與倫理走向融合——論人工智能技術的人文化〔J〕.學術界，2017（09）：102-111.

〔5〕易重華，魯再書.對機器人恐慌的哲學根源和消解〔J〕.勞動保障世界，2016（17）：67-68.

〔6〕張桂娟，刁生富.三元結構社會的新問題：人與半機器人和機器人的相處之道〔J〕.未來與發展，2017（11）：53-58.

〔7〕趙 博.網絡技術倫理的理性思考〔J〕.黑龍江史志，2010（06）：57-58.

〔8〕習近平：推動我國新一代人工智能健康發展〔J〕.中國信息安全，2018（12）：28-29.

責任編輯 徐 芳