為什么要對機器進行倫理設計？

欒軼玫

最近密集看了很多人工智能方面的電影、電視劇，人類對于AI是既愛又憂的，特別是人工智能近兩年的飛速發展，不僅是機器人奮站在新聞寫作的第一線，AI主播也已成功上崗。專家預測未來2-3年，人工智能將成為通用技術，換言之，你擁有智能化的機器人指日可待。

在弱人工智能時代，人類對于機器的喜明顯大于憂，機器可以快速運算；機器可以無人駕駛；機器可以提供AR/VR等媒介產品，讓“臨場”隨時發生；機器可以實現自動配音、自動填充畫面、自己創作交響樂與廣告片……人工智能發展的速度有點兒快，快到人們歡喜還沒充分釋放，憂愁已上眉梢。

以虛擬現實為例，它利用計算機技術把人們想象中的圖景轉化成一種虛擬境界和虛擬存在，這種AR是物理性與心理性的結合,是一種主客體共構的復合體驗。AR新聞帶給人們逼真感官體驗的實質是人為操控的幻境，換言之，虛擬現實是安全的致幻劑，它以營造幻覺來實現精神控制，這本身就暗含著極大的倫理風險。肯?希利斯在《數字感覺：虛擬現實空間中的空間、身份及具身化》中認為，虛擬現實承諾我們可以棄置肉身，以純粹的數據形式“浪游”于賽博空間之中，但這其實并不容易辦到。我們或許可以享受“從脆弱易朽的肉色世界和真實空間逃逸出來的自由”，但這不過是一種新的身體感覺形式罷了，并非真正地“脫離肉身”，何況這種感覺還帶著被操控的極大風險。

雷?庫茲韋爾在《奇點臨近》中，預言了人與機器的聯合，即嵌入我們大腦的知識和技巧將與我們創造的容量更大、速度更快、知識分享能力更強的智能相結合。在未來時代，我們的智能會逐漸非生物化，其智能程度將遠遠高于今天的智能。一個新的文明正在冉冉升起，它將使我們超越人類的生物極限，大大加強我們的創造力。

英國功利主義哲學家杰里米?邊沁曾預言，人工智能的發展將對倫理學進行重塑：“當人類把語言能力和感受性的標準覆蓋到一切物時，偉大的時代就要來臨了。”

隨著強人工智能的來臨，甚至是超人工智能時代似乎也已在路上了，人們開始思考人工智能的倫理問題了，為什么要對機器人進行倫理設計？其欲探究與追問的是“誰是、誰應是責任的主體？”

大家都知道著名的“圖靈測試”（阿蘭·麥席森·圖靈在《計算機器與智能》一文中提出）：即假定一個計算機的動作和一個人在思維時的動作方式不能區分，我們就稱它具備了智能，比如說讓一個人和機器聊上5分鐘，且能讓超過30%的測試者誤認為他們剛才是與人聊天而不是與機器聊天，則人工智能通過測試。在“圖靈測試”的基礎上還有一個“圖靈道德測試”：這個測試旨在檢測機器人是否具有人類的道德水平。如果通過這個測試，那么機器人就可以被看作具有相應的道德責任和權利，也就相應地受一些法律框架的約束；相反，如果機器人沒能通過“圖靈道德測試”，那就說明它與人相比，僅僅還是個物，僅僅是人們從事各項活動的輔助工具。而瓦拉赫和艾倫堅信這些“物行為體”能夠做出正確的、善的道德決策，成功通過道德的“圖靈測試”（耶魯大學生命倫理跨學科研究中心的瓦拉赫和印第安納大學認知科學工程中心的艾倫在《機器道德》一書中把“圖靈測試”引入倫理學領域）。

如果機器真能夠做出正確的善惡之分、道德判斷的話，我們即使依然悲哀于人的主體性的終結，亦即“人不為人”，但是好在幻想著有道德水準的機器不至于“濫殺無辜”，然而，未來果真能如人所愿？未來機器能滿足人的這一基本的盼望嗎？對此，我不樂觀。

控制論之父維納早在1950年出版的《人有人的用處》中就對這種“機器將和人類一起，參與到至關重要的創造、發送和接受信息的行動中去”有過描述，而且他還擔心一些人會創造出人類無法控制的主體，它們是一群“按照人類無法接受的價值”行動的主體。對此，維納甚至語重心長地勸誡：“為了防止這樣的災難，世界既需要為人造主體設置倫理規則，也需要技術有效地把那些規則逐漸地灌輸到主體中去”[1]，對此，我是服氣的，對機器人進行倫理設計，對人工智能加重倫理范疇的討論與考量，實在是事不宜遲了！畢竟，曾經“人有人的用處”，未來，人也應該有人的位置！！！

注釋：

[1] Winer N. The Human Use of Human Beings： Cybernetics and Society [M]. Boston： Hougton Mifflin, 1950(12)： 211-212.