人工智能的倫理問題

彼得·辛格

無人駕駛車業已駛上加利福尼亞的公路，現在言及如何讓機器的行為符合倫理為時已不算太早。超級智能或許離我們太遙遠，但是，我們可以開始考慮如何讓人工智能符合人類、

乃至所有有感情的生物的利益了。

上個月，一款專門被設計用于下圍棋的電腦程序“阿爾法狗”（AlphaGo）以4：1擊敗世界頂尖職業圍棋選手李世石，在圍棋愛好者群體中引發轟動。

你可能會問，這算是新聞嗎？早在二十年前，IBM的電腦“深藍”（Deep Blue）就曾打敗過國際象棋世界冠軍加里·卡斯帕羅夫；且眾所周知，自那以后技術一直在進步。但是，“深藍”獲勝純因計算能力，它能比世界冠軍計算出更多步棋。相比8×8格的國際象棋，圍棋的棋盤更復雜，為19×19格，圍棋可能的走法要超過宇宙中的原子數，因此，單憑強大的計算能力不太可能打敗對最佳走法有著強烈直覺的人類。

“阿爾法狗”的勝利之道，在于同其他程序進行海量對弈，并采納被證明成功的戰略。因而可以說，“阿爾法狗”進化為全世界最優秀的圍棋選手只用了兩年，而人類的大腦在自然過程中完成這樣的進化，可能需要數百萬年的時間。

“阿爾法狗”的主人、谷歌公司執行董事長埃里克·施密特（Eric Schmidt）熱衷于人工智能（AI）。他在人機大戰之前表示，無論結果如何，人類必將是贏家，因為人工智能的進步會令每個人更聰明、能力更強，“只會讓人類更美好”。

果真如此嗎？就在“阿爾法狗”凱旋的同時，微軟的“聊天機器人”泰勒（Taylor）卻嘗到了苦頭。這款自稱“Tay”的機器人的用途是與18～24歲的年輕人互動。Tay可以從接收到的信息中學習，并逐步提高對話能力。不幸的是，上線不到一天，就有人“教導”Tay有關種族主義和性別歧視的觀點。當她開始贊揚希特勒時，微軟不得不將其關閉，并刪掉了其大部分攻擊性的言論。

我不知道那些將Tay教成種族主義者的人自己是否是種族主義者，抑或他們只是認為玩壞微軟的新產品是饒有趣味的事。但不管怎樣，“阿爾法狗”的勝利與Tay的失敗同樣令人類警醒。在有著特定規則和明確目標的游戲中釋放人工智能的潛能是一回事，而把人工智能投入真實世界則是另一回事——兩者截然不同，環境的不可預知性可能暴露軟件漏洞，引發災難性后果。

牛津大學人類未來研究所所長尼克·波斯特洛姆（Nick Bostrom）在其著作《超級智能》（Super intelligence）中指出，關閉一個智能機器并不總是像關閉Tay那樣輕而易舉。他將“超級智能”定義為“幾乎在任何領域都超越人類最聰明大腦的智能，包括科學創造力、整體智慧和社交能力”。這樣的系統也許能挫敗我們關閉它的企圖。

有人質疑超級智能會不會實現。對此，波斯特洛姆 和文森特·穆勒（Vincent Müller）一起咨詢了人工智能專家，問機器智力何時能有50%的可能達到人類水平，以及何時有90%的幾率達到人類水平。估計的中位數顯示，50%的可能性在2045～2050年達成，90%的可能性在2075年達成。大部分專家都預計，達到人類智能后不到30年，人工智能就會發展到超級智能水平。

我們不應對這些估計太較真，因為專家總體的回復率只有31%，而且這一領域的研究者們往往想通過拔高人工智能的潛力來提高自己所在領域的重要性。

超級智能或許離我們太遙遠，尤其是在我們還面臨更緊迫的問題時更是如此。但是，我們可以開始考慮如何讓人工智能符合人類、乃至所有有感情的生物的利益。

無人駕駛車業已駛上加利福尼亞的公路，現在言及如何讓機器的行為符合倫理為時已不算太早。隨著無人駕駛車的改進，他們將拯救生命，因為他們比人類司機更少犯錯誤。然而，他們有時也將面臨在不同的生命間做出選擇。比如，他們是否應該急轉彎以免撞到橫穿馬路的小孩，而不顧將車上乘客置于險境？前面出現小狗該怎么辦？如果為了不危及乘客安全而采取的措施對車本身有損，又該怎么辦？

只是在開始討論無人駕駛汽車時，我們可能就會發現有許多功課要做。但無人車畢竟并非超級智能。可以想見，在廣泛的領域向比我們還要聰明的機器講解倫理問題，更將是極其困難的任務。

在《超級智能》一書的開頭，波斯特洛姆講了一個麻雀的寓言：這些麻雀心想，如果能培訓一只貓頭鷹來幫助他們筑巢和撫育雛鳥，一定很不錯。于是，他們開始找貓頭鷹蛋。其中一只麻雀站出來表示反對，認為應該先考慮如何馴服貓頭鷹；但其他麻雀很不耐煩，迫不及待地就著手啟動激動人心的新計劃。他們將在成功養大一只貓頭鷹后應對馴服貓頭鷹的挑戰，例如不讓其吃掉麻雀。

如果我們想得到一只有智慧而不僅僅是智能超群的貓頭鷹，那就別學那些沒有耐心的麻雀們。