科技怪物

羅伯特·斯基德爾斯基

在瑪麗·雪萊的小說《科學怪人，或現代普羅米修斯》中，科學家維克多·弗蘭肯斯坦使用人體部件創造了一個超級智能的“超人”怪物，最終反噬了它的創造者。自1818年出版以來，雪萊的這個關于科學研究導致大問題的故事，被視為試圖賦予機器類人智能的危險（和愚蠢）的隱喻。

隨著生成式人工智能（AI）的迅速興起，雪萊的故事引起了新的共鳴。3月22日，未來生命研究所發布了一封由包括特斯拉首席執行官埃隆·馬斯克和蘋果聯合創始人史蒂夫·沃茲尼亞克在內的數百名科技領袖簽署的公開信，呼吁暫停（或由政府強制暫停）開發比OpenAI新發布的ChatGPT-4更強大的AI系統。

馬斯克目前是世界第二富有的人，在很多方面都是我們這個時代的維克多·弗蘭肯斯坦。這位出生于南非、以夸張著稱的億萬富翁，已經嘗試將整個駕駛過程自動化（但結果喜憂參半），聲稱Boring Company超級高鐵項目發明了一種新的交通方式，宣布打算“用他的SpaceX火箭公司在火星上建立殖民地，保護意識之光”。馬斯克也恰好是OpenAI的聯合創始人（他在2018年收購失敗后從公司董事會辭職）。

馬斯克最喜歡的項目之一是將AI和人類意識結合起來。2020年8月，馬斯克展示了一只在大腦中植入了計算機芯片的豬，以演示其科技初創公司Neuralink開發的所謂“腦機接口”。當這只叫特格魯德的豬吃或聞稻草時，圖表會追蹤它的神經活動。馬斯克說，這項技術可用于治療失憶、焦慮、成癮甚至失明。幾個月后，Neuralink發布了一段視頻，視頻中一只猴子借助植入設備用意念玩電子游戲。

這些特技伴隨著馬斯克一貫的夸大其詞。他希望Neuralink的大腦增強技術能夠開創一個“超人類認知”的時代，其中優化心理功能的計算機芯片將被廣泛使用。他聲稱，植入它們的過程是完全自動化和微創的。每隔幾年，隨著技術的進步，芯片可以被取出換上新型號。然而，這一切都只是假說。

馬斯克試圖創造半機械人，而人類可能很快就會發現自己被機器取代。去年ChatGPT的發布似乎引起了這些前AI布道者的恐慌，導致他們從贊美超級智能機器的好處，轉變為想辦法阻止它們的流氓化。

與向用戶顯示鏈接列表的谷歌搜索引擎不同，ChatGPT可以流暢、連貫地回答問題。最近，我的一位哲學家朋友問ChatGPT“道德哲學中是否存在一種鮮明的女性風格”，并將答案發送給同事。有人發現它“非常人化”。誠然，她寫道：“這是一篇非常陳腐的文章，但至少它清晰、符合語法，并且解決了問題，因此比我們許多學生的文章更好。”

換句話說，ChatGPT通過了圖靈測試，表現出與人類無異的智能行為。這項技術已經成為學術教師的噩夢，它的快速發展表明它的廣泛采用可能會帶來災難性的后果。

那么該做什么呢？未來生命研究所（部分由馬斯克資助）最近的一份政策簡報，提出了幾種管理AI風險的可能方法。它的建議包括強制第三方審計和認證、規范計算能力的獲取、在國家層面創建“有能力的”監管機構、確定AI所造成危害的責任、增加安全研究的資金，以及制定識別和管理AI生成內容的標準。

但在地緣政治沖突和意識形態兩極化不斷升級的時代，阻止新的AI技術武器化似乎不太可能，遑論達成全球標準協議。目前尚不清楚“暫停”在實踐中意味著什么。例如，據報道，馬斯克已經在致力于一家與OpenAI競爭的AI初創公司。我們的當代維克多·弗蘭肯斯坦，是真心希望暫停生成式AI，還是只是在爭奪位置？