如何防止人工智能浩劫

一年多前，總部位于舊金山的OpenAI發布了聊天機器人ChatGPT，引發了人工智能淘金熱，重新激起了關于自動化對人類福利影響的古老爭論。

對于被機器取代的恐懼，可以追溯到19世紀的工業革命，當時一群被稱為盧德分子的英國手搖織機織工，摧毀了威脅他們生計的動力織機。該運動在1811年至1817年間達到頂峰，最終被政府軍鎮壓，領導人被處決或流放澳大利亞。

但盧德分子的論點，找到了一個意想不到的擁護者—著名經濟學家大衛·李嘉圖。他在1817年出版的《政治經濟學和稅收原理》中指出：“勞動階級所秉持的觀點，即機器的使用往往損害他們的利益，并非建立在偏見和錯誤的基礎上，而是符合政治經濟學的正確原則。”

現代盧德分子強調自動化的弊端，尤其是破壞生計和社區的“潛力”。他們認為，收入和權力的平等分配，對于獲得技術進步的長期利益至關重要。一些技術悲觀主義者認為，像人工智能這樣的新興技術創造的新就業機會太少，將導致貧困和“技術失業”加劇。

生成式人工智能的興起和通用人工智能的到來，加劇了技術樂觀主義者和技術懷疑論者之間的爭論。例如，在醫療保健領域，科技噱頭層出不窮：人工智能有望改善診斷，推動遠程醫療，帶來更有效的藥物，減輕醫生和護士的行政負擔從而為患者護理留出更多時間。

這似乎反映了主流專家的普遍觀點，即生成式人工智能將擴展，而不是取代人類的工作。通過自動化日常任務，它有望解放人類，讓他們從事更具創造性的工作。平心而論，這種轉變將需要終身學習，繼續教育不僅成為參與就業市場的條件，還將成為獲得越來越多的在線服務的條件。

目前，人們的擔憂對象已經從自動化導致失業，轉向了超級智能流氓化的前景。谷歌前首席執行官埃里克·施密特最近表示，目前的人工智能模型仍然“處于人類控制之下”，但存在著真正的風險，即發展出“遞歸自我改進”的能力，獲得自主權，并開始“設定自己的目標”。他警告說，最終，“計算機集群”可能會演變成一個能夠獨立行動的“真正超越人的專家”。

越來越多的聲音，呼吁人工智能的發展與人類目標和價值觀保持一致。有兩種方法可以實現此目的。首先是限制可能有害的人工智能產品的供應和銷售。歐洲和其他地方的政策制定者，試圖通過對自動駕駛汽車和面部識別等新興技術實施嚴格監管，來做到這一點。這種方法的一個明顯問題是，在道德相對主義是常態的世界里，很難就什么構成傷害達成共識。由于越來越不清楚誰“擁有”被認為是有害的內容，因此幾乎不可能追究賣家或提供者的責任。此外，規范技術使用的嘗試往往來得太晚。

第二種方法是完全限制潛在危險產品的開發。但抑制需求比限制供應更復雜，尤其是在現代社會中。

不可避免的結論是，僅僅監管人工智能是不夠的。但是，通過將新盧德主義和再分配等概念引入公共辯論，我們可以擴展減輕這些新興技術構成的威脅所需的政治和知識詞匯。例如，一個新盧德分子可能會問：為什么富裕社會已經生產了足以讓其公民過上舒適生活的產品，但仍然專注于最大化GDP增長？一個答案可能是，缺乏能夠確保生產力和效率提高的好處得到廣泛分享的公平的財富和收入分配機制。

另一種解釋是，在當今政治經濟學中，“技術創新”往往是一種委婉的說法，表示富人和有權勢的人能夠將資本從工業轉移到金融領域，從而壟斷自動化的好處，使其他人陷入困境。

羅伯特·斯基德爾斯基是英國上議院議員、華威大學政治經濟學榮譽教授。本文已獲Project Syndicate授權。