人工智能帶來了恐慌？

石無魚

ChatGPT是由美國人工智能研究公司OpenAI研發的一款聊天機器人程序，它上知天文下知地理，不僅能回答你的各種問題，還能根據上下文進行互動，做到幾乎與真人無異的交流。但是，在GPT-4發布兩周后，美國知名科技企業家埃隆·馬斯克和上千名科技界、商業界人士聯名，發表了一封公開信，呼吁所有人工智能實驗室立即暫停研制比GPT-4更強大的人工智能系統至少6個月。

馬斯克等人寫這封信的意圖不是為了阻止人們進一步研究AI——他們知道沒有人能做到這一點，他們擔憂的只是近期AI研究的突然加速，讓人類面臨的許多風險可能一下子都處于失控狀態，需要留給我們時間去權衡利弊和制定必要的規則。

基于這種認識，該公開信連續拋出了四個問題：我們是否應該讓機器用宣傳和謊言淹沒我們的信息渠道？我們是否應該讓所有的工作自動化，包括那些令人滿意的工作？我們是否應該發展最終可能在數量上超過我們、在智能上超越我們、能夠淘汰并取代我們的非人類思維？我們應該冒著失去對我們文明控制權的風險嗎？

四個問題一個比一個嚴重。概括地說，前兩個問題涉及AI的短期風險，后兩個問題涉及AI的長期風險。

短期風險一：真相被謊言淹沒

2023年3月18日，美國前總統特朗普聲稱自己“下周二就會被逮捕”。雖然這事并未發生，但還真有不少人用基于GPT-4的圖像編繪技術編造了“特朗普被捕”的“照片”，這類有圖有文的報道幾乎到了以假亂真的地步。

我們每個人都不是神，對于遠方或過去發生的事情，要想了解只能聽報道或轉述，至于真假則由自己去判斷。如果語言或文字還不足以讓我們做出判斷，我們還可以求助于圖片、視頻，但除此之外，就沒更多的招數了?？墒乾F在，圖片、視頻也可以合成了；而且借助AI，一個有圖有文的假新聞幾秒內就能炮制出來；雖然有時也會被人揭穿，但足以一時混淆人們的視聽。

更要命的是，大量這類發布在網上的假信息，又會被后人采用（因為時過境遷，后人很難判斷真假），更有甚者，被別的AI采用。如此雪球般地滾下去，不遠的將來，真相將完全被假象淹沒，公眾喪失驗證信息真假的手段。

這樣發展下去，造成的一個嚴重后果是社會的撕裂，即對同一件客觀上發生（或沒發生）的事情，立場不同的人們對于真相再也達不成共識，因為誰也說服不了誰：你有文字？我也有文字！你有圖片？我也有圖片！你有視頻？我也有視頻！

這種前景是非常可怕的。在互聯網時代，當真相被謊言淹沒時，社會也將面臨同樣的風險。

短期風險二：大量工作被AI取代

當AI發展起來，毫無懸念，大量的人類工作將被AI取代。

現在的很多工廠雖然以機器生產為主，但操作還需要人工?？墒窃谖磥恚珹I機器人會取代這一切，無人工廠會成為主流，勞動密集型行業的大量工人將面臨失業。

此外，很多文職工作也將被AI取代，比如律師。AI可以在30秒內做出準確率高達90%的法律顧問工作，而人類律師的準確率也不過70%，且效率遠遠比不上AI。

還有醫生。AI醫生能快速學習所有的醫學知識和臨床經驗，它能在一分鐘內處理分析上千萬個數據病例，從而給出一個準確的診斷，這是人類醫生望塵莫及的。而且智能機器人還可以進行各種高難度手術，其成功率也遠高于人類醫生。

所以，人類的工作被AI取代是全方位的。只有少數特別需要創造力或與人溝通能力的工作才會為人類保留。到那時，我們將何去何從？

短期風險三：黑客

網絡世界的最大威脅是黑客。人類黑客可以通過層出不窮的手段來入侵你的電腦、手機，盜取你的銀行卡密碼、個人信息。黑客還可以入侵能源、交通等公共管理平臺，使其癱瘓、失靈。一些黑客甚至有能力入侵一個國家的武器控制系統。

但比起未來的AI黑客，人類黑客的威脅就小到忽略不計了，因為入侵系統對它們來說根本不是什么難事。

現在的飛機、火車、地鐵都是靠智能平臺調度，正在蓬勃發展中的無人駕駛汽車、人類的金融交易也依賴智能系統。如果這些智能系統被恐怖分子控制的AI黑客攻破，后果不堪設想。

最可怕的還是控制核彈發射的系統被黑客攻破。據聯合國保守統計，全世界的核彈存量有1萬枚以上。它們中的任何一枚都可以將一座城市夷為平地。

長期風險：失控

“失控”的本質在于風險信息與發展速度之間的不對稱。短期風險以及公開信中提到的“人類被邊緣化”，其實都還只是我們已經“看到的危險”。真正致命的風險或許還藏在我們看不到的地方，當它凸顯時，我們可能已經閃避不及。

比如著名的“曲別針制造機”假說。該假說假定一臺人工智能接受指令“制造曲別針”，如果它過于智能，擺脫了人類的控制，就會窮盡地球上所有的資源，不知疲倦地去完成“制造曲別針”這個命令，最終將可用資源罄盡，導致人類、AI自身乃至整個世界的滅亡。

你或許會說，難道我們就不能教會AI“做事要適度”？

很難。人類的一切行為規則，包括“做事要適度”，組成了我們所謂的倫理道德。而人類的倫理道德是經過數百萬年的進化和實踐，與自然反復博弈之后才確立起來的?？墒?，人類的這套行為規則注定是無法用幾行代碼傳達給AI的。當然，也不排除AI經過長期的進化和反復的實踐掌握了人類的這套行為規則。但我們還是需要擔心，在AI習得這套規則之前，人類會不會已經被它們折騰沒了？

道理很簡單，如果AI最終在智能上遠超人類，那么人類必然無權替AI界定它們該怎么行動。倒是很可能反過來，由AI告訴人類該做什么、不該做什么。

AI的發展如果失控，未來人類和AI的關系很可能就是這樣。它們未必會滅絕我們，卻有可能把我們當作寵物來養；人類雖不至于滅亡，但那個世界已經不屬于我們了。

這就是馬斯克等人提議暫停AI研究的根本原因。趁現在還掌握著主動權，抓緊為AI的發展制定規則，確保其研究朝著有利于人類的方向發展，以免有一天失控，我們親手為自己培養出一個掘墓人。

不過，即便現在很多人已經意識到了風險，但或許也為時已晚。因為哪怕一些科技巨頭企業會積極響應馬斯克們的呼吁，暫停AI的研究，但總有一些自私的團體，會繼續偷偷地研究的。最后逼得大家都加入這場玩火自焚的競賽中。

所以馬斯克們最后問的那個問題：“我們應該冒著失去對我們文明控制權的風險嗎？”——可能不是我們想不想的問題，而是已經在失控了。

（摘自《大科技·科學之謎》2023年6月A刊，本刊有刪節，小黑孩圖）