超越人類的科學(xué)

當(dāng)人工智能主導(dǎo)科學(xué)實(shí)踐時，我們或許會發(fā)現(xiàn)研究結(jié)果變得奇怪而難以理解，我們應(yīng)該為此感到擔(dān)心嗎？

我們這個時代的科學(xué)是計算驅(qū)動的。如果沒有模型、模擬、統(tǒng)計分析和數(shù)據(jù)存儲等技術(shù)，我們對于世界的認(rèn)知就會緩慢得多。幾十年來，人類的求知欲在很大程度上借助硅基芯片和軟件得到了滿足。

已故哲學(xué)家保羅·漢弗萊斯（PaulHumphreys）將這個階段的科學(xué)稱為“混合式科學(xué)”，即科學(xué)發(fā)展進(jìn)程中的一部分工作被外包給了計算機(jī)。然而，他認(rèn)為這種情況可能不會再持續(xù)很久。早在十多年前，遠(yuǎn)早于生成式人工智能興起之前，漢弗萊斯就有遠(yuǎn)見地意識到，人類主導(dǎo)科學(xué)進(jìn)程的時間已屈指可數(shù)。他設(shè)想了一個更進(jìn)一步的發(fā)展階段，并稱之為“自動化科學(xué)”，即計算機(jī)將全面接管科學(xué)工作。屆時，計算機(jī)在科學(xué)推理、數(shù)據(jù)處理、建模和理論構(gòu)建方面的能力將遠(yuǎn)遠(yuǎn)超過人類，以至于人類不再是不可或缺的。機(jī)器將繼續(xù)推進(jìn)我們所開創(chuàng)的科學(xué)事業(yè)，并把我們的理論帶向全新的、不可預(yù)見的高度。

一些資料顯示，人類在知識獲取上的主導(dǎo)地位即將終結(jié)。最近一項(xiàng)針對人工智能研究人員的調(diào)查顯示，未來一百年內(nèi)，人工智能有 50% 的可能性取代人類而從事所有工作（即便有些崗位我們更傾向于保留給人類自己，比如陪審員）。也許你對這樣的未來是否會成真或何時成真持有不同看法，但我希望你能暫時擱置這些成見，設(shè)想一下超級人工智能最終確實(shí)可能出現(xiàn)的情景。這將意味著我們可以把科學(xué)工作交給那些認(rèn)知能力優(yōu)于我們的新生代們，而它們將以我們難以想象的速度和效率完成這項(xiàng)工作。

這無疑將是一個陌生的世界。一方面，人工智能可能會探索人類科學(xué)家此前從未關(guān)注或缺乏動力去研究的領(lǐng)域，從而開辟全新的發(fā)現(xiàn)路徑。它們甚至可能獲得超出人類理解范圍的知識。那么，這會將人類置于何處？人類又該如何應(yīng)對？我認(rèn)為，我們現(xiàn)在就需要開始思考這些問題，因?yàn)橛貌涣藥资辏覀兪熘目茖W(xué)就可能發(fā)生根本性的轉(zhuǎn)變。

盡管這聽起來像是科幻小說里的內(nèi)容，但漢弗萊斯所說的“自動化科學(xué)”其實(shí)是人類科學(xué)發(fā)展長期趨勢中的又進(jìn)一步。人類從未真正獨(dú)立完成過科學(xué)工作，我們一直依賴工具拓展觀察世界的能力，比如顯微鏡、望遠(yuǎn)鏡、標(biāo)準(zhǔn)尺和燒杯等等。許多自然現(xiàn)象，如果沒有借助溫度計、蓋革計數(shù)器、示波器、熱量儀等儀器，我們是無法直接或精確地觀測到的。

當(dāng)人工智能的貢獻(xiàn)開始以“數(shù)億年”來衡量時，人類就仿佛成了那個小組項(xiàng)目中最拖后腿的一員

計算機(jī)的引入，代表著人類在科學(xué)領(lǐng)域地位的進(jìn)一步邊緣化，也就是漢弗萊斯所說的“混合式科學(xué)”階段。瑪戈特·謝特利（MargotShetterly）所著的《隱藏人物》（HiddenFigures，2016）一書（以及后來改編的電影）中有一個突出的例子：美國最初的太空飛行任務(wù)需要由包括凱瑟琳·約翰遜（KatherineJohnson）在內(nèi)的人類數(shù)學(xué)家們進(jìn)行計算工作，而在不到十年后的美國登月任務(wù)中，大部分計算任務(wù)已交由計算機(jī)執(zhí)行。

隨后幾十年里，計算機(jī)的處理能力與運(yùn)算能力呈指數(shù)級增長，而計算的成本卻大幅下降。現(xiàn)如今，我們似乎已經(jīng)進(jìn)入了一個更高維度的“混合式科學(xué)”階段，對計算系統(tǒng)的依賴程度前所未有。例如，哲學(xué)家瑪格麗特·莫里森（MargaretMorrison）指出，計算模擬對于希格斯玻色子的發(fā)現(xiàn)至關(guān)重要，它幫助科學(xué)家識別目標(biāo)信號，并從高能粒子碰撞中篩選出有用數(shù)據(jù)。

現(xiàn)在，人工智能已經(jīng)開始深刻影響科學(xué)發(fā)展。例如，AlphaFold是一款基于蛋白質(zhì)的化學(xué)組成，幫助預(yù)測蛋白質(zhì)折疊結(jié)構(gòu)的人工智能系統(tǒng)。雖然人類也能獨(dú)立于計算機(jī)完成這項(xiàng)任務(wù)，但過程費(fèi)時費(fèi)力且成本高昂。AlphaFold的開發(fā)者谷歌DeepMind公司稱，該系統(tǒng)幫助科學(xué)節(jié)省了“數(shù)億年的科研時間”。類似的好處也出現(xiàn)在多個領(lǐng)域：天文學(xué)與基因組學(xué)的大數(shù)據(jù)分析、數(shù)學(xué)新定理的證明、天氣預(yù)報、新藥研發(fā)等等。

當(dāng)人工智能的貢獻(xiàn)開始以“數(shù)億年”來衡量時，人類就仿佛成了那個小組項(xiàng)目中最拖后腿的一員。我們不禁發(fā)問，人類是否已經(jīng)進(jìn)入了“自動化科學(xué)”的時代？然而，答案是否定的。目前，人類在科學(xué)中的作用仍然關(guān)鍵，我們提出問題、解讀結(jié)果，并最終決定科學(xué)發(fā)展的方向。

如果沿著漢弗萊斯的思路繼續(xù)推演，人類徹底讓出知識王座的時刻，將在更遠(yuǎn)的未來到來。到那時，超級人工智能不僅能夠完成人類所設(shè)定的任務(wù)（這是對“混合式科學(xué)”階段的延續(xù)），還將具備自主設(shè)定任務(wù)的能力一它們會自己確定課題、收集數(shù)據(jù)、建立模型、發(fā)展理論，按照它們自身的價值判斷建立屬于它們的科學(xué)體系。

至此，我們有必要稍作停頓，去想象一個超級人工智能所特有的、不受人類生理和認(rèn)知局限限制的廣闊可能性。許多科學(xué)研究工作之所以從未被嘗試，并非因?yàn)樗鼈冊诶碚撋喜豢尚校且驗(yàn)槿狈Y金支持或是人類的興趣不足。舉個例子，當(dāng)我寫下這段文字時，正看著院子里一片部分腐爛的葉子。也許一個超級人工智能會對建立一種預(yù)測模型感興趣，這種模型能精確到秒地解釋任意一片葉子的腐敗過程與速率，具體結(jié)果取決于樹種差異、葉型大小、微生物接觸歷史、是否具備陽光與水分等多種變量。這個問題雖然極其復(fù)雜，但對人類而言，似乎并無明顯價值。又或者，也許會有一個超級人工智能能夠構(gòu)建模型，并精確地預(yù)測出他放在山中的雪球中的水分子何時會隨河流流經(jīng)我家。這樣的精準(zhǔn)預(yù)測需要對流域系統(tǒng)、流體動力學(xué)、氣候條件等進(jìn)行極端復(fù)雜的建模。

我們?nèi)祟惒⒎菬o法解答這些問題。我相信只要投入足夠的精力和資源，科學(xué)家完全有可能開發(fā)出有效的預(yù)測模型來研究這些深奧的現(xiàn)象。但現(xiàn)實(shí)是，我們不會這么做。科學(xué)的發(fā)展從來就不是純粹理性的過程，它深受各種人為因素的影響，例如經(jīng)濟(jì)價值、政治優(yōu)先級、職業(yè)前景、文化趨勢以及各種偏見與信念。試想一下，如果這些“包袱”都能被拋棄，科學(xué)會變成什么樣？

“自動化科學(xué)”不僅使我們得以高效地探索那些我們曾經(jīng)無法或不愿涉足的研究領(lǐng)域，還有可能徹底打破人類已有的理論范式。盡管人工智能最初可能會沿用人類的理論框架，但它們沒有義務(wù)一直這樣做，它們可能會很快轉(zhuǎn)向全新的世界觀。同樣地，盡管它們可能使用人類熟悉的數(shù)學(xué)語言和符號，但它們也不必受這些慣例的限制，完全有可能發(fā)展出全新的數(shù)學(xué)體系和表達(dá)方式。

考慮到人工智能很可能會迅速擺脫人類的認(rèn)知包袱，我們可以借用維特根斯坦（LudwigWittgenstein）的觀點(diǎn)看待這一未來，把“自動化科學(xué)”場景看作人工智能開始說話并發(fā)展出獨(dú)立的新科學(xué)語言的階段。維特根斯坦在《哲學(xué)研究》（PhilosophicalInvestigations，1953）中有一句名言，“如果一頭獅子能說話，我們也無法理解它”。這句話看似矛盾，實(shí)則揭示了語言的意義深深植根于說話者的內(nèi)在經(jīng)驗(yàn)之中。科學(xué)也是如此。當(dāng)超級人工智能開始自主設(shè)定并執(zhí)行研究流程時，它們的科研成果對我們來說，將變得晦澀而無法理解，因?yàn)槲覀內(nèi)狈Ρ匾膬?nèi)在視角把握它們的科學(xué)邏輯。對于我們而言，那是一種“目標(biāo)不明”的科學(xué)、“目的不清”的研究、“解讀方式未知”的知識體系。

我們必須承認(rèn)，人類的認(rèn)知能力可能是有限的。有些數(shù)學(xué)概念我們永遠(yuǎn)無法理解，有些多維世界的現(xiàn)象超出了我們?nèi)S體驗(yàn)的范疇。正如其他動物也有認(rèn)知邊界一樣（哪怕是最聰明的黑猩猩也無法理解相對論），人類也可能存在類似的智力上限，我們無法掌握那些過于復(fù)雜艱澀的思想。即便我們并不受限于先天認(rèn)知能力，那也存在一個問題，即在實(shí)踐中超級人工智能的推理過程也可能遠(yuǎn)遠(yuǎn)超出我們的理解范圍。例如，要理解“自動化科學(xué)”的成果，可能需要同時處理上百個復(fù)雜模型，每個模型都有上百個參數(shù)，而這些參數(shù)彼此聯(lián)系的方式與任何熟知的人類概念都毫無關(guān)聯(lián)。即便我們能單獨(dú)理解其中某些參數(shù)或模型，也很難將它們?nèi)空显谝黄稹?/p>

如果你對科技、人工智能和“奇點(diǎn)”持不同態(tài)度，上述情景可能會讓你感到沮喪，抑或者會讓你充滿希望。于我而言，它更像是一幅陌生圖景。如果“全自動化科學(xué)”的成果已經(jīng)超出了我們的理解范圍，我們?yōu)楹芜€要投入資金和智力去推動它的到來？盡管常有人以“不管我們喜歡與否，未來無論如何都會來”為由來回避這個問題，但我認(rèn)為，在我們主動放棄科學(xué)認(rèn)知主導(dǎo)權(quán)之前，有必要認(rèn)真思考我們有何理由走向這個未來。

其中一個可能的理由是，我們相信隨之而來的是積極進(jìn)步。也許超級人工智能偶爾會創(chuàng)造出一些東西，譬如新技術(shù)、新資源或是新的問題解決方式。由于我在前文中已經(jīng)做了大量預(yù)測，所以我對這些新發(fā)展究竟意味著什么持有開放態(tài)度，這里只是想指出，人工智能可能會偶爾地給予人類一些它們認(rèn)為對人類有價值的東西。屆時，人類工程師（如果還有人未被人工智能取代的話）可以接手這些技術(shù)并加以應(yīng)用，即使他們并不完全理解其中的原理。這類似于我雖然不懂顯示器或文字處理器如何生成和顯示文檔，但我仍然可以用它寫這篇文章。這項(xiàng)工作將不再像今天的科學(xué)與工程那樣依賴人的系統(tǒng)性理解，而是類似某種原始發(fā)現(xiàn)，譬如古人偶然發(fā)現(xiàn)藤蔓可用于捆綁樹枝、搭建庇護(hù)所；或是在世界上偶然發(fā)現(xiàn)某種資源或物質(zhì)，譬如無意間發(fā)現(xiàn)了煤炭或青霉素等等。此外，也許會出現(xiàn)其他類型的科學(xué)，即我們試圖逆向解析人工智能贈予我們的成果，借此提升人類自身對于世界的理解與認(rèn)知。這是一種回溯式的科學(xué)實(shí)踐，是對超級人工智能的“饋贈”進(jìn)行再加工與再理解。

推動超級人工智能主導(dǎo)科學(xué)實(shí)踐的另一個動機(jī)，可能來自審美層面。對我個人而言，在思考我們社會為何要資助科學(xué)研究時，審美本身就是一個具有強(qiáng)大的驅(qū)動力的因素。雖然我沒有時間也沒有能力去理解所有的科學(xué)知識（誰又能做到呢？），但我仍覺得他們的求知渴望是一件美好且值得支持的事。即使這些研究并不一定直接影響我的生活或世界觀，但是知道這個世界正在被認(rèn)知、被研究、被理解，這種想法本身就令人愉悅。那么，這種美感是否也能延伸到非人類的科學(xué)家身上呢？這也許不是立刻就能實(shí)現(xiàn)的。然而，未來那些與人工智能共存的人類后代們或許會將這個超越人類理解的社會視為理想社會。

當(dāng)然，人類也可能出于自身的善意，從而推動“自動化科學(xué)”的發(fā)展，也許我們認(rèn)為讓超級人工智能去發(fā)展它們自己的高階科學(xué)是件好事。盡管我們會因?yàn)槿斯ぶ悄苷莆樟宋覀儫o法理解的知識而感到困擾，甚至不安，但我們?nèi)钥赡艹鲇诘赖仑?zé)任或?qū)Α叭嗽旌蟠钡纳埔舛^續(xù)推進(jìn)這一進(jìn)程。

還有其他動機(jī)可能會意外導(dǎo)向“自動化科學(xué)”的結(jié)果。比如說，我們或許認(rèn)為向宇宙?zhèn)鞑ブ腔凼侨祟惖牡赖铝x務(wù)或責(zé)任使命。如果這些智慧恰好在星際旅途中選擇了“自動化科學(xué)”，那就順其自然吧。

同樣地，我們也有很多理由選擇不去推動“自動化科學(xué)”。例如，超級人工智能發(fā)現(xiàn)并傳授給我們的知識，可能會催生新的可怕的武器；又或是我們擔(dān)心，人工智能的內(nèi)部自主性與缺乏監(jiān)管機(jī)制，可能會增加末日災(zāi)難發(fā)生的風(fēng)險，如人類被奴役或滅絕；再或者，我們只是擔(dān)憂某些人工智能可能會表現(xiàn)出令人不安的人類式傲慢，在危險的、不道德的或違背人類價值觀的方式下進(jìn)行實(shí)驗(yàn)。

盡管存在這些擔(dān)憂，但如果技術(shù)上可行，我們恐怕很難阻止“自動化科學(xué)”時代的到來。可以說，最有可能導(dǎo)致“自動化科學(xué)”出現(xiàn)的原因，并非深思熟慮后的決定，而是資本和競爭的力量使然。我們可能會在毫無準(zhǔn)備的情況下進(jìn)入這個階段，僅僅是由于我們“有能力”這么做，或是因?yàn)橛腥讼氲谝粋€把它造出來。無論我們是否真正想要這樣的未來，它都可能會降臨。

細(xì)心的讀者會注意到，在列舉的關(guān)于推動“自動化科學(xué)”的動機(jī)中，有一些關(guān)鍵的“原因”被忽略了，那就是我們今天從事科學(xué)的初衷：渴望增進(jìn)對世界的理解、提供對自然現(xiàn)象更有力的解釋、獲得更強(qiáng)的干預(yù)自然的能力。而這些恰恰不能成為推動“自動化科學(xué)”的理由，因?yàn)樗举|(zhì)上排除了“自動化科學(xué)”將從人類手中奪走認(rèn)知權(quán)的王座使得我們無法真正理解那些復(fù)雜到超出我們認(rèn)知范疇的新發(fā)現(xiàn)

人類參與科學(xué)實(shí)踐的可能性。“自動化科學(xué)”將從人類手中奪走認(rèn)知權(quán)的王座，使得我們無法真正理解那些復(fù)雜到超出我們認(rèn)知范疇的新發(fā)現(xiàn)。因此，它并不能滿足我們對理解、解釋、知識或控制的渴望。也許隨著時間的推移，我們可以學(xué)會放棄這些欲望，變成一個不再好奇、不再追問的物種。但我認(rèn)為，就像未來總會到來一樣，無論我們是否喜歡這些欲望，它們也會不可避免地與我們共存。

那么，我們?nèi)祟愒摵稳ズ螐模吭谧畛跆岢觥白詣踊茖W(xué)”設(shè)想時，漢弗萊斯曾大膽預(yù)測它將取代人類科學(xué)，而我并不同意這一觀點(diǎn)。只要人類仍然保有對理解、解釋、知識與掌控的渴望，我們就無法停正行動，也就不會停正從事科學(xué)研究。我們?nèi)祟悇?chuàng)造美，追求友情與愛情，努力在生活中尋找意義與建構(gòu)意義。同樣的道理也適用于我們追求科學(xué)的動機(jī)，我們注定會帶著好奇心去探索、解釋我們身處的自然世界。

如果“自動化科學(xué)”真的到來，它應(yīng)該是一條全新的、可替代的、次要的發(fā)展路徑，并非取代人類科學(xué)，而是作為人類科學(xué)的補(bǔ)充。人類科學(xué)與“自動化科學(xué)”是兩種研究范式，以不同的動機(jī)、興趣、框架和理論，并肩作戰(zhàn)，共同展開科學(xué)探索。也許有些領(lǐng)域，人工智能根本就不感興趣，就比如人類對自身心智、選擇、關(guān)系和健康的探索。

的確，如果我們還想保持人性（我也只能希望如此），我們就必須繼續(xù)從事科學(xué)。如果我們不再是那個追尋美、建立友情、建構(gòu)意義、對一切充滿好奇的物種，我們又到底是什么呢？也許是我的想象力有限，無法想象人類徹底放棄這些基本欲望的未來是什么樣的。當(dāng)然，也有許多超人類主義者持不同觀點(diǎn)。但我并不認(rèn)為堅持看到美、愛、意義與科學(xué)中的善，是一種缺乏創(chuàng)造力的表現(xiàn)。恰恰相反，我偏偏是在無望的好奇心中，保有對人類未來的絲絲希望。

資料來源Aeon