警惕“通往極端的狹隘”

嚴傳紅

美國萊斯大學貝勒醫(yī)學院副教授基尼維拉·艾倫在美國科學促進會2019年年會上發(fā)出警告：數(shù)以千計的科學家用來分析數(shù)據(jù)的機器學習技術，正在產(chǎn)生具有誤導性且常常是完全錯誤的結果。這種機器學習系統(tǒng)使用量的激增正在導致一場“科學危機”。

機器學習已被用于研究科學和醫(yī)學數(shù)據(jù)與某些現(xiàn)象之間的關系，如基因與疾病之間的關聯(lián)性等。機器學習一旦發(fā)現(xiàn)病人基因與疾病特征之間存在特定聯(lián)系，研究人員可能就會對相應的發(fā)現(xiàn)提供合理的科學解釋。但在艾倫看來，這并不意味著那些發(fā)現(xiàn)就是正確的。他認為，軟件識別的是只存在于數(shù)據(jù)集中的東西，而非真實世界中的模式。

一項分析表明，在全世界開展的所有生物醫(yī)學研究中，有多達85%的研究都是在白費工夫，20年來這種危機愈演愈烈。之所以會出現(xiàn)這種情況，是因為實驗的設計并不完善，無法確保科學家們不會自欺欺人——只想得到自己想要的結果。按照那位女博士的說法，機器學習系統(tǒng)和大數(shù)據(jù)集群的使用加重了這場危機，因為機器學習算法是專門為在數(shù)據(jù)集群中尋找“有趣”的東西而開發(fā)的，所以當它們在大量的數(shù)據(jù)中進行搜索時，將不可避免地找到一種模式，可這并不能代表科學的真正發(fā)現(xiàn)。

應用一種有缺陷的人工智能技術，居然會導致“科學危機”？這不禁讓人感嘆：在幾乎所有的編碼知識都能夠即刻獲取，且計算機可以解決極其復雜的問題，幫助尋找最合理答案的時候，相較于教授真理、技術和答案，傳授創(chuàng)造力、判斷力和解決問題的能力要困難得多。我覺得，人們很有可能已然變成計算機控制的木偶，被機器的判斷所束縛，乃至思維模式都已被重塑而不自知。近年來，已有多位學者就此問題發(fā)出了警示。

《哈佛商業(yè)評論》原執(zhí)行主編尼古拉斯·卡爾在《淺薄：互聯(lián)網(wǎng)如何毒化了我們的大腦》一書中指出，所有的信息技術都會帶來一種智能倫理。印刷圖書讓我們進入聚精會神的狀態(tài)，從而促進深度思維和創(chuàng)造性思維的發(fā)展。相比之下，融多種不同類型信息于一屏的互聯(lián)網(wǎng)多媒體技術，鼓勵我們蜻蜓點水般地從多種信息來源中廣泛采集碎片化的信息。此時，我們很可能已經(jīng)開始失去其他的思維方式，特別是那些需要持續(xù)的注意力，需要集中精神的思維方式，以及那些需要沉思、反思和內(nèi)省的思維方式。而這種精神層面的改變在教育、創(chuàng)新、文學、藝術，甚至在精神健康方面已經(jīng)產(chǎn)生了很多實際的后果。

美國芝加哥大學教授詹姆斯·A·埃文斯發(fā)表于《科學》上的文章就提醒學者：在以往印刷刊物上的文章紛紛實現(xiàn)數(shù)字化并傳到互聯(lián)網(wǎng)上的過程中，學者們對發(fā)表日期更近的文章的引用頻率呈現(xiàn)出不斷上升的趨勢，可用信息范圍日益加寬。然而，這卻導致了閱讀和引用、科學和學問的日趨狹窄。為什么呢？

按照埃文斯的分析，像搜索引擎這樣的自動化信息過濾工具往往會成為文章聲望的放大器。在什么信息重要，什么信息不重要上，這種過濾工具建立起了一種輿論觀點，然后又持續(xù)不斷地強化這種觀點。此外，跟隨超鏈接一路前行輕松便捷，也導致在網(wǎng)上進行調(diào)查研究的那些人“會跳過很多相關程度不高的文章”。所以，學者們找到由搜索器為我們“規(guī)劃”了排序的“主流觀點”的速度越快，他們“遵從這種觀點，從而導致在更少的篇幅中引用更多內(nèi)容”的可能性就越大。

這又意味著什么呢？按照一位中國學者的解讀，就是不知不覺地把讀者引向了主流觀點，加快了意見統(tǒng)一，使結論和想法變窄。“閱讀內(nèi)容的多樣化遭遇阻礙，這對思想的獨立、開放、創(chuàng)新是不可忽視的威脅。”

韓國學者李焌楨也注意到：互聯(lián)網(wǎng)上片面的信息推送系統(tǒng)會妨礙我們進行其他角度的思考，攔截了可能偶然遇到的多種信息，只是重復加深自己已相信的事實。漸漸地，在我們的生活里就只會出現(xiàn)那些自己期望的信息。當所有的人都只依賴搜索引擎探索信息時，就會有越來越多的人對事物持相同的觀點，而且這種觀點會加速擴散。最終，其他觀點迅速消亡，從而使人們的選擇更狹隘，思維更封閉。

如此下去，可以想見，我們的世界很有可能被數(shù)據(jù)左右，因為對數(shù)字技術的盲目依賴改變了社會變化的形態(tài)，人們的想法會越來越依賴于機器的判斷，進而產(chǎn)生深層的社會影響，讓人們滑入一個自我封閉的陷阱里，就如英國學者彼得·斯科特-摩根所憂心的那樣——“通往極端的狹隘”。