深度智能化時代算法認知的倫理與政治審視

文/段偉文

我們正在走向深度智能化時代。所謂深度智能化，不僅意味著對事物的自動化認知和控制，更令人本身成為機器智能運用算法加以認知與操控的對象。在人們驚嘆智能算法強大力量的同時，也帶來了大數(shù)據(jù)殺熟、算法歧視、“智能監(jiān)測”等隱蔽而普遍存在的問題。當前，有關(guān)算法的倫理和法律研究與實踐備受矚目，但大多未能深入探究智能算法這一全新機器控制方式的認知機制，更未看到算法認知對我們生活于其中的無遠弗屆的技術(shù)社會系統(tǒng)的基礎(chǔ)性影響。我們認為對智能算法的研究應(yīng)進一步剖析算法認知過程與認知生態(tài)系統(tǒng)，系統(tǒng)地審視由此導(dǎo)致的倫理與政治結(jié)構(gòu)的嬗變，為深度智能化時代的治理奠定更加扎實和更具前瞻性的理論基礎(chǔ)。

機器真理：從算法的客觀性到算法認知的倫理與政治結(jié)構(gòu)

算法的觀念可以追溯至人類文明早期舉行儀式和解決問題的程序化方法。當前數(shù)據(jù)驅(qū)動的算法認知的觀念源于科學(xué)革命以來現(xiàn)代性建構(gòu)進程中對“計算理性”和“量化社會”的追尋。在科技與經(jīng)濟等主流話語中，算法一般被視為抽象的用于認知和決策的數(shù)學(xué)程序或模型，或可以通過對數(shù)據(jù)的計算與學(xué)習(xí)提取知識和指導(dǎo)行動的技術(shù)。

什么是算法？從語義上講，算法在當代的含義多指一組旨在達成某種預(yù)期的結(jié)果而展開的正式的過程或按步驟進行的程序。在詞源上，一般認為算法一詞來自中世紀波斯學(xué)者花拉子（Al-Khwarizmi）的名字衍生的拉丁詞“algorismus”，意指使用印度—阿拉伯十進制數(shù)字進行四則運算的手動程序——而此前的羅馬數(shù)字只便于做加減法。這便賦予算法以程序化數(shù)學(xué)運算的基本內(nèi)涵，即能夠在有限數(shù)量的步驟中產(chǎn)生問題的答案或解決方案的系統(tǒng)的數(shù)學(xué)程序或捷徑。直到20世紀初，阿拉伯數(shù)字還常被稱為“算法數(shù)字”（the number of algorism），它使工商業(yè)發(fā)展所需要的復(fù)雜的會計活動成為可能。換言之，算法建立在一套能有效地解決問題的編碼系統(tǒng)之上。現(xiàn)代意義上的算法是計算機和數(shù)字技術(shù)的產(chǎn)物，指以計算和信息的方式解決問題的、可通過遞歸等機器自動重復(fù)執(zhí)行的邏輯程序或編碼系統(tǒng)。當前，隨著大數(shù)據(jù)與人工智能的發(fā)展，人們對算法的相關(guān)討論更多聚焦于數(shù)據(jù)驅(qū)動的機器學(xué)習(xí)算法。

實際上，正如法國數(shù)學(xué)家讓-呂克·夏伯特（Jean-Luc Chabert）在《算法史》（1994）一書開篇所指出的那樣，算法自人類文明之初就有，在人們創(chuàng)造一個特殊的詞來描述它們之前就已經(jīng)存在了。在更加凸顯文化的廣義算法觀看來，一旦人們找到了一套解決問題的程序化方法，會很自然地將“配方”傳遞給他人。也就是說，不論十進制四則運算的算法還是二進制計算機的算法，都是古代算法觀念的產(chǎn)物。因此，廣義的算法原本并不局限于數(shù)學(xué)和數(shù)字技術(shù)。在所有文化中，算法都被用于預(yù)測未來，決定著醫(yī)療和美食的配方與步驟，人們曾用它確定法律要點、校正語法。也就是說，與其說數(shù)學(xué)和數(shù)字技術(shù)帶來了算法，毋寧說是算法觀念推動了數(shù)學(xué)和數(shù)字技術(shù)的應(yīng)用。

盡管夏伯特的算法觀更加強調(diào)算法的目的性及其與社會文化的相關(guān)性，但夏伯特的研究太早，沒受到應(yīng)有的關(guān)注。自20余年前谷歌搜索算法通過分析用戶生成內(nèi)容（UGC）開啟這波數(shù)據(jù)驅(qū)動的智能算法應(yīng)用以來，算法在科技和經(jīng)濟等主流話語中主要被視為抽象數(shù)學(xué)程序在數(shù)字技術(shù)前沿的應(yīng)用，這使得基于算法的認知被默認為可以揭示事物的相關(guān)性的客觀的“機器真理”。特別是大數(shù)據(jù)和人工智能的迅猛發(fā)展，使得具有經(jīng)驗主義色彩的數(shù)據(jù)驅(qū)動的智能和算法的認知功能被夸大。其追捧者相信或聲稱，數(shù)據(jù)可以呈現(xiàn)世界的一切，甚至成為比世界更真實、更直接的認知對象，通過智能算法能讓數(shù)據(jù)或原始數(shù)據(jù)說話，從而揭示關(guān)于世界的所有真相與趨勢。

量化社會和算法認知其實是比它所聲稱的客觀認知復(fù)雜得多的社會工程技術(shù)，其中伴隨著知識與權(quán)力的糾纏。它們與其說是基于社會事實的真理發(fā)現(xiàn)，毋寧說是重新安排社會事實的真理的制造，而其目的是使人和社會成為可以調(diào)控的對象和過程。透過志愿獻血、服兵役的年齡限制以及各種自我健康監(jiān)測應(yīng)用程序，就可以看到量化社會和算法認知實際上是一種社會層面的運作，運行其中的國家計算和資本計算等“認知—權(quán)力”形塑著這樣那樣的本體論政治安排，構(gòu)造著負載倫理價值的事實。要獲得對算法認知更深入的認識，就應(yīng)該轉(zhuǎn)向?qū)λ惴ㄕJ知所安排和構(gòu)建的倫理與政治結(jié)構(gòu)的探究。

算法認知正在決定著我們解釋與改變世界和自我的方式。例如，各種智能穿戴和量化自我的應(yīng)用甚至使我們對數(shù)據(jù)的感覺成為我們自身的一部分。但在更多的情況下，算法認知所帶來的是不對稱的倫理與政治結(jié)構(gòu)。有關(guān)亞馬遜土耳其機器人等眾包平臺的幽靈工作以及大量以人類智能彌補機器智能不足之類的研究表明，算法認知實際上是人機共生時代全新的社會分工的統(tǒng)籌機制。由于算法認知將人和機器視為無差別的具有能動性（agency）的能動者（agents），使得傳統(tǒng)的以人類為認知主體的社會嬗變?yōu)榛谌藱C認知組合的認知生態(tài)系統(tǒng)和技術(shù)社會系統(tǒng)。由此，必然地賦予相關(guān)倫理與政治關(guān)系以新的內(nèi)涵，進而決定著深度智能化時代的倫理和政治結(jié)構(gòu)的變遷。

深度智能化時代的算法認知與認知生態(tài)系統(tǒng)

十多年前，當人臉識別技術(shù)還只是小規(guī)模計算機視覺實驗研究時，人們就開始關(guān)注其可能導(dǎo)致的隱私保護和普遍監(jiān)控等倫理、法律和政治問題。如今這項技術(shù)已能從數(shù)百萬張人臉數(shù)據(jù)中學(xué)會解讀微妙的情感暗示，甚至通過人臉識別發(fā)現(xiàn)人們之間是否具有基因關(guān)聯(lián)或是否屬于同一族群。這一典型案例揭示出當前科技發(fā)展與人文應(yīng)對中經(jīng)常遭遇的悖論：在技術(shù)變得更為強大的同時，原有的問題變得更加敏感，倫理規(guī)范和法律法規(guī)的發(fā)展速度跟不上科技創(chuàng)新的加速度。

這一來自現(xiàn)實的挑戰(zhàn)表明，隨著科技的加速創(chuàng)新，必須引入一種全新的思考框架對其加以審視，更具預(yù)見性地探究其對人和社會的深遠影響。我們認為，為了刻畫當代科技對世界和人類帶來的這些全面、深刻而微妙的影響，可以用深度科技化這一動態(tài)的概念對其加以概觀。由此既能凸顯在納米、信息、生命和認知等會聚科技的基礎(chǔ)上發(fā)展出的基因、數(shù)字、神經(jīng)等新興科技的顛覆性社會影響，又有助于從科技未來與人類文明交匯的前沿視野，系統(tǒng)地探討科技所主導(dǎo)的人類世面臨的挑戰(zhàn)與可能的出路。近年來，大數(shù)據(jù)與人工智能迅速地發(fā)展為一種泛在賦能科技，令數(shù)據(jù)和算法所驅(qū)動的深度智能化創(chuàng)新成為深度科技化框架下最具動能同時也最有爭議的發(fā)展面向。因此，應(yīng)在深度智能化的趨勢性框架下展開對算法認知的前瞻性思考。

為了避免將算法認知所帶來的倫理和法律爭議簡化為技術(shù)問題，不應(yīng)僅將算法認知視為技術(shù)黑箱，而應(yīng)視其為復(fù)雜的技術(shù)社會系統(tǒng)，以便揭示由其所引發(fā)的認知生態(tài)和認知權(quán)力結(jié)構(gòu)層面的深刻嬗變。

一是世界的數(shù)據(jù)化與算法認知的生成性。在深度智能化時代，所涉及的智能應(yīng)用主要是由數(shù)據(jù)和算法驅(qū)動的數(shù)字技術(shù)系統(tǒng)所具有的機器智能，其基本形式是基于世界的數(shù)據(jù)化的算法認知。所謂世界的數(shù)據(jù)化，即將事物和人轉(zhuǎn)化為可量化、可計算的非實體的信息流或數(shù)據(jù)流，由此形成的平行數(shù)據(jù)流不僅使數(shù)據(jù)成為世界的第二屬性，而且產(chǎn)生出數(shù)據(jù)孿生，甚至完全用數(shù)據(jù)構(gòu)建虛擬現(xiàn)實和鏡像世界——這也是當下“元宇宙”熱所聲稱的。

在世界的數(shù)據(jù)化或數(shù)字化平臺上，所有的事物和變化都將成為機器可識別的對象，算法認知由此成為一種生成性的力量。隨著算法認知的日益普及，它正在成為新的驗證和識別方式，甚至決定著我們活動的空間、可以遇到的人和事。這使算法正在成為深度智能化時代創(chuàng)造世界的方式，從而呈現(xiàn)為一種關(guān)于世界的價值、假設(shè)和主張的倫理與政治安排。

二是認知生態(tài)系統(tǒng)與算法認知對現(xiàn)實的制造。世界的數(shù)據(jù)化和算法認知的興起，正在使我們星球上的認知生態(tài)系統(tǒng)發(fā)生顛覆性的改變：以算法認知為代表的非意識的人工智能體認知已經(jīng)超越基于人的意識和主體能動性的人類認知。目前，互聯(lián)網(wǎng)、可編程系統(tǒng)、跨越電磁波譜的有線和無線數(shù)據(jù)流等共同構(gòu)成了全球互聯(lián)的認知生態(tài)系統(tǒng)——認知圈，而人類社會正日益嵌入其中。在認知圈中，人類不再是這個系統(tǒng)中唯一的行動者或智能體，人的主體能動性只是具有更廣泛聯(lián)系的一般的能動性組合的一部分，而算法認知等機器認知者日益扮演著至關(guān)重要的角色。

隨著普適計算、大數(shù)據(jù)和人工智能的使用，沿著法國當代哲學(xué)家德勒茲（Gilles Deleuze）的控制社會寓言所揭示的端倪，所謂的“計算制度”和“算法政治”方興未艾。雖然算法認知改變和制造著現(xiàn)實，但人們往往是在沒有覺察到的情況下成為數(shù)據(jù)采集和計算與認知對象的。其中所涉及的算法認知中的主體性、能動性等算法權(quán)力等問題，恰恰是對算法認知的深度倫理與政治審視的切入點。

算法權(quán)力下的預(yù)測機器與智能折疊

從量化社會到算法認知的實現(xiàn)，始終是由權(quán)力所推動的，而其目的一般是為了產(chǎn)生某些方面的知識并采取相應(yīng)的行動，由此提升算法認知者的行動力和智能系統(tǒng)的運作效率。透過以色列軍事司法機構(gòu)運用算法判定危險人物、烏克蘭危機中人臉識別算法被用于鑒別士兵身份等案例不難看到，算法認知不僅伴隨著對世界的重新安排，而且正在成為具有強力色彩和系統(tǒng)滲透性的權(quán)力，甚至可能形成某種智能權(quán)力場域。由此，就產(chǎn)生了預(yù)測機器和智能折疊等深度智能化時代值得關(guān)注的知識—權(quán)力運作現(xiàn)象。

一是基于算法權(quán)力的預(yù)測機器。作為一種新的機器認知與調(diào)控方式，數(shù)據(jù)驅(qū)動的智能算法試圖將世界完全轉(zhuǎn)化為數(shù)據(jù)，繼而通過算法認知實現(xiàn)對世界的自動調(diào)節(jié)。隨著技術(shù)的發(fā)展，這種自動調(diào)節(jié)顯然不再滿足于把握事實和尋求社會動態(tài)平衡，而演進為預(yù)見和控制世界的機器。算法認知不僅分析和調(diào)控著我們當下的行動，而且試圖構(gòu)建一個最符合其目標參數(shù)所刻畫的可能性的未來。但問題是，基于過去的經(jīng)驗數(shù)據(jù)運行的預(yù)測機器，實際上是先通過過去的數(shù)據(jù)將世界和人的恰當表現(xiàn)標準化，然后以此為基礎(chǔ)預(yù)測甚至強行構(gòu)造未來。不論是預(yù)測罪犯會不會再次犯罪，還是根據(jù)數(shù)據(jù)畫像預(yù)測消費者購買某種商品的可能性，算法設(shè)計的前提都是使人的行為模型標準化，從而使其可以預(yù)測和引導(dǎo)。為了做到這一點，無疑需要足夠的數(shù)據(jù)，這便使得對人的行為數(shù)據(jù)的貪婪而持續(xù)監(jiān)測正在成為一種新的技術(shù)社會文化，甚至在有些場景發(fā)展為對人的未來行為預(yù)調(diào)控的過程。

由于預(yù)測算法只根據(jù)相關(guān)性對行為可能性作出評判而不分析其原因，當其預(yù)測到某種可能發(fā)生的風(fēng)險（如某人可能采取反社會行為）時，可能會先發(fā)制人。但如果憑借強大的計算能力，普遍采用這種持續(xù)的和先發(fā)制人的權(quán)力實施方法替代傳統(tǒng)的預(yù)防治理方式，可能會使治理機制僅僅關(guān)注結(jié)果而忽視造成問題的原因，從長遠看可能醞釀更大的社會風(fēng)險。

二是人機認知組合下的智能折疊。綜觀從火神祭祀儀式到基于AI的自動化勞動等算法儀式（algorithmic rituals）的歷史變遷，德國媒介哲學(xué)家帕斯奎內(nèi)利（Matteo Pasquinelli）認為，在人工智能時代，盡管人們傾向于將算法視為抽象的數(shù)學(xué)在具體數(shù)據(jù)上的應(yīng)用，但算法其實源于對空間、時間、勞動和社會關(guān)系加以劃分的世俗需求，是社會物質(zhì)實踐的產(chǎn)物。

從困在算法里的快遞小哥到隱藏在人工智能領(lǐng)域的數(shù)字零工等案例可以看到，算法本身正在成為深度智能化社會的認知生態(tài)系統(tǒng)中的制度安排——所有的人都在人機認知組合中被配置成為特定的數(shù)據(jù)驅(qū)動的智能體，進而構(gòu)成某種智能折疊。對這一點的理解需要深入了解人機認知組合的具體運作過程，才可能找到探討的線索。

人機認知組合下的智能折疊實際上回到了馬克思所討論過的自動機器時代一般智能的問題。在技術(shù)哲學(xué)和媒介哲學(xué)中，經(jīng)典的觀點是技術(shù)或媒介是人的延伸，但算法權(quán)力下的預(yù)測機器與智能折疊似乎意味著人正在成為機器感知的延伸，人們甚至將不得不面對機器役使和社會馴化的雙重命運。

足夠智慧：超越機器役使和社會馴化之道

我們之所以對算法認知展開倫理與政治審視，所真正關(guān)心的是算法認知如何介入人們生活和工作層面的認知與行動。數(shù)據(jù)驅(qū)動的算法認知正在影響著我們怎么看待世界和我們自己、我們可以選擇什么樣的生活、希望自己成為什么樣的人、可以做什么樣的工作等方方面面。面對這一前所未有的挑戰(zhàn)，無疑亟待我們對算法認知所帶來的倫理與政治嬗變作出持續(xù)深入的審視與權(quán)衡，探尋更好地生活于深度智能化時代所必需的足夠的智慧。

首先，在技術(shù)驅(qū)動的深度智能化時代，要學(xué)會運用技術(shù)賦予的權(quán)力構(gòu)造一種可以讓人們能夠共處的生活方式。為此，必須尋求普通人可以接受的倫理與政治安排，在此基礎(chǔ)上形成全新的社會契約。如果未來的社會治理會建立在數(shù)據(jù)驅(qū)動的算法認知之上，至關(guān)重要的前提是如何重新界定數(shù)據(jù)智能和智能監(jiān)測在社會應(yīng)用中的邊界和限度。

其次，鑒于人工智能發(fā)展的開放性，有必要從恰當?shù)募夹g(shù)社會想象入手，系統(tǒng)探討針對人的數(shù)據(jù)分析和算法認知涉及的權(quán)利問題。其中，最為關(guān)鍵的問題是，誰在多大程度上擁有對人的可解讀、可預(yù)測和可推斷的權(quán)利。

最后，要打破技術(shù)解決主義與無摩擦的技術(shù)的隱蔽組合策略。一方面，面對智能科技的社會倫理風(fēng)險，在尋求技術(shù)解決方案的同時，應(yīng)立足技術(shù)社會系統(tǒng)等更為廣闊的維度，追問和消除社會不公、認知權(quán)利不對稱等深層次的肇因。另一方面，要充分揭示算法認知中經(jīng)常運用的“無摩擦技術(shù)”（frictionless technology）和“技術(shù)無意識”等設(shè)計策略，使算法認知以及使其得以運作的力量得以應(yīng)有的揭示，從而促進公眾對科技的社會價值的理解，提升其對科技未來的想象力，使整個社會擁有面向深度智能化時代的生存智慧。