數字化時代算法潛在的社會風險及其應對

程睿文

一、 引言與研究綜述

在現代生活中，算法的應用早已無處不在。在物質產品生產領域，算法通過節約生產過程中所需要的勞動力、改善管理水平、增強對產品質量的控制等方式，不斷提升物質產品的生產效率，最終形成了規模龐大的平臺企業和數字勞動者。在精神產品生產領域，算法支撐下的文化產品批量化生產與分發業已成為當前新聞生產的趨勢。在教育科研領域，關于算法本體的研究方興未艾。在社會治理領域，算法與人工智能不斷嵌入社會治理領域?？箵粜鹿诜窝滓咔榈闹匾淦鳌敖】荡a”“行程卡”背后離不開算法與人工智能的支撐，基于算法提供的數據、信息、判定成為當前社會治理的重要工具。

毋庸置疑，基于算法的現代社會生產方式帶來了許多問題。第一，算法在資本的掌控下淪為剝削與控制勞動者的手段，加強了在勞動過程中對勞動者的剝削程度。第二，資本對生產資料的掌握與控制決定了算法帶來的生產力水平進步，使得勞動者的地位不僅得不到改善，甚至有可能落入更深層次的被剝削。第三，算法作為新興事物，其性質、運行規則和產生的影響尚未完全得到揭示，對其應用的監管存在滯后效應，使得一些公司濫用算法、攫取巨量剩余價值，對社會成員和社會生活運行帶來了嚴重的負面影響。

當前學界對算法與勞動者之間的研究主要集中在以下兩個方向。第一，算法與具體勞動過程。學界通過研究平臺經濟雇傭數字勞動者的勞動過程，揭示勞動者在勞動過程中與算法之間的對抗與矛盾，主要的分析對象是依托于平臺的“新零工勞動者”。孫萍描述了基于平臺“零工經濟”環境下勞動者的勞動情況，指出平臺經濟的主要矛盾是“人的邏輯”和“算法邏輯”的糅合與對抗，數字勞動的“內旋化”現象不應該被忽視，算法深刻影響了勞動關系，需要被重新審視①；謝增毅指出當前數字勞動者缺乏保護，解決該問題的關鍵是認定其勞動者的身份②；林建武剖析了基于算法的平臺經濟對勞動者剝削的手段和掩蓋剝削的方式，指出資本方通過否認勞動關系、彈性化工作時間、將剝削領域從勞動擴展到私有數據等方式，說明勞動者在算法的宰制下不可能實現“自由勞動”。③

第二，算法與資本控制。一些學者認為，數字化時代資本的擴張與控制是資本發展的新形態，資本借助算法的擴張過程值得警惕。周晨曦分析了互聯網平臺形成壟斷的特殊機制，提出數據是平臺壟斷的基礎資源、算法是平臺壟斷的關鍵能力、資本是平臺壟斷的內在線索的觀點，說明了資本如何控制算法實現自己的壟斷地位④；王利利認為，算法對勞動者的剝削實質上還是人對人的剝削，依托于算法和大數據的網約平臺勞動模式的出現和發展，塑造了新的勞動模式，但也使網約勞動遭受著更嚴重的異化，其背后仍然是資本的力量在操縱一切⑤；徐圣龍認為，當前資本底層邏輯逐漸從“野蠻”邏輯、“客觀”邏輯逐漸走向21 世紀的“智慧”邏輯，在最大程度上實現了資本的擴張和支配。面對資本底層邏輯在新時代的變遷，需要充分關注、積極應對，加以批判并最終矯正資本底層邏輯演進的鏈條。⑥

綜上所述，學術界認為，算法在資本的控制下重塑勞動關系、創造了全新的生產方式，同時也加劇了勞動異化。但是算法為什么可以隱秘控制社會成員？算法如何通過掌控消費來掌控勞動？目前學術界還缺乏解答上述問題的研究成果，本文就此試作初步的探索。

二、 異化消費： 資本利用算法進行的消費控制

在資本循環鏈條中，生產的地位逐漸讓步于消費，消費處于主導地位。消費作為資本循環中的最后一環，發揮著讓生產者將產品賣出、收回貨幣、實現資本增值的作用。市場經濟的重要特征是“商品的龐大堆積”，早期資本主義時期生產力水平比較低，如何讓工人生產出更多的產品是資本的首要目標。但是在近現代社會，機械化、工業化、智能化催生了強大的社會生產力，在充分競爭的市場環境中，盡快地將商品在市場中出售是資本的主要目標。塑造“景觀”，制造“偽需求”，是資本對這個問題的解決方案。

（一） 資本利用算法塑造景觀?；笙M者

“景觀”由法國學者居伊·恩斯特·德波提出，在其代表作《景觀社會》的開篇第一段寫道：“在現代生產條件占統治地位的各個社會中，整個社會生活顯示為一種巨大的景觀的積聚。直接經歷過的一切都已經離我們而去，進入了一種表現。”⑦德波所述“景觀”具體為何意？在現代社會中體現在何處場景？張一兵在《居伊·德波景觀批判理論的歷史生成線索》中這樣闡釋：“景觀在今天資產階級世界中的作用，不再局限于經濟活動中的消費控制，還包括流行的生活方式、虛假的知識傳遞，甚至欺詐的政治交往，景觀已經成為資產階級世界人們所有主觀構境和客觀場境存在中相互關聯的‘支配性模式’”。⑧“景觀”在現代社會中無處不在，我們生活中所看到的廣告、社交平臺上展示的生活方式、個人獲得的榮譽與褒獎甚至是批評與貶斥，都是抽象意義上被有意塑造的“景觀”。“景觀”不能被理解為一種由大眾傳播技術制造的視覺欺騙，而是常常呈現為一種甜蜜的無意識的控制。生產生活中的場景與圖像是客觀存在的，并不是所有的場景都是“景觀”。德波指出，在現代社會，物質生產的決定性結構正在轉向影像生產，“景觀”實質上是一種以影像為中介的人與人之間的社會關系。因此，在資本主義社會，如果資產階級想要維持自己的統治，就必須構建出足以維護統治的“景觀”。

“偽需求”是區別于人類真實需求的概念，指的是并非出自于自身需要的需求，而是受到外部力量馴化、渲染而產生的需求。“偽需求”的唯一用處就是滿足資本家賣出產品的需要。在資本的推動下“偽需求”充斥著現代生活，24 小時不停歇的商品廣告告訴我們應當買什么，各種網紅打卡、小資情調成為了許多人追求的生活目標。廣告炫示的生活方式將階級地位與消費能力掛鉤，消費能力強的人是高等階級的人，評判一個人的能力與地位看的是他能花多少錢，而不是他能夠掌握多少生產資料，創造多少財富?！熬坝^”成功地顛倒了社會關系的本質——生產方式決定生活方式，在私有制條件下決定地位的是占有生產資料的多寡而不是消費意愿的強弱。各種炫目的廣告的唯一目的就是讓消費者乖乖掏出手中的貨幣，讓其沉淪在對美好生活的臆想之中。

在“景觀”的構建過程中，算法起到了相當重要且關鍵的作用。隨著互聯網技術的發展和互聯網商業公司的不斷下沉與滲透，信息傳播的主要手段與渠道從中心化的紙質媒介轉變為去中心化的互聯網平臺分發，信息的流轉與傳遞速度遠超從前，中國已有十億網民利用互聯網了解信息。當前利用算法個性化推薦信息流是最主要的傳播方式，大多數用戶在瀏覽互聯網上信息的時候會表露出偏好，其偏好被信息服務公司收集后投入算法，進而推薦給用戶更多符合其喜好的信息。這種推廣有兩個方向，一是清除負面信息，算法通過其高效和自我進化的特征，對商品的負面評價與消息進行收集，利用大數據精準鎖定負面輿情，使用各種手段消滅負面評論。二是掩蓋負面信息，算法如果不能夠通過各種手段消滅負面信息，就會采用大量“機器人/網軍”等工具刷評，用大量信息沖刷負面評論。在以上兩種主要手段作用下，算法達到了控制商品評價的效果，讓商品頁面始終展現出來的是誘人、光鮮、亮麗、完美的一面。⑨因此可以看到，算法控制下的商品信息流呈現“拒斥對話”的特征，這種特征是“景觀”統治社會的主要手段，即將自身表現為一種不容爭辯和不可接近的事物，只有符合資本利益的東西才能夠被顯現出來。資本利用算法塑造的景觀通過對表象的壟斷達到對本真與實質的遮蔽，掩飾商品本身的真實屬性，實現對消費者的控制。

（二） 資本利用算法占據勞動者的非勞動時間

實踐是人的存在方式，按照實踐方式的不同，時間有勞動時間和非勞動時間的區分。人不是勞動的機器，需要時間休養和娛樂，因此一部分非勞動時間轉化成了休息娛樂時間。但是人的需要不局限于此，人們也有自我發展和自我實現的需要，因此一部分時間會轉化為學習的時間，這就是自由時間。自由時間是人的自我發展本質的體現，是人類能夠發展進步的核心動力，同時，自由時間帶來的個人發展能夠更好地提高個人的勞動生產力，獲得更多的自由時間。⑩對于資本來說，勞動者的自由時間增加，將提升其個人在勞資雙方的博弈地位，增強其在面對資本時的議價權，削弱了資本對勞動者的控制能力。時間在物理長度上對每個人來說具有均等性，只是不同實踐方式決定了不同時間的性質，自由時間多，那么勞動時間就少；勞動時間多，自由時間就少。

時間性質由實踐性質所決定，資本如果不想讓勞動者有更多的自由時間，那么會從休閑時間著手。一方面，資本塑造“景觀”侵蝕休閑時間，將休閑時間異化成為勞動時間的附屬。資本將勞動者的休閑時間用大量的廣告和篩選過的信息充滿，在心理上為勞動者創造虛假的生活方式，使勞動者錯誤認為休閑時間中的一些活動能夠給自己帶來效用，從而塑造一個“景觀”，讓消費者心甘情愿為了獲取這個“景觀”而選擇投入更多的勞動時間，使資本家能夠更好地榨取勞動者的剩余勞動。另一方面，資本利用算法實現對用戶興趣的精確捕捉，利用個性化推薦技術吸引勞動者的注意力，通過提供具有吸引力的娛樂項目來誘惑勞動者，使勞動者沉迷在淺薄的文化商品之中，將大量的非勞動時間用作休閑娛樂，而非自我發展與提升，更好地控制勞動者。

除此之外，資本直接利用算法侵入生活，利用消費者的勞動為其改進生產工具。數字勞動，按照廣義的定義可以認定為整個過程依靠線上數據的勞動。以信息技術企業為例，在當前條件下，每個用戶在使用信息技術公司所提供的服務的時候，會產生大量的“元數據”，如購買記錄、地理位置信息、對某些信息的偏好與評論等。這些信息經過數據公司的收集整理成為了其算法的基礎。在這個意義上，消費者的行為創造了數據，其數據對信息技術公司具有使用價值，消費者在不知情的情況下付出了勞動幫助信息技術企業升級了其所有的“生產工具”，但是消費者并未取得相應的報酬。也就是說，消費者在不知情的情況下為信息技術公司付出了無償的勞動，其創造的價值的一部分不僅僅被信息技術公司無償地占有，還被公司用于提升算法這一生產工具的技術水平，消費者在不知不覺中將自己的非勞動時間轉化成為了勞動時間。

三、 信息霸權——資本利用算法進行的思想控制

資本控制下的算法通過三種途徑控制消費者，一是控制媒體與信息傳播途徑，二是精準篩選信息，三是構建信息繭房。

（一） 控制媒體傳播渠道， 掌控信息來源

“景觀”是如何滲透進社會成員的意識領域從而達到控制的目的呢？答案是通過對信息展示播放權力的壟斷而實現的。當前，利用算法個性化推薦信息流是最主要的傳播方式，消費者雖然表面上有無數條觀看和收集信息的渠道，但實際上其無論在什么平臺，都會面臨同樣的境遇，獲取信息的主動權始終被信息服務公司掌握，消費者只有在這家或者哪一家被“景觀”炫示的自由，而沒有拒絕炫示的自由。一旦個人將信息獲取的權限交給了資本，資本就可以利用對信息的壟斷，實現多種途徑的控制。

（二） 審查篩選信息， “飼養” 社會成員

在信息傳播過程中，資本利用算法工具篩選信息，針對性控制信息的性質與數量，在意識與精神領域“飼養”社會成員，進而完成對社會成員的分化與控制。

首先，算法巧妙的安排了什么將要發生、什么不會發生、什么從未發生過，對已經發生了的事情選擇性地播報，將僅僅有利于自己的信息傳遞出去。在互聯網信息爆炸的時代，人對信息的接受能力和注意力是有限的，資本利用大量的信息流沖刷時間線，讓大量的其他信息充斥消費者的視野，真正有意義有價值的信息會被刻意隱藏。在資本構筑的信息平臺中，無論是多么驚爆的信息，只要有一段時間在視野中缺席，都將無聲無息地消失。

其次，篩選信息，“景觀”通過肯定性的表象，將人們錨定于資本在生產與消費中已做出的選擇。換言之，“景觀”通過不斷地向社會成員展示肯定性的判斷來誤導人們做出不真實的選擇，形成這種結構的重要手段是對信息的篩選。算法通過計算機信息系統，對信息的收集、分析、篩選推送具有極其強大的能力，資本利用算法將其愿意展示的圖景高頻推送給受眾，從而強化所要傳達給社會的信息。此外，資本對不想傳播的信息進行清洗，因其控制了信息傳播平臺，其利用算法的強大能力賦予了資本信息霸權，從而實現“不好的信息就是不存在的信息”這一目的。

（三） 標簽人群， 構建信息繭房

算法通過“用戶畫像”技術，為社會成員編制了一間間信息繭房，通過對信息的單向灌輸，讓用戶在消費文化商品過程中無意識地將自己關進“信息繭房”，信息繭房的存在會阻礙突發事件信息的流動，給社會治理帶來不利影響。資本利用算法將社會成員的思想推向極端化，遮蔽其個人的本真，以達到割裂社會的目的。現行的主流軟件利用用戶操作過程中產生的數據作為原料，實現對用戶比較精準的畫像?！靶畔⒗O房”是由用戶和算法共同構成的，每一個人都喜歡接收偏好的信息，在瀏覽信息的時候就會做出篩選。用戶在信息服務軟件上耗費的時間越多，其對資本能夠帶來的商業價值也就越大。在激烈的市場競爭條件下，資本會想盡辦法提升用戶在自己平臺的駐留時間，這一方面能夠為其帶來直接的利潤，一方面能夠侵蝕勞動者的自由時間。因此資本爭先恐后地提升算法的精準性，更好地滿足用戶的需求。在資本的主導和算法的推動下，每個用戶對信息的獲取途徑越來越狹窄，信息繭房由此構建。當個人處在信息繭房中，信息獲取方式的單一會導致其被相似的觀點不斷地沖刷，強化對某一種思想觀念的認知，使其思想逐漸單一化。

算法作為一種新技術，有效地推動了社會生產方式的變革，促進了社會生產力水平的提升，將部分勞動者從繁雜的勞動過程中解放出來，改善了一些人的生活水平。一項先進技術的產生是一段時間社會生產經驗的積累與科學研究發展的產物，具有客觀實在性，其并不具備善惡的性質，即“技術中立”。但是中立僅僅指的是“技術本身”的中立，而不是“技術使用行為”的中立。一項新技術的使用者與推動者終歸是掌握技術的人，算法也是如此。算法被合理地應用能夠促進社會的進步，提升社會的總財富，但是在資本的無序利用下卻不是這樣，其應用過程帶來了勞動異化、貧富差距過大、攫奪社會治理權限等問題。因此，要發揮算法改善人民生活、促進共同富裕的積極作用，對算法的監管與規制必須被納入政策考量。

四、 防范算法風險的路徑

巿場主體在遵從法律和市場規則的前提下，根據市場價格信號，通過技術進步、勞動者素質提高、管理創新，在公平的市場競爭中求生存和求發展，這是比較理想的市場發展狀態。實際上，巿場機制也會由于其自發性、盲目性帶來市場失靈，需要政府這只“有形之手”來發揮作用，加強市場監管，保障公平競爭，促進共同富裕，彌補市場失靈。社會主義市場經濟體制本身具有的體制和制度優勢，要求在市場發揮資源配置中的決定性作用的同時，要更好發揮政府作用，從促進市場充分競爭、促進技術進步等高度，防止資本等要素利用算法無序擴張，防止出現資本壟斷與市場壟斷問題。

（一） 管控資本的無序擴張

由于信息、數據以及技術的壟斷性背后具有潛在的巨額壟斷利潤，往往會誘導和吸引資本無序擴張，不僅導致資本市場和相關生產要素的資源錯配，更導致贏者通吃、加劇貧富兩極分化的不利局面，不利于實現共同富裕。限制資本的無序擴張已經成為影響中國經濟可持續發展的重要問題。要建立健全平臺經濟治理體系，明確規則，劃清底線，加強市場監管，規范市場秩序，促進公平競爭，反對資本壟斷，防止資本野蠻生長。

（二） 規范算法應用范圍

科學技術的進步是現代社會生存發展的基礎，對科學技術進步的追求幾乎成為每個人心中的信仰。但是我們也看到，任何新技術的發展給人們帶來的影響都具有兩面性，人工智能、算法等新技術在經濟社會發展中被廣泛應用，既提高了生產效率、促進了社會生產力的發展，也給普通勞動者帶來了失業風險，降低了普通勞動者的收入水平。算法對于大部分人來說是不可見的，如果被少數群體不受限制地使用，大部分群體就會成為被剝奪的對象，比如證券交易或彩票。算法等新技術既然沒有辦法被大部分人平等地使用，就必須通過制定適當的法律來規范算法的應用范圍，一旦掌握算法者超越法律許可的范圍去應用，則需要付出足夠的代價來補償受損的個人利益或公共利益。

（三） 明確市場競爭規則

一些互聯網平臺企業、金融科技企業，充分運用其自身掌握的算法和信息等優勢，疊加資本要素趨利的盲目流動與無序擴張，容易形成資本與技術、數據等要素有機結合，產生更高級、更復雜、更隱蔽的資本壟斷和市場壟斷。強化反壟斷、深入推進公平競爭政策實施，是完善社會主義市場經濟體制的內在要求。加強反壟斷和反不正當競爭，有利于促進形成公平競爭的市場環境，有利于更好地保護消費者權益。要完善平臺企業、金融科技企業壟斷認定、數據收集使用管理、消費者權益保護等方面的法律規范。要加強規制，提升監管能力，堅決反對壟斷和不正當競爭行為。我國的反壟斷可借鑒一些國際經驗，比如將金融業務從平臺公司中拆分出來，最終目標是在積極支持平臺公司技術創新的同時，加強對平臺經濟不正當競爭行為的監管。

（四） 加強算法知識的大眾化宣傳

群眾被算法捕獲或者說控制，往往是在群眾對算法一無所知的情況下發生的。有關部門應該利用電視、報紙以及互聯網等媒介將算法知識盡可能地向社會群體傳播，讓群眾對算法有一個基本的了解。群眾由此認清自己需要什么、不需要什么，減少被“偽需求、偽休閑”誘惑的程度，讓自己的勞動所得更真實地滿足自己的需求；在面對算法控制下信息流的圍剿之時，主動跳出信息繭房，在自己的非勞動時間中多安排一些自由時間。

注釋：

① 孫萍：《“算法邏輯”下的數字勞動：一項對平臺經濟下外賣送餐員的研究》， 《思想戰線》 2019年第6期。

② 謝增毅：《平臺用工勞動權益保護的立法進路》，《中外法學》2022年第1 期。

③ 林建武：《算法與自由：平臺經濟中的自由勞動是否可能？》，《蘭州學刊》2022年第5 期。

④ 周晨曦：《數據、算法、資本交互作用下的平臺壟斷》，《新聞論壇》2021年第5 期。

⑤ 王利利：《數字時代外賣平臺的算法之手——網約平臺算法技術背后的資本邏輯》，《南京航空航天大學學報》 （社會科學版） 2022年第2 期。

⑥ 徐圣龍：《數字時代資本的底層邏輯：算法剝奪及其矯正》，《毛澤東鄧小平理論研究》2022年第2 期。

⑦ ［法］居伊·德波：《景觀社會》，張新木譯，南京大學出版社2017 版，第3頁。

⑧ 張一兵：《居伊·德波景觀批判理論的歷史生成線索》，《馬克思主義與現實》2020年第4 期。

⑨ 陳昌鳳：《商業性網絡水軍的全鏈條治理》，《人民論壇》2019年第32 期。

⑩ 李大興：《自由時間：人的發展過程中的價值祈向》，《浙江社會科學》2000年第6 期。