社會性異常算法及其對數字經濟的影響

摘要：違背社會倫理道德和經濟可持續發展理念、具有較大負外部性的算法，對數字經濟文明建設和社會安全穩定構成了日益明顯的挑戰。面對大數據殺熟、智能監工、惡性推薦等具有社會性異常價值傾向的算法產物，法律需要及時介入調整，確保科技倫理、技術正義和法治原則在數字經濟體系中的應有地位。

關鍵詞：算法;數字經濟;影響;法律規制

算法是數字經濟的重要基礎，甚至被認為是智能社會的靈魂掌舵者。也正因此，被社會性異常算法主導的數字化生存體系，將會累積巨大的技術與社會風險，法律需要對其及時關注并有效介入調整，從而維護正常、健康的數字社會秩序。

一、社會性異常算法的概念與表現

算法是企業獲取市場競爭力的一種重要技術工具。在信息時代，算法主要是指信息系統解決問題時所需要遵循的一系列規則、指令和程序，形象地講，就是“機器解決問題”時所依據的一套系統化策略機制或策略集合。社會性異常算法是指看似符合經濟理性人邏輯和計算機運算邏輯，但實際上卻是具有顯著負外部性（即帶來巨大社會成本）甚至社會破壞性的價值失衡型算法。近年來，社會性異常算法在數字營銷、數字服務、數字交易等領域攻城略地、甚囂塵上，對市場的可持續發展和社會穩定造成了嚴重的不良影響。具體表現包括：

（一）大數據殺熟。相關算法根據網絡用戶的消費歷史、收入水平、職業領域、硬件品牌、所在地域等，呈現和推薦不同的產品價格，用低價吸引新客戶消費，用高價榨取老客戶利潤。網店購物、在線旅游訂票、app打車等領域多次暴露這類問題，引發了普遍的社會不滿與擔憂，并引發了消費者、企業和監管部門的博弈“持久戰”。

（二）智能監工。相關算法根據數字追蹤器實時記錄的物流倉儲部門員工從貨架上挑選與打包貨物的速度，判斷員工的工作效率，并在此基礎上生成解雇與否的指令;或者根據電子地圖上的理論距離，嚴格控制外賣騎手的行駛路線與送達時間，并據此生成關于超時罰款的處分結論。“打工者被困在算法里”問題已經成為數字就業領域的巨大困擾。

（三）惡性推薦。相關算法優先呈現向網絡搜索引擎公司繳納了推廣費的醫療診所，全然不顧消費者安全，導致了“莆田系醫院騙錢索命”等一系列惡果;或者根據用戶在線歷史痕跡，反復向用戶推薦相關主題的文章、視頻，向青少年推薦過度娛樂化的不良信息，刻意制造傳播障礙，影響不同群體價值觀的形成，對網絡環境造成破壞。

此外，在網絡文學、網絡影視、網絡銷售、網絡評比等領域，相關算法助長了惡意刷分、虛構播放量、好評與銷售額造假、花錢打榜等破壞市場正當競爭的行為。而許多交不起推廣費用的網店、小微企業、個人創作者，則無法獲得推薦、流量或靠前的排名，其生存和發展受到很大影響。

二、社會性異常算法對數字經濟的影響

算法的作為與不作為現象共存，對數字經濟發展的負面影響日益顯現。從實踐來看，算法涉及消費安全、勞動安全乃至產業安全、社會安全。從理論上看，社會性異常算法在很大程度上已經成為一種半公開半隱秘的社會財富搜集、獲取（奪取）、轉移與積累工具，牽動著社會的敏感神經。因此，它既具有潛在的經濟與政治雙重屬性，又存在明顯的道德風險與法律風險，在風險累積到一定程度后，可能會引發相當規模的社會問題，導致社會矛盾爆發。

（一）破壞數字經濟的社會基礎。社會性異常算法容易導致消費者對數字技術喪失信任、導致勞動者對科技進步產生厭惡，制造消極情緒和不穩定因素，從而使得數字經濟喪失和諧穩定的外部發展環境，陷入基于技術性強迫的社會性緊張之中。

（二）沖擊經濟法律秩序。“算法枷鎖”“每時每刻須勞動”等數字經濟領域的“996”現象，對勞動法、社會保障法等造成了重大沖擊，就業保護、勞動者休息權、公民健康權等制度被“技術性架空”，不利于人力資源可持續養護與開發。

（三）導致數字經濟秩序的控制權轉移。“不講道德者獲利”“投機取巧者勝出”這類經營哲學如果在數字經濟領域大行其道，將催生不計后果的商業逐利沖動和資本擴張風險，不僅使科技偏離善治軌道，更會嚴重侵蝕數字經濟的制度性根基，最終在算法綁架下，數字經濟秩序的實際控制權將可能被完全置于資本手中，而游離于政府監管之外，進而政府在宏觀調控與行政監管領域作用式微、應對數字經濟風險能力降低。

三、法律規制建議

算法的社會性異常在本質上是市場主體對最大化商業利潤的超越道德底線的追求所導致的市場失靈和社會規則破壞，是資本無序擴張的一種技術化了的社會性擠壓效應的表現。算法涉及法律權利與倫理道德，對社會性異常算法的規制實質上是制度、社會、人性和資本的博弈。

（一）將法治思維與制度框架納入算法的底層架構，將“算法正義”作為數字經濟法律制度設計的基本目標與要求。一方面，法律可以成為算法的組成部分，算法不得違反法律的強制性規定（如勞動權益、隱私保護等），也不得違背社會公德、破壞公序良俗。另一方面，法律在數字經濟領域的技術性解釋或具體實施需要依賴正當算法。正當算法是受法律認可或保護的算法，彰顯了“算法正義”。

（二）將性質惡劣或引發嚴重后果的社會性異常算法編制與使用行為納入執法打擊范圍，確保算法在社會心理與秩序可承受的限度內運行。可以逐步將嚴重的算法歧視、算法欺詐認定為違法行為，特別是要涵蓋那些容易引發網絡公共群體事件、嚴重扭曲正常財富分配機制（如過度克減勞動者權益）的算法;將嚴重的算法詐騙（如惡意虛構點擊量騙取巨額廣告費）、算法加害（如強迫外賣騎手從事公路逆行等危險作業活動）認定為犯罪行為。

（三）構建算法互動規制體系，綜合發揮政府監督、技術監督、消費者監督、社會輿論監督等的作用。設立專門政府機構對算法的社會性異常運行活動進行監管，引入人工與智能混合技術對虛擬世界的算法運行情況進行監測預警，建立向消費者開放的算法違法線索在線投訴舉報平臺，動員新聞媒體和公共輿論對算法違規違法問題進行揭露與批判，推動算法在良法善治軌道內運行。

參考文獻：

[1]丁曉東.論算法的法律規制[J].中國社會科學，2020（12）：138-159+203.

[2]鄒舉. 算法歧視法律規制的路徑探析[N]. 中國社會科學報，2020-11-11（003）.

[3]王懷勇.金融科技的算法風險及其法律規制[J].政法論叢，2021（01）：105-116.

作者簡介：

白續輝（1982- ），男，山西興縣人，博士，副研究員，研究方向：數字經濟治理等。

梧州市人民政府發展研究中心? 白續輝