從法理學角度探討人工智能算法危機

陳欣欣

沈陽工業大學文法學院，遼寧 沈陽 110870

人工智能算法以迅雷不及掩耳之勢進入到人們的生活中，在不知不覺中，已經成了我們生活中難以離開的“必需品”。隨著大數據、互聯網、云計算等技術的發展，人工智能算法在社會中的運用越來越普遍，與人們的生活愈加密不可分。但是人工智能算法在給我們帶來便利的同時，也存在一定的自身局限性，對個人及社會的發展產生一定的不利影響。本文將著重對人工智能算法的局限性及其可能產生的對個人的不利影響和社會危機進行法理學上的探討。

一、人工智能算法自身局限性

人工智能算法自身的局限性是指由人工智能算法技術特性，或者說其內在運行邏輯而先天具有的局限性。它客觀存在，并不以人的意志為轉移。本文主要從算法的“機器性”及導向偏見性兩個方面闡述人工智能算法的自身局限。

（一）人工智能算法的“機器性”

“人工智能”這個詞匯的出現可以追溯到20世紀50年代，將“讓機器達到這樣的行為，即與人類做同樣的行為”稱為人工智能。依據人工智能的發展程度，可以將之分為弱人工智能和強人工智能兩個不同的階段。在弱人工智能階段，人工智能更多地作為一種工具，盡管被稱為“與人類做同樣的行為”，但其并沒有自主學習能力，只是機械化地執行人類輸入的指令。而在假設中的強人工智能階段，現存的人工智能技術尚未能夠達到機器如人的程度。總體而言，現在的人工智能技術雖然能夠在一定程度上進行自主的機器學習，但仍處于弱人工智能階段。

人工智能算法是當代人工智能技術在傳統算法上的應用，具有人工智能傳統算法的固有特征。人工智能算法在運行中以大數據為基礎，以其內在的嵌入算法為手段進行結果輸出。從現階段來看，人工智能算法的運用還在相對基礎的機器學習階段，盡管已被稱為“智能”，但究其根本，仍然無法脫離人的管理和運用，算力的介入程度尚不足以改變人力控制的基本格局。盡管伴隨著技術的發展，人工智能算法因其“智能性”與傳統算法具有了相當大的區別。人工智能算法已進入深度機器學習階段，可以在一定程度上進行自主的機器學習，但就目前的人工智能技術而言，仍是更偏向于其作為算法工具的方面，難以實現脫離人力的控制，更難以進化出人的自由意志和情感。

（二）人工智能算法導向偏見性

人工智能算法產生的結果是具有一定的導向性的。當人工智能算法計算出各種個人將來可能的行為或者習慣，基于對于大數據的依賴或者信任，就會給人們一種應該是這樣做的印象，變相地引導數據權主體將來的行為。即便數據是客觀的，但數據產生的信息也是具有導向性的。這樣的導向偏見性削弱了人們“哪怕遇見反對，也能貫徹自己意志的機會”。[1]

另外，筆者認為，人性是復雜的、是帶有感性的，并非能夠借助純粹的、冰冷的數據能夠簡單地衡量。人或許不會時刻表示出善意，或許借助冰冷的人工智能算法去推斷人的行為會得出冷漠的結果，但那只是人在平常狀態下表現出的一個側面，并非全部人性的反映。

人工智能算法的導向偏見還表現在會產生劣勢累積。上一輪算法的運算結果會成為新一輪算法運算的起始數據，一旦算法數據信息主體在某一方面具有“污名化”[2]的相關信息，就會在后續的人工智能運算中不斷地重復計入，致使數據權主體在某一方面的行為可能影響到并不應當受到影響的社會生活中的其他方方面面，不斷地放大已有的社會偏見。

二、人工智能算法對人的不利影響

從法理學的角度出發，人工智能算法改變了傳統社會中人們的行為方式、選擇方式甚至是思維方式等，直接對個人權利和意志自由產生影響，可能對個人的權利和意志自由造成侵犯。本文從個人權利和意志自由兩個方面探討人工智能算法可能產生的危機。

（一）侵犯個人權利

1．人工智能算法對用戶行為的助推。正如在超市中，一些特價商品等會放在顯眼的位置，使進入超市的人們能夠在進入購物區域的時候，以最方便的姿態看到，從而增加顧客選購的幾率。人工智能算法亦有同樣的工作機理，平臺對用戶進行個性化的廣告定制，將依據人工智能算法不斷演算而來的個人偏好作為“二次售賣”的標的，將之出售給商家進行廣告的投放從而營利。

2．人工智能算法運用，相當于為原本平等的法律主體一方加上了更多的信息資源等便利，這無疑會對法律關系中的另一方的平等權造成侵犯。在傳統法治環境中，人與人之間交流的基礎是平等關系。人工智能算法的運用在事實上產生了一種算法權力，這種算法權力的產生會造成傳統法治環境中原本平等的法律關系在事實上具有不平等性。

3．人工智能算法算力的基礎是大數據，對于大數據的收集、整理和結果運用都可能對個人的隱私權造成侵犯。人工智能算法建立在大數據運算的基礎之上，不可避免地要對個人的信息進行收集。算法數據權主體的一些基本信息，包括各種有意的行為，甚至無意的習慣，都可能會被算法吸收，加入計算的行列。這種人工智能算法的運用，致使原本暴露在社會中的無意義的行為，經過數據分析和規律總結，定性人在過去、現在、未來的行為和習慣，進一步侵犯人的隱私權。

（二）侵犯個人意志自由

人工智能算法的廣泛運用會產生對個人意志自由的侵犯。人工智能算法會通過各種方式對人的意志自由進行說服，從而達到更大盈利的目的；會使人受困于信息繭房，侵犯個人獲取信息的通道，進而侵犯個人的意志自由，甚至使人的身心健康受到不良影響；會弱化人的思考能力，使人的個人意志的獨立性受到侵害。

1．人工智能算法對人的說服。通過對使用者行為的方式、習慣等不斷地推演計算，以獎賞或者懲罰或者其他方式對人的行為進行規訓，確保用戶行為能夠更加符合自身利益。例如，在有的購物平臺，會在用戶長期不購買商品的時候給予紅包或者優惠券等，促使用戶進行購物；會對退貨率高的用戶，提高運費險的購買費用等，從而對用戶的行為進行規訓，達到更佳的營利目的。

2．強大的計算和信息推送功能，給人們帶來方便的同時，也使人受困于信息繭房，對人的身心健康產生不良影響。一旦用戶搜索過某種信息，就不斷為其推送相關信息。現在諸多短視頻平臺、購物平臺、社交平臺等，為了提高效率、達到為了更有效營利以及服務用戶等目的，都會運用算法精準推送。用戶搜索過的信息、瀏覽過的廣告等都會成為人工智能運算的素材，會在接下來的用戶使用中不斷推送。在有些情況下，即便用戶搜索過的是不良信息，甚至違法信息，大數據也并不就此做出識別，繼續為用戶提供相關信息。或許人們去搜索某種信息只是出于獵奇心理，或者只是為了了解某方面的東西，但人工智能算法并沒有價值導向，只會在歷史上出現過關鍵詞的情況下，不斷地繼續推送相關信息，即便是具有不良引導性的甚至是違法的信息。在諸如此類的情況下，人工智能算法對個人意志自由的侵犯極有可能引導個人身心朝著不良方向發展。

3．人工智能算法對于個人意志自由的侵犯還表現在過度依賴算法，會弱化人深入思考的能力。在傳統生活中，我們通過觀察、思考、邏輯推理等進行的社會活動，在人工智能算法的干預之下，不再需要進行深入的思考便能得出甚至是更優質的結論，這無疑會降低人與人之間溝通的意愿，弱化社會溝通，減少人們深入思考的機會，侵犯人們的意志自由。

三、人工智能算法的社會危機

我國人口眾多，擁有豐厚的數據資源。大量的數據可以被數據使用者輕易地獲取、收集、運用。這無疑促進我國人工智能算法的前沿發展，進而也可能產生一系列的由人工智能算法引發的與我國國情相關的社會危機。本文從人工智能算法對社會正義觀的影響和人的主體性地位兩個方面進行討論。

（一）對傳統正義觀提出挑戰

社會的存在和發展需要有“正義”的存在。我們在長期的社會生活中經過不斷的價值取舍，最終形成了我們當下的正義觀。社會追求利益最大化，又用平等、公平、誠信等原則去調整社會關系，才得以促進社會和諧有序的發展。這種和諧有序的發展建立在“你的權利止于我的鼻尖”的基礎之上，建立在人與人之間是平等的主體地位之上，并不以某種非正當觀點持有人數的多寡而改變。

人工智能算法歸根究底仍然是一種人創之物，一種沒有善惡價值觀的機器。它只能按照程序設定的目標進行計算，并導出由之而產生的結果。這樣的結果并沒有接受現實中社會價值觀的檢驗，只是由講求效率和利益的算法推算而來。但其作為結果產出，必然又會形成價值導向。即一種觀點，即便并非完全符合傳統正義觀，但在基于大數據的人工智能算法結果之下，很容易造成“大家都一樣”的假象，形成群組正義觀，產生“少數服從多數”“法不責眾”的現象，對傳統正義觀形成侵犯。盡管時代發展可能產生價值觀甚至正義觀的改變等，但人工智能算法即便是建立在大數據的基礎之上，就整個社會整體而言，也很難說是涵蓋了整個社會大部分人的觀點，遑論足以改變社會價值取向的整個社會的觀點；而且，涵蓋的人數多，也不能代表其正當性。

（二）對人的主體地位提出挑戰

人工智能算法不斷地發展進步，其機器學習算法越來越深入，已經存在算法能夠“脫離”算法設計師的操控，能夠進行自我學習和自我完善，這使得人工智能算法具有一定的自主性。而人工智能算法將人的行為、習慣等作為數據進行計算，又為現實生活中的人披上了一層算法的外衣，具有了特定的算法身份，人在算法中不是目的，也不是手段，只是數據。

1．人工智能算法出現使人客體化。現代社會是以人的主體性為基礎構建起來的社會。“是一個強調個人主義、理性主義和人道主義的社會，它要求在人的生活領域全面貫徹個人主義、理性主義和人道主義等基本原則。”[3]但人工智能算法的工作機理是將人視為可計算的客體，在人工智能算法的視角之下，人的所有行為習慣都只是一系列可以計算并從中得出結論的數字。這在事實上以人工智能算法為基礎構建了一種不同于人的現實身份的算法身份，依據數據權主體的行為和習慣推演而來，以人工智能算法運算目的為導向，重新在算法中定義人的身份地位。在人工智能算法的框架中，人既不是消費者也不是員工，人的價值在于生產數據和累積行為剩余。[4]

2．人工智能的有限自主性。人工智能算法的“智能性”使其具有且不斷地更加具有人的屬性。正如笛卡爾所說“人是一棵會思考的蘆葦”，思維能力是人區別于他物而具有主體性的重要原因，人工智能算法的機器學習不斷深化，愈來愈趨近于人類，這無疑對人的主體性提出了挑戰。現在已經存在深度機器學習算法，能夠脫離算法設計師的操控，在原始數據的基礎上，不斷地進行自我完善和自我升級，越來越符合“思考”的定義，越來越具有人的特性。

人工智能算法在我們現在的社會中已經不可或缺。它大大地便利了我們的生活，使我們在學習、工作、生活中的效率大大提升。社會生活發展到現在，重視算法并有效利用算法，是提高生產力水平的重要手段。但是，我們也不得不注意隨著新興技術的產生而出現的一系列危機，我們要隨著新技術的出現和生產力的提高而不斷變化我們的生產關系和上層建筑，但這必須建立在基于社會實踐和歷史經驗等的不斷反思和探討之上。