大數據背景下人工智能在人權領域侵權問題探究

隨著科技的發展，人工智能進步迅速。這場被稱為第四次工業革命的新型技術在世界范圍內炙手可熱。以數據輸出來實現人工智能成長的Artificial Narrow Intelligence黑箱亦呈現出向Artificial General Intelligence轉變的趨勢。學界普遍認為，發展到General階段的人工智能會危害人類權益，而筆者認為，當下源頭上具有由人類控制這一本質特征的弱人工智能，已呈現出對性別、種族、家庭收入、國籍乃至國家內部的歧視，人工智能“剝奪他人生命”和“自我終結生命”的問題日益頻繁。必須迅速采取對策和法律規制方式，保護人類的基本權利。

1 人權概述

對人權的最早探索可追溯至古希臘羅馬的自然法思想和社會契約論;新托馬斯主義學派代表Jacques Maritian提出，人之所以擁有人權，是因為他是一個人，是其自身及行為的全部與主人。唐納利認為，人權是自然人僅因是人即可擁有之權利，權利是一種資格，對某物擁有權利就是有特定的資格擁有和 享用某物。現代社會將人權定義為“普遍的、人的權利”，又依個人和個人存在方式分為自然人人權和集體人權。其主要的含義是：每個人都應該受到合乎人權的對待，人權的這種普適性和道義性，是它的兩種基本特征。人權的維持和保障是基本的道義原則。是否響應人權保障要求，無論從政治上還是經濟上，都是判斷集團優劣的重要標準。

2 人工智能帶來的人權問題

2.1 對生命權的沖擊

2019年9月，美國國家運輸安全委員會發布的波音737飛機的調查報告顯示波音公司忽視了駕駛艙安全系統問題。而早在波音737在6個月內接連發生空難之際，其空難誘因就已被揭露——人工智能系統和飛行員爭奪飛機控制權。該機型的mcas系統在感應到飛機仰角過大時會強行壓低機頭以維持穩定。而一旦智能系統對仰角判斷錯誤，就會直接導致機頭不斷壓低，從而造成機身高速向地面俯沖且駕駛員難以控制的后果。

2015年，大眾汽車納塔爾工廠房間的21歲的汽車企業外部的男工在和同事一起檢查機器人設置時被另一臺機器人突襲、抓住胸部并重摔向金屬板致死。經檢查并未發現該機器人存在故障，該案件至今沒有確鑿回應。

此外，蘇聯圍棋手戈德科夫在與機器人的對戰中獲勝卻被機器人落敗后放出的強電流擊倒、奧地利男子家中的家務機器人為逃避洗碗引燃電源將自己燒成灰燼“自殺”等一系列難以解釋且令人焦慮的事件的存在，使得重新思考人工智能對生命安全帶來的沖擊成為必然。

2.2 性別和非同質歧視

亞馬遜曾利用503種計算機模型和數以千計的關鍵詞輸入設計出利用大數據和人工智能算法求職實現自動化招聘的精妙的AI工具，降低人力時間和精力成本。如，一求職季中需求職員8人，共收簡歷500份?該工具利用模型和算法篩選出前8名?亞馬遜直接決定錄取這8名員工?自動發送錄取郵件。令人沮喪的是，該算法工具悖離了研發人員的初衷，呈現出不喜女性、同性戀、曾患抑郁癥人群的特征。學界有觀點認為，這是因為其樣本多選自男性及具有同質化特征人群，長此以往使得AI得出“女性與非同質化人群不可靠”的結論。該解釋固有一定合理之處，但在本案的特殊情境下，顯然與實驗數據存在矛盾。

2.3 種族歧視

位于曼哈頓的Propublica報道了預測犯罪的COMPAS模型，其實質結果令人不安。在預測黑人面孔時，其犯罪率遠遠高于黑人實際犯罪率，而從未有過犯罪記錄的黑人被預測為犯罪分子的可能超出白人30%;此外，谷歌瀏覽器中搜索“黑人”時會出現很多猩猩的圖片;麻省理工學院所做人臉識別實驗更是表明：日益精細的人臉識別系統在識別黑人婦女時，成功率只有不到30%。筆者認為，當今社會逐漸以AI縱橫的特點決定了不同于其他與生活息息相關的科技，人臉識別對人類正常社會生活乃至人身和財產安全有著舉足輕重的作用，任何細微差錯都可能直接或間接對其導向對象產生重大甚至毀滅影響。而在人人本質上生而平等的文明社會，不宜秉承邊沁功利主義學派觀點，更不能為多數人之便利置少數族裔安危于不顧。人臉識別若存在如此大的漏洞，不應在技術更為全面之前貿然廣泛推行。

2.4 家庭收入歧視

Facebook進行了一項AI研究。研究人員采用數種不同算法，從家庭月收入三十美元以下和家一萬美元以上的家庭中分別收集了數百類生活用品。實驗結果表明，AI對低收入家庭物品識別的準確率比高收入家庭低了20%。而與落后國家相比，AI在識別發達國家物品時的準確率提升了15%。

2.5 對隱私權的侵犯

如今， 人工智能侵犯隱私的情形主要有兩種： 一是侵權人非法控制人工智能系統，比如黑客、病毒等; 二是智能系統本身可能存在瑕疵。隨著人工智能技術的廣泛應用和互聯網的普及，該趨勢和其產生的侵權問題日益顯著，依托互聯網和技術的特殊性，對該種侵權行為的控制難度逐步增大。如近來風靡與社交網絡的利用AI實現換臉功能的軟件的火爆和數據隱私泄漏問題給人類的名譽權、隱私權帶來的風險，以及該技術泛濫后可能對公檢法正常工作產生的不利影響。

3 原因分析

3.1 樣本選擇不具有代表性

諾獎得主Sargent在世界科技創新論壇上表示，“人工智能其實就是統計學，只不過用了一個很華麗的辭藻。”這句話雖然字面意義上略失偏頗，但總結了AI的核心——統計（筆者在本段以下簡稱“統計論”）。

在目前的弱人工智能階段，統計論尤為正確。由于人工智能屬高科技領域，其研發人員不可避免地相對集中于教育發達的國家，而這個集體中家境富裕人群占比較大，其所代表的立場幾乎不可避免地有所傾斜。

此外，很多觀點談到性別歧視認為只是歧視女性，筆者并不贊同。將correlation視為causation易產生重心傾斜、研究不全等問題。截止本論文撰寫之時，AI實驗幾乎都是在傳統社會學意義的“男性行業”中進行，對男性所遭受的性別歧視和社會角色強制的關注和保護不夠。出于體力和大部分女性選擇生育的原因、不同性別的人在青少年前后期社會角色極有可能產生分化，加之職業選擇前社會氛圍、經濟文化潛移默化的影響，產業性別集中化、片狀化現象明顯。男性和女性分別更適合部分職業、更有部分職業天賦之說也在理論上更加具有說服力。在此背景下，如果選擇男性集中的行業，如半導體、芯片、材料……或者選擇女性集中的行業，諸如語言、藝術設計、教育等領域進行AI模型分析測算，則在前者范圍內易出現“歧視女性”，后者范圍內易出現“歧視男性”的現象。歧視現象由表及里，層層深入，非一時所能解決，希冀在未來能看到對該問題的重視和研究。

3.2 算法和歧視缺乏法律監管

人工智能的算法存在不夠透明的現象，很多甚至還處于黑箱狀態。算法的研發者如果在設計算法時就存在偏見和個人傾向，很難被人發覺。機器學習技術進行個性推薦建立在兩個邏輯的基礎上：以過去算將來，以群體算個體，而歧視信息很可能包含在過去和群體的信息里。人工智能技術因涉及到超越人類的潛力而備受關注。目前的監督主要包括政府政策監督、相關技術監督和民眾監督。而且在技術泛濫的今天，立法和監管的腳步很難跟上AI侵權的步伐。

3.3 道德與法制呈現非平衡特征

高新技術與經濟利益相伴而行，利益驅使增加了AI背后的人的行為不穩定性。法律，是最低限度的道德，而用底線保護權利無異于戰爭時期用最低保障不至餓死的糧食補充人體營養，即使每個研發者都嚴格遵守法律，也難以有效保障人權。利用AI技術偽證、利用公眾人物的臉無縫合成錄音錄像牟利的行為既新興，又屢見不鮮。

4 大數據背景下保護人權的建議

4.1 源頭控制者破除潛在偏見

應出臺標準，明確AI的研發、制造、投入服務等環節的控制人員考慮人權的義務，盡量避免個人傾向和潛移默化的偏見。將一項人工智能應用投入使用時應充分考慮該投入可能對人權和少數群體的正當權益產生的不利影響，充分權衡投比和人權保護的天平，完善監測制度，設計模型進路化解潛在風險。

成專家小組，同學術機構廣泛展開合作、甚至可培養專門人才，打破當前研究孤立化、零散化、對立化、競爭化的狀態，實現臺階式正向循環發展。

4.2 提高數據精度

大數據環境下數據量快速的積累，要想分析出海量數據所蘊含的價值，篩選出有價值的數據十分重要。人工智能工程師應注重數據的來源和質量，通過數據抽取、數據清理、數據加載提高數據的可用性。減輕AI算法數據庫的負擔。

4.3 提高受眾參與度

在受眾參與方面，IOS系統的做法值得借鑒。在2014年前的unicode標準中，只有兩個表情符號為非白人，在IOS系統全球推行的背景下，該現象有潛在種族歧視嫌疑。IOS認識到這一問題并增添了一整套黑人emoji，設計師表示：“我們要傳達黑人的創造力，設計產品要讓世界刮目相看。我相信地球上的每個黑人都會愛上這套新表情”。 隨后，IOS表情系統逐步發展為各色人種，細節之精妙頗值得稱道。

應鼓勵產品的潛在受眾和可能受其影響的人參加到產品研發中來，降低可能存在的潛在偏見風險，嚴謹求是。此外，應提高AI應用的透明度和使用主體的知情權，重視AI綁架授權問題。

4.4 出臺立法明確法律責任

應加強研究，賦予人工智能監管機構對人工智能源頭控制者的監督權。同時出臺相應法律法規并不斷完善，設立一套完備的問責制度風險操控評估體系，減少研發者的自發性。確保人工智能的應用充分尊重基本人權，保護人類隱私和名譽權不受侵犯，當危害結果發生后，應有行之有效的應對措施，明確歸責原則，增強人們對AI應用的安全感，從而放心大膽使用。

5 后記

AI科技在歷史的洪流中曲折前行，便捷了人們的生活，是機遇也是挑戰。各界在保留底線的前提下推動、進步，從不成熟到成熟， 從不完善到完善，這個過程既充滿未知，也充滿希望。在其發展中加強合作和立法探究，以期共同推進人類生活智能化與人權保護完備化，是世界各國當下正在追求的立法目標。

作者簡介：袁星辰（1997.12-），女，漢族，安徽亳州人，中國礦業大學（北京）法學專業本科生，美國薩姆休斯頓州立大學刑事司法學院交換生。

（作者單位：中國礦業大學（北京））