人工智能時代的倫理挑戰與對策研究

沈瀟雯　夏計軍　胡家琪

摘要：人工智能的廣泛普及給人類生產生活帶來了極大便利，同時帶來一系列倫理問題，引起了廣泛的思考和討論。文章在闡釋當前人工智能倫理風險的基礎上，分析了國內外對人工智能倫理設置原則、倫理治理理念、倫理治理規范的一些共識，提出優化底層技術、培養公眾倫理意識、完善倫理規范和行為準則、加強倫理法律監管和政府管理、推動國際合作等多維度對策建議，為我國人工智能產業高質量發展創造良好條件。

關鍵詞：人工智能；倫理挑戰；對策建議

中圖分類號：G253文獻標志碼：A

0 引言

人工智能是人類發展的新領域，帶來重大機遇，也伴隨著風險挑戰。習近平主席在第三屆“一帶一路”國際合作高峰論壇提出《全球人工智能治理倡議》，為積極踐行人類命運共同體理念，落實全球發展倡議、全球安全倡議、人工智能治理提供了解決方案。厘清人工智能時代的倫理困惑并探索相應的對策，推動人工智能以負責任的方式發展，同各國加強交流和對話，是促進全球人工智能健康有序安全發展的必由之路。

1 人工智能時代下的倫理挑戰

人工智能的倫理問題主要圍繞人類基本人權、數據安全與隱私保護、權力與責任認定3個方面。

1.1 人類基本人權

一是人工智能系統設計的缺陷可能對公民生命權和健康權的潛在威脅。Uber自動駕駛汽車致命事故即起因于Uber系統設計忽略了對塑料袋等其他障礙物的識別，導致未能及時剎車。二是人工智能算法可能因目標論證、算法歧視、數據訓練等錯誤，擴大社會歧視范圍，侵犯公民平等權利。亞馬遜開發的人工智能簡歷篩選系統拒絕了所有女性申請人即反映了性別偏見。三是假新聞自動生成、信息精準推送等技術的濫用影響了公民的知情權、正當程序權和監督權，將會影響公眾輿論、干預市場運作和國家政策制定。英國Cambridge Analytica咨詢公司通過Facebook個人信息分析用戶政治偏好，精準定向推送信息，影響了美國大選。四是人工智能發展可能導致大規模的結構性失業，富士康啟用智能化生產線后裁減了數萬名員工。

1.2 數據安全和信息隱私

人工智能技術的應用使得個人信息收集的范圍及深度擴大，隱私侵犯風險也隨之加大。中國深網視覺科技有限公司的人臉數據庫信息泄露事件使數百萬用戶的敏感個人隱私信息曝光，包括用戶生物識別、行為習慣等信息。“滴滴打車”曾因非法采集上億條用戶地理位置、通訊錄、通話記錄等信息而受到制裁，侵犯了個人隱私和國家安全。

1.3 權力與責任認定

責任倫理學是從倫理學的角度對人類社會責任進行整體研究。傳統的技術后果責任制度已經無法應對人工智能技術發展應用所帶來的不確定性和負面結果［1］。人工智能系統投入使用后出現問題的責任歸屬就是一個典型的責任倫理問題。需要考慮誰應該對人工智能系統的失誤負責，并對責任判斷進行深入探究，分析責任產生的內外部因素：外部因素包括政策法規、技術環境等；內部因素包括個人的道德觀念、行為準則等。

2 人工智能時代下倫理挑戰的成因

2.1 技術因素：人工智能技術發展局限性

機器學習作為人工智能的核心組成部分，它使計算機系統能夠通過數據和經驗來不斷改進自身性能，但其本身存在漏洞，如訓練數據真偽和偏差、AI算法黑匣子等，可能引發定向歧視。在處理環節，人工智能程序按照設定程序對輸入的信息進行分析學習并輸出結果，按照結果指令進行動作，在這個過程中，算法黑匣子缺乏可解釋性可能會導致信任問題。在輸出環節，AI算法結果有不確定和不可控性。

2.2 人為因素：人類主體責任意識淡薄

人工智能訓練數據集一旦存在偏見，會在現實中持續表現偏見，因此，在沒有偏見的情況下對人工智能進行訓練和編程至關重要。實際上人類訓練機器遵守道德規范仍未有統一的標準，因此，應當盡快制定被廣泛認可的人工智能和智能機器道德標準。

2.3 環境因素：人工智能監管規則滯后

人工智能作為一項新興技術尚缺乏法律制度的全面約束，只能通過輿論和技術手段來制約。制定人工智能的法律法規不僅涉及數據、算法、基礎設施和人類，還涉及人工智能的總體治理、技術的整體管理及其他因素。迄今為止，在面對人工智能的自主智能系統治理、責任和問責以及隱私安全3個方面的監管治理仍未達成共識。

自主智能系統的治理，強調的是對人工智能和算法的理解與控制，確保其決策與行動的合理性和有效性。設計和建立一個既兼顧全球性又擁有靈活性的人工智能治理體系，需要滿足人工智能領域的多元需求，還要充分考慮全球各地文化多樣性和不同國家的法律體系。

責任和問責治理指的是界定誰對人工智能的決策負責并承擔責任。一方面，由于人工智能系統在運行過程中進行學習并具備自主行動的能力，因此，其開發、操作人員可能無法準確控制或預測其后續行為，從而導致責任差距，無法承擔相應的責任。另一方面，有學者認為人類要對所有與技術相關的后果負責。

隱私安全的治理是指在人工智能背景下保護人類隱私、保護數據和人工智能相關網絡資源免受安全威脅。這意味著來自個人的數據必須在征得個人同意并遵守各自法律的情況下收集和處理。一方面，人工智能系統需要包含復雜的網絡安全預防措施，以確保數據安全和隱私。另一方面，立法和政策制定需要適應人工智能帶來的新發展，包括處理不同司法管轄區在隱私標準等方面存在的差異。

3 人工智能時代下倫理治理的全球實踐探索

3.1 人工智能倫理設置原則

歐美地區正積極推動人工智能技術和產業的發展，同時高度重視人工智能技術發展的安全與健康。現今廣為認可的AI倫理原則有5項：行善（Beneficence）、不傷害（Non-maleficence）、自治（Autonomy）、正義（Justice）以及算法可解釋性（Explacability）。其中，前4項由傳統的生物倫理原則沿用而來，最后一項則是針對人工智能算法提出的新原則。隨后又在這5項總體AI核心原則基礎上衍生出增進人類福祉（Well-being）、隱私（Privacy）、自主控制權（Autonomy）、不歧視與不偏見（Non-bias/Non-discrimination）、透明性（Transparency）等更多細化的分支。歐盟作為人工智能立法的先驅，2019年發布《可信AI倫理指南》，提出可信賴AI需滿足3個基本條件：合法（Lawful）、倫理（Ethical）、穩健（Robust）。對于AI從業者，提出了4項道德原則，確保AI從業者以值得信賴的方式開發、部署和使用人工智能系統：尊重人的自主性（Respect for Human Autonomy）、預防傷害（Prevention of Harm）、公平性（Fairness）、可解釋性（Explicability）。我國2019年發布的《新一代人工智能治理原則》，強調了和諧友好、公平公正、包容共享等8條原則。2023年發布的《全球人工智能治理倡議》圍繞人工智能發展、安全、治理3方面系統闡述了人工智能治理中國方案，提出11項倡議，包括堅持“以人為本”、堅持公平性和非歧視性等原則。

3.2 人工智能倫理治理理念

人工智能治理在學術界有兩種理論，即“對立論”和“系統論”［2］。“對立論”即關注人工智能技術與人權、福利之間的沖突，因此，需要制定相應的審查和監管機制來應對這種沖突。歐盟發布的《可信AI倫理指南》是“對立論”的體現，要求人工智能系統在其整個生命周期中必須遵循合法性、倫理規范以及穩健性原則。“系統論”強調人工智能技術與人類、其他人工智能體、法律、非智能基礎設施和社會規范之間的相互協調。我國2019年發布的《新一代人工智能治理原則》，提出“支持弱勢群體適應”“國際組織、政府機構、研究機構之間的協調互動”等治理原則，體現了“系統論”和多元治理理念。

3.3 人工智能倫理治理規范

據不完全統計，目前多個國家、地區、組織和企業已發布人工智能道德規范超過40部，已逐漸形成了一些共識。美國出臺了《國家人工智能研究與發展戰略計劃》《人工智能準則：美國國防部人工智能倫理使用推薦性規范》《國家人工智能研發戰略計劃》等規范，提出倫理治理原則及人工智能倫理戰略部署。歐盟出臺了《可信AI倫理指南》《人工智能、機器人和相關技術的倫理框架》《人工智能立法提案》等規范，促進可信人工智能系統的發展。

4 人工智能時代下倫理治理的對策思考

4.1 優化技術降低人工智能倫理風險

應進一步激勵技術創新，加強對人工智能應用于不同領域的倫理治理模型結構的開發，著力在一些關鍵領域實現技術性突破。探索人工智能倫理計算的定量化研究，研究降低倫理風險的可行性技術。從產品設計、技術研發和技術責任體系等各階段對人工智能技術運用可能存在的倫理風險進行內在維度的判斷，從源頭阻斷倫理風險。

4.2 加大教育宣傳力度培養公眾倫理意識

根據《人工智能北京共識》和聯合國《教育中的人工智能：可持續發展的機遇和挑戰》，教育對人工智能倫理風險治理具有不可或缺的作用。要不斷完善青少年相關教育體系，為社會勞動者持續提供終身教育，加強科技工作者的倫理道德教育和職業培訓。增強公眾對人工智能技術的了解，激發和培養公眾的倫理意識。

4.3 完善人工智能倫理規范和行為準則

構建人工智能倫理規范、制定行為準則是解決倫理問題的重要基礎。中國電子技術標準化研究院牽頭編制的《人工智能倫理治理標準化指南》，將倫理規范與行為準則融入人工智能“政產學研用”全生命周期。在人工智能重點領域的開發設計階段形成詳細的、具體的倫理規范，設置好開發的倫理底線，減少技術異化的負面影響。規范人工智能產品應用階段的行為，鼓勵制定人工智能在各領域的具體應用規范，提高各類使用者對人工智能產品的責任感。應鼓勵企業結合實際形成各自的標準，積極參與國際標準制定。

4.4 加強人工智能倫理法律監管和政府管理

法律手段是規避人工智能倫理的基礎手段，逐步實現法律體系與人工智能技術的有機結合，建立全周期、全流程、全覆蓋的管理規范、研發規范、使用規范是人工智能倫理風險治理的當務之急。應強化協同治理，加強場景區分，推動醫療衛生、自動駕駛等重點領域監管規則制定，并逐步在其他行業形成算法技術規范。鼓勵人工智能相關產業及時向政府反饋產業的最新技術發展動態，為監管提供決策依據。

4.5 推動人工智能倫理治理的國際合作

人類社會已進入智能時代，人工智能倫理治理已形成國際共識。2023年，聯合國教科文組織和歐盟簽署了加快實施人工智能倫理細則的協議，希望通過立法等方式加強人工智能倫理治理；同年，我國《全球人工智能治理倡議》重申各國應在人工智能治理中加強信息交流和技術合作，形成具有廣泛共識的人工智能治理框架和標準規范，鼓勵各國政府、國際組織、企業、科研院校、民間機構和公民個人等各主體秉持共商共建共享的理念，協力共同促進人工智能治理［3］。

5 結語

人工智能的發展帶來了許多機遇，也伴隨著一些挑戰。應對這些挑戰需要進一步優化技術降低人工智能倫理風險，加大教育宣傳力度培養公眾倫理意識，完善人工智能倫理規范和行為準則，加強法律監管和政府管理，推動倫理治理的國際合作。

參考文獻

［1］鄧若玉.人工智能發展的科技倫理反思［J］.廣西社會科學，2020（10）：93-97.

［2］張兆翔，張吉豫，譚鐵牛.人工智能倫理問題的現狀分析與對策［J］.中國科學院院刊，2021（11）：1270-1277.

［3］外交部.外交部發言人就《全球人工智能治理倡議》答記者問［N］.人民日報，2023-10-19（11）.

（編輯 何 琳編輯）

Research on ethical challenges and countermeasures in the era of artificial intelligence

Shen? Xiaowen， Xia? Jijun*， Hu? Jiaqi

（Wuxi S&T Innovation Service Center， Wuxi 214000， China）

Abstract： ?The widespread use of AI has brought great convenience to human life and production， and also brought a series of ethical challenges. On the basis of explaining the current ethical risks of AI， the text analyzes the current consensus on principles of AI ethical setting， ethical governance，and ethical governance norms， and provides countermeasures and suggestions such as optimizing technology， cultivating public awareness， improving ethical norms and codes of conduct， strengthening ethical legal supervision， and promoting international cooperation.These suggestions will create good conditions for the high-quality development of AI industry.

Key words： artificial intelligence; ethical challenge; countermeasure and suggestion

基金項目：無錫市法學會2023年研究課題；項目名稱：人工智能時代的倫理挑戰與對策研究；項目編號：WFH2023B20。江蘇省科技廳2023年創新支撐計劃軟科學研究；項目名稱：“一帶一路”倡議下國際科技創新合作模式對比研究——以江蘇和廣東為例；項目編號：BR2023022-2。

作者簡介：沈瀟雯（1983—），女，副高級工程師，碩士；研究方向：政策研究，創新理論。

*通信作者：夏計軍（1978— ），男，工程師，碩士；研究方向：情報分析，項目管理。