以人為本的人工智能工程倫理準則探析

摘要：人工智能技術的不斷創新與發展，在給人們帶來便利的同時，“去人類中心化”的風險也隨之而來。首先，本文分析了人工智能工程面臨的道德風險，指出如不對其加以預防和控制，將有悖于人工智能發展的初衷，不利于維護人類安全、健康和福祉；其次，闡明了工程倫理的三大核心原則對人工智能技術發展和倫理研究的重要意義，揭示了倫理準則在發展和完善中的科學路徑；最后，結合人工智能創新發展特點，提出了 “以人為本”的人工智能可持續發展建議，具有重要的指導價值。

關鍵詞：人工智能；工程倫理；道德風險；以人為本

人工智能 （AI）是指在機器中實現的智能系統，這些系統具備模仿甚至超越人類感知、認知和行為能力的潛能。隨著技術的持續演進，人類社會正逐漸從一個依賴于計算機、通信、互聯網及大數據等傳統技術的信息社會，向一個以人工智能為核心支柱的智能社會轉型。這一轉變將深刻影響人類的生產方式和生活方式，以及全球發展的整體格局。但個人和社會在享受人工智能技術帶來的便利的同時，還需要深入考慮人工智能工程的道德風險，即人工智能技術帶來的道德結果的不確定性和危害性。[1]

一、人工智能工程的道德風險

霍金指出，人工智能技術創造出的能夠獨立思考的機器將對人類構成極大威脅。[2]為確保人工智能系統的安全性和可靠性，我們必須提高技術標準，同時，也需要強化道德和倫理的指導與規范。人工智能工程涉及技術、利益、責任、環境和倫理等多個因素，其倫理問題主要集中在四個方面。有效的倫理框架應考慮技術進步對社會的影響，促使利益相關方在設計與實施過程中進行倫理反思。

（一）技術維度的道德風險

在算法和大數據領域中，技術層面的道德風險體現在多個方面。首先，算法不僅僅是數學公式和計算過程，它更深層次地反映了工程師和程序員的邏輯與思維模式，其中不可避免地會嵌入他們的價值觀、政治立場和社會偏見。這種隱性偏見會影響算法的輸出，導致可能存在的歧視性結果，進而在決策、推薦和行為引導中產生不公平的影響。

其次，大數據的收集與分析涉及對個人敏感信息的深入處理，這意味著在數據的獲取、存儲和使用過程中，必須高度關注隱私保護。一旦數據被濫用、泄露或未經用戶允許被共享，就會導致嚴重的隱私侵犯和倫理問題。

最后，算法的復雜性和 “黑箱”特性使得其決策過程難以被外界理解和監督。許多現代算法，尤其是深度學習模型，由于其內部結構的復雜性，難以提供明確的解釋或追蹤決策路徑。這導致算法的問責和糾錯變得困難，用戶也難以質疑和挑戰算法的結果。

（二）利益維度的道德風險

人工智能技術的發展伴隨著可能侵犯人類利益的風險，首當其沖的就是安全問題。這不僅涉及人工智能的可靠性和對人類的安全保障，還包括確保其行為符合道德規范，避免其對社會造成危害。然而，技術故障、軟件漏洞或傳感器失靈都可能引發意外事故。例如，在緊急情況下，自動駕駛車輛可能面臨復雜的倫理決策：在危急時刻，究竟是優先保護車內乘客，還是盡量避免傷害外部行人？這類情境提出了深刻的道德難題：一旦發生事故，責任應歸屬于誰—車輛制造商、軟件開發者，還是駕駛員？

隱私問題同樣不容忽視。隱私保護的核心在于確保數據的收集和使用合法、透明、安全。在某些情況下，為了提升人工智能系統的性能，可能需要跨組織或跨國界共享數據。然而，這種數據共享伴隨著潛在的隱私泄露與濫用風險，同時也涉及數據的存儲和保護。

（三）責任維度的道德風險

人工智能正面臨價值抉擇與責任歸屬的難題，帶來了諸多風險。在人工智能工程中，責任與法律問題是核心領域，關系到如何界定人工智能系統行為與決策的責任。

傳統上，法律責任通常針對人類個體或組織的行為。然而，當人工智能系統具備自主決策能力時，責任的界定則變得復雜。其自主性使得責任追究不再僅限于人類行為，但即使將某些責任歸于人工智能系統，仍然無法忽視人類因素。在設計、開發和運營過程中，人類參與者 （如開發人員和運營者）扮演著關鍵角色，因此，必須明確他們在系統失誤或不當行為中的責任和義務。

不同領域和應用場景中的責任與法律問題可能存在差異。例如，在醫療領域，人工智能系統的錯誤決策可能給患者健康帶來重大風險，因此，責任界定和法律要求更加嚴格。在自動駕駛和金融服務等領域，類似的問題也展現出不同的法律和道德要求。有效的法律框架應適應這些差異，為各領域的人工智能應用提供清晰而一致的責任劃分標準。

（四）環境維度的道德風險

在人工智能工程中，環境層面的道德風險主要涉及人工智能技術對環境和可持續發展的影響。人工智能設備的快速更新和淘汰產生了大量電子廢物，這些廢棄產品的材料通常難以自然降解。如此看來，人工智能的發展會對生態環境造成很大的影響，可能使原本嚴重的生態問題更加惡化，如不加以約束和規范，將對人類追求的環境倫理的可持續性、人與自然和諧相處等基本原則構成巨大的挑戰。[3]

這些風險包括能源消耗和碳排放的增加、電子廢物的處理和可持續生命周期的管理、自然資源的過度消耗、生物多樣性和生態平衡的破壞，以及社會不平等和 “數字鴻溝”的擴大。同時，快速淘汰的電子設備還帶來了管理電子廢物和延長產品生命周期的挑戰。為應對這些道德風險，人工智能工程應優先考慮以下方面：提高能源效率、有效處理廢物、促進資源的可持續利用、保護生態環境以及關注社會的包容性。

因此，如果不對上述四個維度的道德風險實施有效的預防和管理，人類將面臨因 “去人類中心化”所導致的重大不確定性，這與人工智能技術旨在提升人類福祉的初衷相悖。為確保人工智能技術的穩步和持續發展，我們必須堅持 “以人為本”的理念，制定清晰的倫理準則和開發規范，以促進技術的負責任和可持續發展。

二、應對人工智能道德風險的基本原則

人工智能工程倫理涵蓋三大基本原則，即 “人道主義”“社會公正” “人與自然和諧發展”。這三大原則都源于 “以人為本”的理念，旨在幫助人們應對在人工智能工程中所面臨的各種倫理挑戰。

（一）“人道主義”原則

隨著人工智能在道德自主性方面的持續進步，其在社會關系中的影響力日益增強。如果人們希望人工智能在未來的世界中發揮積極的作用，就必須秉承 “人道主義”原則，以 “關懷人類”為宗旨，創造 “以人為本”的人工智能社會。[4]“人道主義”原則強調尊重人的尊嚴和權利，關注人類的安全與幸福，促進社會公正和公平，要求系統具備透明性和可解釋性，同時，肩負起必要的社會責任和道德義務。

人工智能的應用不可避免地會涉及大量個人數據的處理，這對個人隱私和數據安全構成了嚴峻挑戰。因此，需要建立可靠、安全、公正且透明的人工智能系統，確保數據能夠被妥善保護。人工智能的發展應以減少社會不平等和避免歧視為目標，始終將人類的福祉置于優先位置，履行應有的社會責任，從而構建一個更加公平、更加人性化的技術未來。

（二）“社會公正”原則

“社會公正”原則是指在人工智能工程中致力于實現社會公平、減少不平等的核心道德準則。該原則強調平等對待、消除歧視、矯正現有不公、資源公平分配、多元參與和代表性，以及承擔相應的社會責任與義務。在人工智能的設計、決策和應用過程中，遵循 “社會公正”原則意味著要確保對所有個體和群體平等對待，杜絕任何形式的歧視，積極糾正現存的不平等現象，合理分配資源，鼓勵多元視角的參與，確保不同群體的聲音都能得到充分代表，同時，承擔應有的社會責任。

在實際應用中，這意味著開發者在設計和訓練算法時，應考慮算法可能帶來的偏見和不公，避免因數據不均衡或隱性偏見而導致對特定群體的歧視。此外，在人工智能技術的推廣和使用中，必須考慮技術的可及性和包容性，避免因經濟或地域等因素擴大 “數字鴻溝”，確保所有社會成員都能平等地受益于技術進步。

（三）“人與自然和諧發展”原則

“人與自然和諧發展”原則指在人工智能工程中關注生態環境和促進可持續發展的核心準則。該原則強調，在設計、開發和應用人工智能技術時，應將人類活動與自然環境的保護和可持續發展有機結合，以確保科技進步不以破壞生態系統為代價。

為實現這一目標，需要在技術研發中最大限度地減少環境負擔，優先選擇低能耗和高效的方案。人工智能應在生態監測與管理中扮演重要角色，通過大數據分析與傳感器網絡，實時監控環境變化、預測生態風險，從而維護生態平衡并修復受損生態系統。同時，利用AI技術優化資源分配與利用，提高效率，減少浪費，推動循環經濟與低碳經濟發展。人工智能技術還可以應用于可再生能源優化，提升能源使用效率，降低碳排放。此外，人工智能技術還可以用于制訂智能農業和漁業管理方案，保護生物多樣性和自然棲息地，支持生態系統健康。因此，開發者與決策者在應用人工智能時，必須將生態倫理融入每個決策階段，確保技術發展與 “人與自然和諧發展”理念相一致。唯有如此，人工智能才能真正促進社會與自然的和諧共存，實現長久的可持續發展。

三、以人為本的人工智能工程倫理準則的推廣和應用

在人工智能迅速發展的背景下，推廣以人為本的倫理準則顯得尤為重要。我們應有效應對道德風險，促進社會公平與正義，保護個人隱私與安全，推動各方利益相關者的參與，從而確保人工智能技術的可持續發展，真正為增加人類福祉作貢獻。

（一）政府和組織的角色和責任

政府在推廣以人為本的人工智能工程倫理準則中扮演著關鍵角色，承擔著重要責任。首先，政府需制定法律與政策，規范人工智能技術的發展，確保其符合倫理標準和社會利益；其次，政府機構應加強監管，維護技術的合規性與公正性，以保護個人權利和公共利益。此外，政府還應負責技術評估與標準制定，為負責任的技術應用提供指導；最后，政府應加大公眾教育力度，提高人工智能倫理意識，鼓勵全社會參與技術發展。

組織在推廣以人為本的人工智能倫理準則方面同樣不可或缺。組織需制定內部政策，明確倫理要求，以指導技術開發與應用。在研發過程中，組織必須考慮倫理原則，確保技術的公正性、透明性、隱私保護性和安全性。同時，組織應建立透明的問責機制，確保技術使用過程可監督與追溯。另外，組織應積極參與倫理討論，與政府、學術界和社會組織等利益相關者共同制定和完善倫理準則與最佳實踐，推動人工智能技術的負責任和可持續發展。

政府與組織共同承擔確保人工智能符合倫理和社會利益的責任，通過合作與協調，推動技術的負責任發展和社會的可持續進步。借助雙方的共同努力，以人為本的人工智能倫理準則將得到更廣泛的推廣，為人類社會帶來更大福祉和可持續發展。

（二）實現技術民主化

實現技術的民主化是推動人工智能公平、透明和普惠發展的重要目標。要達到這一目標，就要認識到人工智能的道德風險并非只是計算機專家的專屬難題。社會科學、倫理學、法律和心理學等多學科的共同參與對于技術設計和決策至關重要。這種跨學科的合作能夠全面審視人工智能帶來的挑戰與機遇，推動技術多元發展，使其更符合社會需求和人類價值觀。

確保技術的透明性和安全性是人工智能健康發展的關鍵，特別是在保護數據隱私方面。歐盟委員會制定的 “人工智能七大原則”中指出：“人工智能系統收集的個人數據應該是安全的、私有的。它不應該被任何人接觸，也不應該輕易被盜。”[5]這意味著，算法和模型的信息應盡量公開，使公眾能夠理解和評估技術的運作機制及其潛在影響，從而確保每一個技術決策都能夠被追溯和解釋。

技術的民主化不僅關乎透明度，更在于讓每個人都能理解和使用。提升數字素養、增強倫理意識和提高專業技能，有助于更多人參與人工智能的發展與監督，確保技術服務更多人，而非少數人的專利。應通過有效的政策和措施，彌合 “數字鴻溝”，讓人工智能的進步惠及每一個人。

（三）加強國際合作，促進共建共享

從人類命運共同體的角度來看，人工智能的發展正在悄然改變創新治理、可持續發展和全球安全合作的格局，對現有國際秩序產生深遠影響。面對這一趨勢，各國政府和社會各界必須保持高度敏感，積極應對。我們需將人工智能風險防控納入全球政治議程，強化國際合作，建立有效的全球治理機制，共同應對這一復雜而緊迫的挑戰。全球化進程加速意味著我們需要構建符合全球背景的新倫理框架，考慮不同地區和文化的獨特性，使倫理準則具備靈活性和適應性。另外，各國之間需超越傳統國家利益，推動跨國合作，建立多層次、多方位的國際人工智能治理體系。多方力量的協同合作能夠打破信息壁壘，促進最佳實踐共享，為人工智能的負責任應用和長遠發展奠定堅實基礎。

通過全球性的合作與協同治理，我們有望降低人工智能帶來的道德風險，確保技術在各類社會背景下獲得恰當的指導和有效的監督。人工智能不僅是技術探索，更是關乎全人類未來的共同實驗。在這場實驗中，倫理與合作應當成為我們的指引，引領技術朝著積極光明的方向前進，為全社會帶來真正的福祉與繁榮。

四、結束語

在人工智能帶來的深刻變革與道德風險面前，我們需要構建一個以人為本的技術框架，通過明確倫理原則、加強跨學科合作以及促進國際協作，確保人工智能技術不僅服務于人類的福祉，更能夠推動社會公平與可持續發展。只有在技術與倫理相輔相成的基礎上，人工智能才能真正成為人類社會發展的助力，而非潛在的威脅。展望未來，我們應攜手共進，確保這場技術革命能夠以負責任和可持續的方式造福全人類。

參考文獻：

[1] 常曉亭.人工智能創新發展中的道德風險研究[J].中國醫學倫理學，2020（02）：137-142.

[2] 霍金.人工智能可能使人類滅絕[J].走向世界，2015（01）：13.

[3] 陳首珠.人工智能技術的環境倫理問題及其對策[J].科技傳播，2019，11（11）：138-140.

[4] 李真真，齊昆鵬.人工智能：“以人為本”的設計和創造[J].科技中國，2018（03）：94-97.

[5] 范娜娜.谷歌AI道德委員會解散，如何讓人工智能明辨是非？[N].新京報，2019-04-17（001）.