思考AI倫理正當其時

毛亞楠

“這都是我的錯，我沒有給你正確的程序協議。”AI專家后悔地說。

“你什么都沒給我，你給我安裝了你自己都理解不了的學習模型，還指望我靠自己學明白。”對面的機器人反駁道。

——這是發生在最新上映的科幻恐怖電影《梅根》中的一幕。當看到自己親手研制的玩伴機器人成了冷血殺手，AI專家這才思考起技術使用的邊界問題，然而為時已晚。

機器人說的話不無道理，大多數情況下，它們只是看起來“學明白”了，一旦涉及更深層次的人性判斷，便會表現其“人工智障”的一面，就像電影里逐漸偏軌的梅根，以絕對的看護走向殺戮。

電影里，對認知智能的理解與把握區分了人與AI最大的不同。但在現實中，一款名叫ChatGPT聊天機器人的出圈卻真正使人拉響了警鐘。相較于之前的AI技術，ChatGPT之所以引起人們激烈的反應，主要源于它對人類獨有的思考、推理“領地”的“入侵”。最新一代ChatGPT已經能夠模擬人類思維和創造力，更加準確地理解和生成人類語言。這意味著某些職業和勞動力將被取代，人類也必將接受自己“不再獨特”的事實。

由此而來的對其倫理規制和法治應對的討論自然必不可少。就在3月的最后一天，意大利成為西方首個禁止使用ChatGPT的國家，理由是該模型收集不同數據，可能觸發隱私問題。而此事之前，以馬斯克為首的超千位科技人士就已簽署聯名信，呼吁所有AI實驗室暫停先進AI的開發，信中指出：“只有在我們確信強大的AI系統的效果將是積極的，風險是可控的，才應該開發。”

很顯然，ChatGPT帶來的變化和突破使人表現出前所未有的焦慮。而倫理討論作為一種有益AI技術健康發展的引導機制，正日益凸顯其作用。科技畢竟是他律性的東西，想要很好地利用其為人類服務，必先將其裝入符合倫理規范和道德標準的框架中。

AI提出的新問題

“道如大路皆可遵，不間不界難為人。”我們可用宋代詩人吳泳的這句話來表示機器“成人”的難度。ChatGPT之前，AI技術可以被籠統地看成是一種“關在盒子里的游戲”。中國科技大學教授、中國人工智能學會人工智能倫理與治理工委會主任陳小平曾在其《封閉性場景：人工智能的產業化路徑》一文中指出，現有人工智能技術僅在滿足強封閉性準則的條件下，才可發揮其強大功能。換句話說，即便智能如AlphaGo，也只能在特定領域或任務下發揮作用。

但ChatGPT卻不同，普通用戶可經其輸入指令，生成用戶所需內容，包括日常對話、翻譯、信息咨詢、策劃、編程等等。其不僅可以連續回答，而且能承認錯誤，拒絕不當要求，做到與人類幾無差別的交流。因此，這讓業內人士稱“看到通用人工智能之光”。

可以說，ChatGPT在一定程度上突破了以往AI技術的能力邊界。但這并不意味著這項技術走出了那個“盒子”。就連ChatGPT自己都說，自己雖較之前的技術自然靈活，但仍處于封閉系統之中，還達不到通用人工智能（Artificial general intelligence，簡寫AGI，這一領域主要專注于研制像人一樣思考、像人一樣從事多種用途的機器。這一單詞源于AI，但是由于主流AI研究逐漸走向某一領域的智能化，如機器視覺、語音輸入等，因此為了與它們相區分，增加了general）的標準。原因是其生成的回答都是基于其所學到的語言規則和語義知識，它仍存在語言理解和生成的局限性，尤其是在涉及情感、文化、背景等方面的語言交流時，ChatGPT 的表現可能不如人類，離真正的智能還很遠。

但即便是如此，這種技術的突破還是讓一些人感到了緊張。“失業說”繼續被提及，從前是機器人的發展減少了藍領所從事的體力勞動，這次“遭殃”的是白領，認為AI的使用讓白領的知識勞動向著節省人力的方向發展，而唯一的出路是從事那些非固定化的工作內容。

令人心安的是，無論是過去還是現在，頭腦清醒的專家們仍認為“失業說”略顯多慮。陳小平從AI技術實際應用的角度判斷，AI技術往往起到的是“畫龍點睛”的作用，而不是單打獨斗地解決一個行業的全部技術問題。相類似的，還有北京大學中國社會與發展研究中心主任邱澤奇在前不久“ChatGPT與社會發展新變”圓桌會議中的意見。邱澤奇說，“新技術給人類職業帶來影響和變化是必然，不過無論怎樣影響，其都不是直接替代人類的職業，而是通過替代職業的部分工作來提升人類職業產出的效率和質量”。他認為，人類適應職業變化的唯一途徑，是“駕馭情緒、堅持學習和實踐”。

但從上述可見一斑的是，“失業說”在技術發展的不同時期有著不同的面向，引發的倫理討論也是不同的。因此對AI倫理問題的探究并不是老生常談，而是一個需要不斷更新不斷完善的過程。

有關新技術倫理風險的新討論

AI倫理問題的探討包括但不限于數據隱私、算法偏見、AI對社會和就業的影響、AI可能導致的道德、政治和法律問題等。這些問題都具有很強的實踐價值和現實意義，需要不斷地進行探討和解決。

圍繞ChatGPT的出現，目前有關AI倫理問題的討論有了一些新的變化和進展。首先是更加重視AI的公正性和透明度。4月5日，繼意大利禁止使用ChatGPT之后，加拿大亦開始就數據安全問題調查ChatGPT背后的公司OpenAI。因為依據OpenAI介紹的ChatGPT的工作機制，模型需要預先對既有文本和數據學習訓練，但該公司未公開其學習語料的來源。而在此之前，就有研究者認為ChatGPT仍屬于算法黑箱，相關訓練數據庫是否均獲授權還存在疑問。

而有關公正性的討論則涉及數據使用的倫理隱患。盡管OpenAI在開發ChatGPT時已極力避免輸出帶有算法歧視、偏見等導向的內容，但由于其在線上與用戶交流過程中也在進行聊天數據的收集，人機互動中也于無形中增加了其吸收人類偏見的風險。

不僅如此，當其被用戶惡意利用制造侮辱、攻擊、色情、暴力及血腥導向內容時，事實證明，現有算法還是難以抵抗。甚至當用戶要求提供“AI毀滅人類計劃書”時，智能應用也會給出“行動方案”，這令人擔憂。

除上述情況之外，新技術涉及信息編排和一定的自主創新能力，使有關“人工智能是否能夠成為著作權法的創作主體”的爭論進一步激烈。筆者綜合公開的各方意見，目前以“新技術生成文本等內容很難構成著作權法保護”的意見為多。人們之所以有這方面的倫理擔憂，怕的是以智能技術為幌子的智能“洗稿”成為普遍，從而沖擊人類的思維創作領域。

而事實上，一些負面效應已經潛滋暗長。就在今年1月，1000名18歲以上的美國學生接受了在線課程平臺Study.com的一項調查。經統計發現，在接受調查的學生中，89%以上的學生使用過ChatGPT完成家庭作業，約48%的學生使用過ChatGPT完成測驗，超過50%的學生使用ChatGPT寫論文，22%的學生曾要求ChatGPT提供論文大綱。可以想見，隨著類ChatGPT人工智能系統的升級換代，未來的學術論文、期末考試或文本創作將難以甄別是人還是機器完成。而這種對AI的長期依賴勢必會削弱人類自身的創造能力，影響整個社會發展的進程。

綜上所述，相較于之前AI技術的倫理討論，諸如人臉識別技術的誤用導致的個人隱私信息泄露、將偽造技術引入色情視頻等一系列違法犯罪、自動駕駛系統存在的“電車難題”及人機交友軟件改變人類男女情愛關系等，如今相關倫理議題的討論呈更深入更廣泛的維度邁進，人們不僅關注AI技術本身的倫理問題，還包括AI對社會、經濟、文化等方面的影響。

倫理先行

好在人們并未在一路狂飆的技術節奏中迷失，如今的AI倫理討論更加注重倫理先行。就在新技術引發熱議的同時，3月31日，聯合國教科文組織號召各國立即執行其《人工智能倫理問題建議書》。此建議書是首個關于以符合倫理要求的方式運用人工智能的全球框架。它指導各國最大限度發揮人工智能優勢，降低其帶來的風險。

在最新發布的聲明中，聯合國教科文組織對科技創新引發的倫理問題表示關切，尤其是歧視、性別不平等問題，此外還有打擊虛假信息、隱私權、個人數據保護等。行業自律顯然不足以避免這些倫理危害。因此，《人工智能倫理問題建議書》提供了工具，以確保AI的發展遵守法律，避免造成危害，并在危害發生時啟動問責和補救機制。

意大利率先禁用ChatGPT后，4月4日，德國也開始考慮禁用。隨后法國和愛爾蘭的監管機構也表態，“正在與意大利討論其調查結果”。英國方面已提交《支持AI創新的監管方法》政策文件。AI倫理討論呈更加注重國際合作和交流之勢。

我國政府在去年就提出“倫理先行”的概念。在一次聯合國會議上，中國政府提交了《中國關于加強人工智能倫理治理的立場文件》，以表達治理決心，同時也呼吁國際合作。

我國目前已有與人工智能倫理的相關規范和標準。2021年9月25日，國家新一代人工智能治理專業委員會發布了《新一代人工智能倫理規范》，旨在將倫理道德融入人工智能全生命周期，為從事人工智能相關活動的自然人、法人和其他相關機構等提供倫理指引，促進人工智能健康發展。

4月4日，科技部亦發布關于公開征求對《科技倫理審查辦法（試行）》（以下簡稱《辦法》）意見的公告。此次《辦法》提出，從事人工智能的單位，研究內容涉及科技倫理敏感領域的，應設立科技倫理（審查）委員會，并引入專家復核程序，部分算法模型、自動化決策系統需要專家復核。

在司法領域，最高人民法院發布了《關于規范和加強人工智能司法應用的意見》，明確堅持倫理規則先行的人工智能司法應用理念，提出人工智能司法應用需遵循五項基本原則。其中第三項原則明確了人工智能輔助的結果只能作為參考，司法審判始終只能由審判人員作出。

綜上，如今的AI倫理討論在議題、理念和實踐方面都有了新的變化和進展，這些變化和進展為AI技術的健康發展提供了更加全面和深入的指導。雖然有觀點認為，倫理審查短期內會影響產品商業化的效率，但從長期來看，則有助于AI行業可持續健康發展。

法國哲學家笛卡爾早就說過：“杰出的人才固然能夠做出最大的好事，也同樣可以做出最大的壞事；行動十分緩慢的人只要始終循著正道前進，就可以比離開正道飛奔的人走在前面很多。”

科技之花是善是惡，全在人類內心的道德倫理。