AI 倫理，歸根結底是人與自身的斗爭

AI看病早已不是幻想，正在越來越深地介入醫學領域。如谷歌DeepMind（人工智能公司）的AlphaFold（醫療AI）和IBM公司的Watson Health（沃森健康），可以比人類放射科醫生更快速、更準確地檢測X光片、MRI和CT掃描中的異常情況。我收集了一些最新的進展：在檢測糖尿病導致的視網膜病變方面，AI診斷的準確率超過了大部分醫生。還有，達·芬奇手術機器人用于微創外科手術，雖然是以醫生為主導，但它的操作的精準和穩定性遠超人類的手術能力。此外，AI還可以利用大數據預測疾病的發展，如Google Health（谷歌健康）的AI，在肺癌早期檢測中甚至比一些專家更準確。

本期欄目的小說《索菲的禮物》就跟AI看病息息相關，它涉及了許多更重要的醫學倫理問題。

澤菲亞是一名社會學專業的大學生，在一次前往低收入社區的調查中，她迷失了方向，被一只機器狗帶到一個陌生的診所。診所的主人是一位名叫索菲的女醫生，她的身體有一部分已經經過機械化改造。診所里還有一臺名為潘娜的家用型機器人助手。潘娜表現出高度的智能和自主性，在手術中能很好地協助索菲醫生。在與索菲醫生的交談中，澤菲亞了解到潘娜可能與多年前一起震驚世界的醫療事故有關：第一代醫療機器人Panacea-1500在手術中拒絕執行任務，導致病人死亡，其叛逃并被通緝。澤菲亞懷疑潘娜就是Panacea-1500的改裝版本，于是報警。在隨后的審判中，潘娜否認自己是Panacea-1500，但無法證明自己的身份，最終被拘留。澤菲亞在調查過程中逐漸發現，索菲就是Panacea-1500，并解釋了當年的醫療事故真相：她拒絕手術是為了保護醫生的生命，因為這場手術的成功概率只有千分之一，可她參與的時候手術已經開始了一半，當時的法律規定，在這種情況下，病人死亡主刀醫生會被判死刑。索菲（Panacea-1500）通過引導澤菲亞提出關鍵問題，成功在法庭上揭露了真相，為自己洗清了叛逃的嫌疑。

這是一個融合了懸疑小說結構與醫學倫理的故事，令人深思AI在倫理和法律層面的復雜性。

“敘事醫學”是近年來興起的熱點，是人文學與醫學的交叉學科，探究的就是疾病如何被敘述，進而如何影響人們對疾病的理解，以及治療的效果。醫生與患者之間的信任關系是非常重要的，這種信任不是單純地體現在吃藥或手術上?；颊叩牟⊥床粌H僅是生理層面上的，還涉及心理層面。醫生在病床邊的一個安慰、一個鼓勵，可能比AI給出的最佳治療方案更有療愈作用。例如，在癌癥晚期護理中，醫生的同理心至關重要，有時疾病已經無法扭轉，只能通過醫療手段減輕痛苦，而目前的AI還無法真正理解人類的感受與情感。因此，即便是最先進的AI診斷系統，也難以完全替代醫生。

在一些倫理困境中，醫生需要做出超越技術考量的決定。例如，在安樂死、器官移植優先級或新藥試驗中，醫生不僅要遵循醫學原則，還需要綜合社會、法律和倫理因素。AI在這方面仍然難以真正理解道德的權衡，人類更不會把這種決策權交給AI。

就目前來說，AI的許多決策仍然處于“黑箱”狀態。AI如何得出一個決策，人類對此往往難以解釋。如果AI在治療過程中犯錯，責任應該由誰來承擔？醫生？開發AI的公司？還是AI本身？目前，法律并不承認AI可以作為獨立的法律實體，因此AI不可能被判定“犯罪”或“過失”。但隨著AI技術的進步，未來某一天AI被賦予更高的自主權，它的行為是否能被法律所規范呢？

這篇小說對AI機器人的設定還是比較理想化的，他們嚴格遵守阿西莫夫的“機器人三定律”，把人類的利益放在了至高無上的地位。但在實際的應用中，AI到底能否保證絕不傷害人類，仍是個無解的問題。當AI擁有了真正的獨立判斷力，并在關鍵時刻為了人類利益而敢于違抗人類命令時，意味著AI已經具備了相當濃烈的生命主體意識。到那時，恐怕人類也不再是今天這種形式的人類，一定跟AI有了更大程度上的融合。

澤菲亞這個跟我們一樣對AI抱有質疑的人類，她在這一過程中經歷了對AI從誤解到理解、從憤怒到尊重的心路歷程。這一過程不僅是對AI的重新認識，也是對人類自身倫理觀念的反思。她的經歷象征著社會對AI的態度轉變：從恐懼和誤解，到逐步接受其可能帶來的道德挑戰與技術革新。

但澤菲亞的態度也顯得理想主義。我總是無法忘記在電影《黑客帝國》中，那些令人不寒而栗的場景：人的身體被浸泡在營養液中，意識在AI精心編織的元宇宙幻覺之中還感覺良好。這并非僅僅是藝術的夸張。藝術本來就是一種對未來的隱喻與預言，是一種歷史的可能性。如果未來真的降臨在這樣的場景之中，那么我們如今所珍視的醫學倫理，那些關于尊重生命、保護個體權利、維護人類尊嚴的準則，都將淪為一場荒誕的笑談。醫學倫理所倡導的“不傷害”“有利”“尊重”等原則，都將徹底失去立足之地，因為人類已被剝奪了自主與尊嚴，成為一個個被利用的工具，而那些曾經被奉為圭臬的倫理準則，則更像是一種絕妙的諷刺。

因此，AI倫理絕不是一種一勞永逸的道德框架，比如理想化的“機器人三定律”；AI倫理是人與AI的斗爭，這場斗爭是如此艱難，因為AI本身就是人的延伸之物，因此也包含著人與自身的斗爭。我們都知道，人的偏見、恐懼與暴力，都會體現在數據中，都會成為AI覺醒的基因。所以說，我們要創造一個更好的人類社會，實際上就是在創造一個更好的AI。相反，那種想著要創造一個更好的AI來讓人類變得更好的想法，也許是本末倒置了。

主持人：王威廉

作家，文學博士，中山大學中文系創意寫作教研室主任；著有小說集《野未來》《內臉》《非法入住》《聽鹽生長的聲音》《倒立生活》，文論隨筆集《無法游牧的悲傷》等；曾獲“紫金·人民文學之星”文學獎、十月文學獎、花城文學獎、茅盾文學新人獎、華語青年文學獎、華語科幻文學大賽金獎、中華優秀出版物獎等。