醫學人工智能威脅論的哲學辨析*

趙亮英

2017年1月4日，在AlphaGo打敗世界圍棋冠軍柯潔前夕，四川成都進行了一場人類與醫學人工智能(artificial intelligence，AI)的另一場對戰：463名超聲醫生對戰一個名為“安克偵”的甲狀腺腫瘤超聲輔助偵測軟件，結局是“安克偵”與醫生們打成平手；但業界認為在效率上，其實AI已經超過了醫生。這一結果極大地促進了醫學AI的迅猛發展，但同時相關的爭論也越來越激烈，例如，AI將會取代人類醫生嗎？當未來我們面對的醫生是AI時，我們該怎么辦？它可以信任嗎？它會不會只是把我們當成和其他人無差別的“機器”又或者只是一堆“數據”來處理？經過AI改造的人可能成為一種新人類嗎？等等。這些問題既是確定當前醫學AI發展方向需要解決的問題，同時也是倫理學和哲學爭論的焦點。本文將從心靈哲學和道德哲學的角度對相關概念和問題加以厘清。

1 醫學AI威脅論的三種論點

近年來，隨著人工智能技術的飛躍性發展，大數據時代的醫學革命也將隨之到來。當前醫學AI的運用幾乎已經涉及醫學的所有領域，包括對疾病進行觀察、評估、治療和護理管理等，甚至有一些私人診所已經出現了“AI醫生”。醫學AI的發展有利于共享醫療資源，促進醫療資源大眾化、公平化，對于提升人類整體的生命健康和福祉都是極為有利的；但是，通過運用AI增強人類的基因、身體能力，甚至是干預生命發展軌跡，也引起了諸多學者的不安和顧慮，進而激發了關于醫學AI威脅的各種論爭。厘清此中的種種論點，可以讓我們更加理性地理解和把握醫學AI的發展現狀和未來趨勢。

在詳細分析醫學AI對人類的威脅是否成立又或者在哪種程度上成立前，我們需要先了解關于AI的基本概念。美國哲學家約翰·塞爾(John R.Searle)[1]在20世紀60年代就提出了強AI的概念，并與弱AI相區別。現代生活包括醫學領域使用的AI技術，主要是通過算法程序使AI模擬人類的“心靈”系統，讓其擁有多層次的復雜推理或學習功能，進而讓AI“自主”完成相關行為，這種技術被學界稱之為弱AI。社會各界對AI技術發展的擔憂，甚至認為AI將是人類社會的“掘墓人”，主要是來自對強AI的擔憂。一般而言，強AI是指可能像人類一樣具有自主意識和思維能力的AI，從而與弱AI有質的區別。AI威脅論主要就是指這種具備像人類一樣具有自我意識和自由意志，又同時擁有了各種“超級能力”的AI會對人類造成怎樣的威脅？根據達爾文的生物進化論，強者生存，優勝劣汰，這種強AI會不會對人類取而代之，成為一種新的物種？又或者使人類成為AI的附屬品甚至是奴隸等。這種AI威脅論的核心和實質就是對AI具有了自我意識之后一系列問題的思考和擔憂，這也是醫學AI威脅論的來源之一。例如，會不會出現這種具有自我意識的AI醫生？如果出現了，它們是否可以完全替代人類醫生？人類能否控制這種全能的AI醫生？等等。

如果說具有人類“心靈意識”的AI醫生是否可能，是關于強AI的、未來的、“不可知”問題，因而不在一些學者和研究者的討論范疇內；但現實中各種醫學增強計劃的出現和相關研究成果地爆出，刺激并引發了新一輪關于醫學AI威脅論的爭論。例如，這幾年聲名大噪的特斯拉公司CEO埃隆·馬斯克(Elon Musk)的“腦機融合人”計劃，試圖通過醫學AI手段增強人類的各種能力，包括記憶、認知和運算等，不僅要增強人類的身體能力，還包括干預、塑造人類的思想意識。但是，這種“腦機融合人”還是自然人嗎？對于AI在這類領域的研究和運用會不會重新改寫人類物種的性質？我們該如何對待腦機融合人引發的倫理、法律問題？等等。這是醫學AI威脅論的第二個來源，即通過醫學AI增強人類所帶來的威脅。

此外，在各種政策和世界潮流的刺激下，“AI+醫療”近年來受到了各國科技巨頭和企業的青睞，爭相涌入醫學AI的研究和實踐中。但是，當前AI在醫學領域的運用和發展還是處在一個低水平和不完善階段，確切地說，還只是處于弱AI技術發展的起步階段，業界不僅沒有明確醫學AI的安全系統評估標準，也沒有專門的法律法規規范醫生和AI技術人員的權責，從而引發了對醫學AI服務的不信任；加上當前因AI技術的不完善、數據偏差、數據泄露造成的隱私泄露和安全事故等問題頻頻出現，進一步激發了業內外對醫學AI發展的擔憂。這是關于醫學AI威脅論的第三種考量。

需要注意的是，以上三種AI威脅論的爭論要點不盡相同，要區別對待。第一種醫學AI威脅論的關鍵點在于：AI醫生是否可能具有人類的意識從而對人類造成威脅；這實際上是涉及哲學上的“意識難題”(the hard problem of consciousness )或強AI是否可能的問題，即如何用物理方法或科學方法來說明我們為什么具有主觀性的感受性和意向性意識的問題[2]。對這個問題更多的是哲學和科學理論上的論爭與碰撞。第二種AI醫學增強技術和第三種醫學AI運用威脅論，其關注點在于現實醫學AI的研究、運用和未來發展趨勢，涉及的是我們要如何運用AI技術以及當前醫學AI要如何發展、向著哪里發展的問題，是現實的實踐問題。接下來，筆者將對這三種威脅論一一給出分析。

2 醫學AI威脅與意識難題

前面已經提到，AI可以分為強AI和弱AI，所謂醫學AI威脅論首當其沖就是有沒有可能出現像人類一樣具有自我意識和自由意志的AI醫生？隨后才有AI醫生是否可以信任，它是否會對人類醫生取而代之等系列問題。該威脅論的關鍵點就在于因強AI的出現而引發了對未來醫生命運甚至是人類命運的擔憂和恐慌。那么，強AI是否可能呢？也即是說，具有意識和自由意志的AI醫生可能嗎？這不僅是一個關于AI技術發展的科學難題，更是一個哲學問題。AI醫生能否產生“意識”，其實就是追問意識的本質，這是關于意識的“難題”；也即是要從哲學和科學的角度解釋清楚具有第一人稱特點的“意識”是如何產生的、與物理結構(大腦)如何發生關系或作用的問題。倘若能夠論證純粹由物理結構組成的AI醫生不可能產生具有第一人稱特點、生物性質的感受性“意識”，那么就可以消解第一種醫學AI威脅論，具體分析如下。

當今世界知名的心智和語言學家約翰·塞爾在現代物理學和生物進化論的理論基礎上，提出了心靈理論的生物自然主義立場(biological naturalism)，把意向性(intentionality)看成是人類主要的心靈現象，從意向性的角度展開了對人類心靈意識的研究，進而形成了塞爾關于語言哲學和心靈哲學的意向性理論。對于意識的本質，塞爾[3]提出了兩點：首先意識是一種自然的生物現象，是低層神經過程在大腦系統突現的一種特征，這是意識的物理基礎。部分物理主義者也正是根據這一點，認為隨著科技的發展，AI的物理結構必定能夠與人類大腦的神經網絡相媲美，進而可以模仿大腦神經功能，以解決AI的“意識難題”。但是他們都忽略了意識本質的第二個特征，即意向性意識與大腦的特殊因果作用。

塞爾[4]的意向性理論中指出，意向性意識與大腦之間存在因果作用，但是這種因果作用并不是傳統休謨式的因果關系假定，而是具有自我指稱性質(self-referential)的 “意向性因果關系”(intentional causation)；正是這種特殊的意向性因果關系使得內在的、主觀的心靈意識具有關指外部世界的能力。那么，具體意識是如何在人類的大腦中產生的呢？塞爾談道：“意向性是心靈借以內在地表征(represent)世界上的物體和事態的特征。但是，我們的心靈與世界處于經常地因果聯系之中的。當我們看到某一事物時，我們所看的物體引起我們對它們的視覺經驗。當我們回憶過去的事件時，那些過去的事件引起我們現在的回憶。”例如，假設“你看到了一朵鮮花，心情非常好”，如果有人問：“是什么引起你具有關于那朵花的視覺感受？”那么自然而然的回答肯定是：“我看到了那朵花。”在這里，視覺經驗，即關于那朵花的感受性意識本身既是產生視覺經驗的原因，同時它又表示了視覺經驗的結果。

也即是說，意向性因果關系的自我指稱性質使得意識既是產生大腦微觀神經過程的原因，同時也是大腦微觀神經過程產生的結果，原因和結果是意向性意識狀態一枚硬幣的兩面，同時發揮作用[5]。意向性因果關系的特殊性決定了意向性意識的特殊性。塞爾[6]認為，意識是一種主觀本體論的存在，是一種主觀的、內在的、定性的感知(sentience)或覺識(awareness)狀態，只有當意識被“主體”經驗到時，它們才是存在的；并且這些感知或覺識的經驗本身，就是存在的意識，是第一人稱的主觀本體存在。此外，塞爾[7]進一步由此斷定，人類意識的主觀本體論地位和物理世界的客觀本體論地位一樣，是我們所在的這個唯一的客觀世界所存在的兩種不同性質的本體論，都是這個世界的原初存在，因而主觀本體論不能還原為客觀本體論的實在，具有不可還原性。

換言之，一方面，意識的產生與大腦的物理結構密切相關，是整個大腦和人身體相結合在一起、經過上億年進化而來的生物系統所突現的一個特征；另一方面，意識主觀性特征具有特殊性：我們“經驗”到意識的同時也是客觀神經作用的過程，意識的產生過程同時也是人類具有意識感受的過程，是一枚硬幣的兩面。此外，筆者認為，相對于人類而言，這種第一人稱的主觀性特點是意識的“靈魂”所在，即人類的“靈魂”所在。所謂意識的不可還原性，主要就是指意識感受的主觀性和私人性，只能以內省的方式被覺知，而不能被任何第三人稱的觀點加以驗證或解釋，更不能還原為任何物理的因果關系。正如內格爾[8]所談到的，我們永遠也無法得知“成為一只蝙蝠是什么感受”。物理世界不存在感受性，只有主觀的心理世界才存在感受性(意識)。AI作為一種科技成果，仍然是以第三人稱視角進行的研究；即使隨著科技的發展，出現了全仿真人腦神經結構的AI，也無法產生人類意識，因為物理結構產生的AI無法產生具有自我指稱性質的因果力，因而無法產生具有第一人稱、主觀本體論特征的意識“感受”，當然也無法讓AI體驗到人類的“意識”感受。

如果說“意識”是AI醫生與人類醫生的分割線，那么，AI醫生就不可能對人類醫生的存在構成威脅，因為它終究只是一個技術工具，盡管它很“智能”，可以為我們提供很多數據、策略，給出最優方案，但它只會是醫生的最佳助手，人類醫生的自我意識和自由意志是不可還原的。也即是說，具有像人類一樣具有自由意志和意識的全能AI醫生不可能，AI醫生也不可能成為一個獨立的道德主體和行為主體，如此也就不存在AI醫生能否替代人類醫生的問題。這樣，就消解醫學AI的第一個威脅論點。

3 醫學AI增強功能威脅與自由意志

前面分析表明，雖然強AI在概念上是完備的，但是由于意識的不可還原性，具有人類意識和自由意志的全能AI醫生不可能存在，進而可以消解強AI醫生威脅論；因此，如果醫學AI的威脅真實存在，那么也應該是來自弱AI，即來自當前醫學AI的應用和發展中的威脅。當前醫學AI的發展和運用具有兩重目的：醫學治療和醫學增強。前面提及的第二種和第三種威脅論點主要和醫學AI的這兩種運用相關。接下來，先來看有關醫學增強的威脅論點，筆者認為這才是醫學AI發展的真正威脅所在。

隨著生命科學和神經科學的發展，醫學AI已經不僅僅是用于診斷和治療疾病，諸多科研團隊和公司的直接目標導向是要通過AI技術增強人類的各種能力，即“醫學增強”功能。簡單地說，所謂“醫學增強”或者“生物醫學增強”(biomedical enhancement)是指，通過生物醫學技術，在分子層面甚至是更微觀的層次，對身體和大腦進行深度干預、改造和設計，使之具有超越自然人本身的各種能力[9]，如進行基因改造、記憶移植、知識填充等。例如，前面提到的特斯拉公司的CEO馬斯克，據說正是基于對前面提到的強AI的焦慮，甚至是恐懼，想要先發制人，強大人類自己，從而創辦了Neuralink公司，試圖用腦機接口技術(brain-computer interface，BCI)把人類變成超人類。雖然其創辦Neuralink公司的動機我們無法求證，但是在2020年8月29日，Neuralink公司發布了他們關于腦機接口的最新成果：將指甲蓋大的小芯片植入小豬的大腦，以探測小豬腦神經元活動，讀取小豬的腦部信息，已經通過實現腦機接口的融合對于治療人類的腦部疾病及其他衍生疾病問題，具有劃時代意義和價值。2021年4月9日，Neuralink公司又展示了一只9歲的猴子用意念玩電子乒乓球游戲的視頻，實現“半機械人”或“腦機融合”的超級人類指日可待。正是類似這種腦機融合的醫學增強技術的運用，引發了各界對醫學AI的擔憂和論爭：經過深度腦機融合的人還是自然人嗎？腦機融合人與自然人有什么區別？超級人類的出現會不會加劇社會的分化？等等[10]。筆者認為，這是AI醫學增強技術的最大威脅所在。

馬斯克的“腦機融合人”計劃的關鍵點在于腦機融合技術或者說是腦機接口技術，其大概原理就是要在人腦中植入一個芯片，這個芯片可以實時讀取人腦電波，無線對外傳輸，從而可以代替人類的各種器官，實現與外部世界的互動。例如，在自然人類中，當人早晨起床餓了，大腦會將想要吃早餐的信號傳遞到我的手和腳，讓手去拿面包或走進廚房做早餐；或者傳遞給聲帶，說出“我要吃早餐”的語言，通過身體的外部行為或語言表達并實現自己的意圖。但通過這個腦機融合技術，當人的大腦發出“我餓了”的信號時，這個信號可以通過芯片連接的超級電腦把人的需求翻譯出來，并生成各種指令，讓連接的電腦、機器人或其他設備替代人完成以上的各種行為。也即是說，當你感覺累了，不想動了，你都可以通過你的意念控制或連接的機器人(或電腦)幫你完成你想做成的事情。還需要提醒注意的是，用意念控制機器只是Neuralink公司腦機融合技術發展的第一步計劃，下一步是要通過芯片達到記憶、知識、技能的移植，甚至在短時間內就可以讓腦機融合人獲得一般人類無法擁有的各種超能力。倘若第二步計劃真能夠實現，那么通過芯片改變人類大腦的運行方式，甚至通過芯片給它植入任何“操作者”希望它擁有的道德觀念、政治立場、思想意識等，進而改造人類意識，都將是可能的；也即是說，倘若馬斯克的“腦機融合人”計劃順利實施，科幻電影中擁有各種超能力的“超人”、武俠電影中的“意念”交流都不再科幻，甚至玄幻小說中的“靈魂替換”也不再是玄幻故事，因為人類記憶、能力、信息的儲存和移植，這不就意味人類“靈魂”的移植嗎？

2021年5月，Science發表了一篇關于腦機融合技術研究進展的論文《Abrain-computerinterfacethatevokestactilesensationsimprovesroboticarmcontrol》，文章指出：當前的腦機融合技術主要是通過視覺反饋來幫助四肢癱瘓患者進行功能性運動，但是僅僅依靠視覺反饋會使得行動緩慢而且笨重，可以通過雙向BCI系統，模擬已知的感覺運動回路的工程方法，在一定程度上實現對觸覺的反饋，以提升患者AI肢體的性能[11]。那么，這是否意味著人類的感受性意識可以還原為神經運動呢？筆者認為，答案是否定的。根據文章中對人工觸覺系統的說明可以推知，觸覺反饋仍然是一種功能結構上的反饋或模擬，或者說就是通過傳感器對神經運動的刺激記錄人類觸摸到各種物體的神經運動過程，再通過BCI系統指引AI肢體行為，以達到類似健全人類的感知-神經-行為效果。但是，這并不意味著四肢癱瘓患者就真的能通過AI“感受”到這個“軟軟”的物體，從而行為上會小心翼翼，害怕它受到傷害或破壞，而只是通過AI傳感器的反饋并從BCI神經數據庫辨別了這是個軟軟的物體、容易被傷害，然后再做出相應的行為反應。

雖然目前對腦機融合技術的研究仍然還只是處于初級階段，但是其原理基本是一致的；因此，Neuralink公司倘若是想通過醫學AI的發展，對人類意識，包括情感、欲望、喜好等感受性意識的直接移植，這是不可能的，因為意識不可還原；但是作為存儲的知識輸入或移植則是可能的，即把一個自然人的記憶、認知、情感、欲望“說”出來后，存儲到“芯片”或其他介質中，再通過醫學AI技術接入大腦，就像在大腦中裝了一個存儲了各種“意識”的數據庫，進而對被移植人的“意識內容”進行干擾或誘導，達到改造意識的目的，這是可能的。那么，這個被植入他人記憶、情感、欲望和認知信息的腦機融合人，他是誰？能夠被“操作者”隨意“修改”，甚至編造記憶，進而影響其行為能力的腦機融合人還是人嗎？如果是人，通過醫學AI增強的“腦機融合人”對我們這種沒有增強過的“自然人”會構成威脅嗎？如果不是人，只是另一種有著人類軀體的“AI”，那么我們能夠控制它們嗎？雖然筆者也認同，作為一種有利于整個人類身體健康福祉的新科技，我們應該以包容和積極的態度去認識它們，但是當這種技術發展顯然威脅到人類的生命延續和人類命運時，我們就應該提高警惕，直面以上問題。

究竟什么算作“人”？或者我們更直白一點問，通過記憶移植、擁有超強認知和各種技能的“腦機融合人”是不是人？在直覺上，作為一個正常的、普通的自然人，我們是拒絕承認的，甚至是反感、恐懼的。為什么呢？因為不論是在常識還是在哲學討論中，一個正常人的核心或者靈魂是擁有“自我意識”或“自由意志”，這也是我們在前面分析并提到的強AI醫生與人類醫生的分界線，也即是說，“腦機融合人”是不是人就在于確定其是否擁有自我意識或自由意志。

雖然對于什么是“自由意志”在學界有各種解釋，但是筆者認為，所謂“自由意志”就是“我”能夠完全自主掌握自己的思想和信念，可以根據自己的情感、欲望、偏好和認知，進而做出各種判斷和行為方式。雖然這種“自由”在一定程度上會受到現有社會歷史條件的限制，但是這種限制是一種非常寬泛的影響或限制，可以看成是整個人類歷史文化的積淀作為一個人意識網絡的“背景預設”而存在；例如，我們理解并知道面包是用來吃的、手機是智能通訊工具、汽車是交通工具等。除此之外，我們對自己的思想和認知擁有絕對的選擇權，對于我是誰？我想做什么，我怎么做，在我的意識認知中都具有自主選擇權。

“腦機融合人”通過醫學AI增強，可以借助芯片或其他介質間接擁有前輩的知識、信息和記憶，這些知識、信息和記憶當然會可以進一步影響“腦機融合人”的情感、欲望和行為方式等；那么這樣的“腦機融合人”還會有“自我意識”嗎？這個“腦機融合人”到底是誰？是前輩還是自己？或許有人會說，“腦機融合人”可以把前輩的認知和記憶等當成是一種教科書的知識儲存，通過分辨“這是移植給我的記憶、知識和能力……”和“這是我自己的經驗和認知……”而擁有自我意識。可能嗎？筆者認為答案是否定的，因為這兩者是不可分辨的。可以想象一下，我們從小通過學校、家庭教育和生活實踐中學習到的知識、經驗、價值取向等與自己的欲望、情感、認知能力是可分辨的嗎？進入人類思想意識的這些記憶和認知，即使一開始我們能夠分清這是在學習“知識”的過程，但是在各種生活實踐和社會實踐中，這些認知必定會與我們的自我意識相互影響，直到相互融合。也即是說，腦機融合人擁有了不屬于自己的各種記憶和認知，必定會與自己的記憶、情感、欲望和認知相融合，進而影響其價值判斷和行為方式；在這個意義上，筆者認為腦機融合已經不具有自由意志，其擁有的自我意識已經是融合了“操作者”給它植入的認知信息，不是一個完全意義上的“人”了。

其次，前面我們還提到的Neuralink公司的第二步計劃，這一計劃一旦實現，就可以根據需要對“腦機融合人”的欲望、情感、認知和行為方式進行干預、修改，甚至是設定，而不僅僅是植入信息；雖然前面分析已經表明意識是不可還原的，但通過其他介質在“腦機融合人”的頭腦中植入大量的“設定”信息以干擾其意識，這是可能的。倘若如此，被修改、干預和設計了各種情感、欲望和認知內容的“腦機融合人”實際上就完全失去了“自我意識”和“自由意志”，只是一個有著人類肉體的超級AI。其中所隱含的威脅就更加明確了，例如，操縱這些超級AI的“控制者”會不會凌駕于所有自然人類之上？這些超級AI會不會被不法分子利用？誰將會成為這種“超級AI”？超級AI會不會脫離控制，成為一種“新型物種”進而對自然人取而代之？所有種種，都將成為可能。而且這些威脅一旦成為現實，其對人類命運的毀滅性打擊將是不可逆的。或許還有人會說，可以通過各種倫理法規來限制這種腦機融合技術的發展，讓自然人和“腦機融合人”和平相處；的確，當前世界各國對AI討論如此之熱烈，就是在找尋最恰當的方式來引導和規范相關的研究和運用；但在真正的威脅來臨之前，我們需要理性認識醫學AI的發展進度，保持警惕和關注。

4 醫學AI治療中的倫理和安全威脅

此外，還有醫學AI在運用過程中所帶來的第三種威脅，即在醫學診斷和醫學治療過程中的權利和責任、技術安全與醫學倫理方面的威脅，那么這些威脅是否存在呢？首先，在醫學診斷方面，傳統醫學診斷，如中醫診斷的基本方法是“望聞問切”，在西醫中則是借助各種影像醫療技術，基本要求就是需要“看”到病人的癥狀。現代醫學AI在這一領域的發展迅速，人類也從中獲益不少，如本文一開始就提到的“安克偵”與463名超聲醫生的對戰。AI通過完備的數據儲存和超強的計算能力，可以“看”得更仔細、更深入、更全面，從而得出更加可靠和全面的數據。并且，基于醫學AI技術上發展起來的各種“云診斷”“AI醫生”等可以使得看病問診變得更加便捷以及大眾化，有利于促進實現醫療資源的公平化，全面提升人類健康水平和生存狀態。但是，AI診斷的主要方向就是通過“大數據”和“云計算”來判斷疾病的來源及癥狀，進而“計算”出各種治療方案及其治療效果。這一技術的進一步深入發展，必然會涉及“問詢”或者直接大數據查閱病人的生活習慣、做過什么事情、去過什么地方、身體基因有什么問題、家族有什么遺傳疾病等信息，這便引發了對個人隱私保護及信息安全的問題；包括AI所依據的病例信息從何而來、就診患者的隱私信息從何而來、由誰保存、誰有權查閱、如何保證這些信息數據不被泄露等，這些都是醫學AI發展中必然要面對和解決的現實問題。

其次，我們知道，在中醫的“望聞問切”中，有望其精神氣，聞其音是怒、喜、清脆還是渾厚，聞其身是香還是酸腐臭等，即便在西醫看診中，也是需要與病人面對面察言觀色再輔以儀器；對于這些需要通過醫生“感受”的癥狀AI能夠診斷出來嗎？我們知道，當前AI醫療診斷的原理是把人體“數字化”，即從大數據平臺把患者日常生活中的習慣、方式等可能引發的各種分散問題數字化，然后根據大數據計算出大多數情況患者會有什么癥狀和后續問題、大多數醫生或患者面對此類疾病時會如何選擇處理、相應的風險等，進而向患者提出個性化的治療方案。在這個過程中，AI所提供的“共享”的最優治療方案都是基于理性的大數據，給出的標準答案；也即是說，患者的自我價值、主觀情感或情緒意識等都不在AI的診斷能力范疇內，而只是或至多只能從復雜的數據中推測此類“意識”狀態可以接受的最佳治療方案。但是我們知道，患者的情感、意識對于治療是非常重要的，最極端的如：是選擇有尊嚴的死去還是活著，這將直接導致不同的治療方案。但是因為意識的不可還原性，人類的情感意識和感受性也不能還原為數據，所以即使再“智能”的AI也無法通過精密的大數據和運算觀察到并理解病人的情感意識，因而其提供的醫療治療方案只能是“僅供參考”。從這個角度看，對AI的診斷是否可靠提出質疑也是合理的。

最后，在醫學治療方面，在運用AI技術治療過程中，倘若是因為AI技術程序上的失誤而導致的醫療事故，責任應該由誰承擔？這里便涉及到醫生和AI技術研發人員(部門)的權責以及醫生的職業道德等問題。我們知道，醫生在成為醫生的過程中，經過了長達至少5年～10年的專業訓練，其中不僅僅是醫學知識和醫學技術的學習與訓練，還包括醫生職業道德的熏陶和塑造，如人道主義精神、尊重病人、嚴謹求實等。那么，在AI技術轉化為醫學運用過程前，AI技術的研發是否應該植入專業的醫生職業道德，如何植入？醫學AI技術的研發可以遵循提升人類生命健康的目標，拋開各種利益因素的影響嗎？例如，在傳統醫學治療過程中，往往是醫生根據自己的經驗，甚至是價值偏好，在與患者商量的情況下，采用相應的“保守”或“激進”治療方案；所以在傳統醫學治療中，除去外在技術設備，醫生的認知能力、經驗和判斷非常重要。也即是說，“為一個特定的患者選擇最佳的治療方法需要患者和醫生的價值判斷”，醫生需要根據患者的價值取向，進行相應的選擇，所以有不同的醫療決定適合不同的人之說。也即是說，在醫學AI的研發中，當然需要植入這種倫理價值；但是該如何植入？我們知道，AI醫生即使通過算法和程序具有一定的自主性，能夠在程序設定下模仿人類的道德和行為，但是它仍然只是一個代理器；植入的程序是否完善、合理直接影響其判斷和行為，那么這是否又意味著我們要對AI的研發人員進行醫學倫理價值培養？在當前醫學AI技術的研發和使用過程中，我們需要仔細和全面考慮不同患者的情感意識和價值觀念以及如何讓AI在使用過程中更加“智能”地應對這些問題。

以上已經提及了當前醫學AI治療運用中主要面臨的三種問題，但是筆者認為，我們只需要關注兩點：其一，像人類一樣具有自我意識的AI醫生不可能出現，再智能的AI也不可能有自己的情感意識，因而也無法像人類醫生和患者之間的交流一樣來處理患者的情緒、情感和深層次的價值觀抑或是信仰問題；這同時也決定了醫學AI只能是人類醫生的高級助手，而不可能成為一個獨立自主的AI醫生，其診斷僅供參考，因而不構成威脅。其二，通過AI醫學增強創造的超級人類或“腦機融合人”，存在著消除人類自我意識，把人類變成超級AI的危險，是我們需要真正面對和警惕的威脅。除此之外，以上提及的在醫學AI治療和發展過程中遇到的隱私安全、技術可靠與否、職業道德等各種問題，甚至還有關于醫學AI 的其他政治的、社會的、技術的等各方面的問題，我們終將可以通過法律和技術的不斷發展和完善，對之一一加以解決。這是一個通過時間和實踐可以逐步解決的問題，當前世界各國不定期舉行的各種有關人工智能發展的會議也從側面反應了人類的決心和能力，如此，第三種威脅論點也可以消解了。

5 結語

綜上分析，像人類一樣具有自我意識和自由意志的AI醫生不可能存在，因為人類的意識不可還原，通過純粹的物理結構不可能制造出具有生物意識功能的AI，因而不構成威脅。但是隨著醫學AI的發展，AI介入到人類身體、意識、生命過程中的方式越來越多，特別是腦機融合人的出現，存在消除人類自我意識，把人類變成超級AI的威脅，這種技術一旦失控又或者被不法分子利用，將會給人類帶來不可逆轉的災難，需要保持警惕。除此之外，隨著醫學AI技術的發展，其中各種倫理的、技術的、職業的問題，都可以隨著法律的完善和技術的發展逐步解決；無論醫學AI先進到哪種程度，都將只是人類醫生的高智能助手，是人類的福祉而不是威脅。