刑法視野下的醫療人工智能問題研究

顧曉濤 高志昊 聶新越

摘要：當前現代人工智能發展的重點方向之一便是醫療人工智能，其功能對于現代醫療領域中對診斷、醫療的精細程度的提高、醫療風險的降低大有裨益，但同時它也具有一定弊端，它無法徹底替代傳統醫學中醫生的角色，在刑法視野下它也無法作為醫療行為和醫療犯罪的主體。醫療人工智能應用使醫生在承擔充分告知義務時遇到了相應的困境，因此需要合理規范人工智能輔助醫療活動與中醫生告知義務的邊界，完善患者獲得醫療資訊的渠道，全面保護病人的知情同意權，同時需要形成有益的醫療人工智能發展機制，以處理醫療人工智能應用環境中醫師的注意力問題。

關鍵詞：醫療人工智能;刑法視野;人工智能刑法地位

新一代人工智能已具備了自主學習適應的能力，并應用于中國經濟社會各方面，而醫療行業也是人工智能發展的重心，目前中國醫療人工智能企業占比達到了百分之二十二[1]。醫療人工智能技術可以減少資源的緊張、提升診治精確度與效果，國家《新一代人工智能發展規劃》中提出"推廣應用人工智能治療新模式新手段，建立快速精準的智能醫療體系"。刑法在保護合法權益的同時，又要保證醫療人工智能迅速應用、安全且健康地發展，所以，很有必要探究在刑法視野下醫療人工智能帶來的新挑戰。

一、醫療人工智能給刑法帶來的新問題

醫療人工智能即為智能醫療，主要內容包括智能診所信息管理、人工智能診療、人工智能慢性病信息管理、人工智能藥品研發生產和醫療智能監護，以及流行病智能檢測與防控等。醫療人工智能引發的刑法問題范疇相當廣泛，部分問題與刑法無關如人工智能慢病管理等相關的法律問題，但部分問題是中國傳統刑法問題在人工智能應用環境下的新發展，可以在現有刑法范疇內妥善處理，如泄漏或者非法使用病人的診斷信息或者隱私等。在筆者看來，醫療人工智能向有關醫學方面的刑法提出了這樣的一個問題：醫療人工智能的刑法地位問題。就目前而言，醫療人工智能在醫療方面的實際運用方向主要為醫療影像輔助診斷、臨床應用輔助決策以及機器人手術，這些應用在實際操作方面展現出了驚人的精確、快捷，但是醫療人工智能也會出現失誤，甚至導致重大損失。假如把醫療人工智能系統作為普通醫療器械對醫師追責，不能滿足醫生行為實際作用的事實，會引發社會對醫療人工智能使用的強烈抵觸，那么，醫療人工智能系統可不可以成為單獨的醫事犯罪主體？假如不可以，醫療人工智能的刑法地位又如何？

二、醫療人工智能在刑法上的地位

人工智能是否應該被賦予為刑事責任主體或犯罪主體地位，在刑法學界中產生了截然不同的看法。其中一部分研究者指出，"超出設計和編制的程序范圍，在自主意識和意志的支配之下實施嚴重危害社會行為的智能機器人可以成為刑事責任主體"。[2]相反的研究者指出，"人工智能不管怎么發展，都無法獲得人類的自由意志""刑事責任能力除了需要具備表面的‘認識能力’和‘控制能力’之外，還需要實質判斷要素，即社會中具備責任能力的主體的認同"。[3]爭論的焦點是，人工智能是否擁有"自主意識和意志"以及人們社會能不能承認其具有主體性。"自主意識和意志"的根本意思就是自我判斷、決定，對別人的要求能夠選擇接受或者不接受。無論是自然人或人工智能的"自主意識和意志"，都不能被直觀認知，需要根據其外在表現來判斷。一旦人工智能具備"自主意識和意志"，就會在人們想要操控人工智能系統或是拒絕接受其提議之際，顯示出超乎人們預先設想的對抗反應。其次，"自主意識和意志"不等于"智能"，高度智能的機器可能沒有"自主意識和意志"，只能根據預設程序對外界輸入的信號做出反應，因此當前的人工智能是在歷史數據的學習中發展出來的、以大概率為判斷邏輯的發現并作出最優解決對策的能力，并沒有“進化”出反抗人類控制的能力。未來一旦存在被稱為強人工智能的"奇點"，這種"強人工智能"已經具備了自主意識和意志并能夠抵抗人類的操控，其法律上主體地位的決定權仍在人類，并不可能自然具備。一旦人們賦予了其不受人類控制的權力，就必將使得人們丟失了命運決定權，這就與開發人工智能的基本原則和方針相互背離;而這些擁有自主意識和意志的人工智能的危害活動也當然不被人們所容許，其存在本身同時也不被人類所容許，因此不能夠先賦予其主體地位，且等待其發生了危害活動之后，人們才以討論其刑事責任問題的處理方法。[4]醫療人工智能具有人工智能的共性，但不能夠取得醫療主體地位，也無法作為醫事犯罪的主體。除了上述理由外，還可在醫療人工智能發展現狀和發展趨勢研究中得到上述結果。盡管目前的《人工智能輔助診斷技術管理規范》將醫療人工智能體系界定為"計算機輔助診斷軟件及臨床決策支持系統"，但考慮到治療人工智能技術一直都在研發與使用過程中進行，因此以下論述范圍也僅限于疾病診療領域的醫療人工智能。

（一）疾病診斷和臨床決策領域

醫療影像診斷人工智能并不具備產生自主意識和意志的事實基礎。目前的醫學影像診斷人工智主要進行單小細胞肺癌檢查、糖網眼底檢測、食管癌檢測及其部分病變的核醫學檢查和病理檢查，其過程中只有最后一步匹配和類聚是通過人工智能算法，把特征向量映射為診斷結果。該算法并非事先人為設計，而只是通過計算程序對以往的大量醫療影像及其結果加以學習、并自動適應而形成的分析與評估準則，該標準是動態的，隨后人工智能的學習會導致其改變。前述人工智能算法和傳統醫生的認知訓練遵循著不同的邏輯路線，后者以傳統醫療知識為基礎，其推導過程嚴格地按照傳統醫學的科學知識和規律，而前者則以影像特征和預設算法標準為基礎，對收集到的轉變成數據后的影像特征都計算了其概率，它的運行方式并不直接依靠傳統的醫學經驗和知識，只是對數據信息單純地進行處理。通過大量數據的影像信息處理、全面的特征量獲取與匹配訓練得出的人工智能算法可能具備比醫生更強大的規律發掘能力，甚至能找到一些尚未被傳統醫學所注意的特征量和結論間的相互聯系，加之當前計算機信息體系已具備了強大的計算能力、高精度和不知疲倦的運算能力，就可以更加客觀、準確和有效地實現疾病診斷任務。這類人工智能并沒有進一步發展出"自主意識和意志"。人工智能系統的功能完全由計算機硬件、算法以及已學習的數據決定，其核心內容就是計算;而其計算的算法則由一開始被設計的程序、所接收到的相關影像數據以及所產生的判斷結果來決定，無論最后產生的是什么樣的算法，都只是對前述內容的映射。就算我們將醫療人工智能系統獲取的影像數據還有所統計的結論規模擴大成千上萬倍，也沒有辦法解決上述限制帶來的問題。如果選擇忽視人工智能最根本的數據內涵是其"不自由性"，從而覺得其未來會產生"自由意識和意志”，甚至到一定程度后不需要醫生的主觀能動也能夠發展出更高水平的醫療技術，這是違反科學性的不切實際的幻想，更不用說賦予醫療人工智能醫療行為主體與醫事犯罪的主體地位。臨床診斷方案方面輔助決策的相關醫療人工智能，同樣不可能存在所謂的“自主意識和意志”事實。和前述的醫療影像與人工智能計算管理系統類似，其智慧主要源自于對病歷、疾病文獻和臨床診斷個案數的掌握，醫生對特定病癥的了解越深入，治療效果就越好、愈穩定，向信息系統提交的有效治療個案數愈多，該信息系統所給出的方案設計品質也愈高，即受限于信息系統初始算法、已有的醫學知識文獻和訓練的有效治療臨床病例的個案數據。通過采用更多的特征量，分析更多的醫學文獻和臨床案例數據，可以訓練出更強算法，甚至還可以發現當前醫學所沒有發現的新醫學知識和診療方案，但它仍只是通過分析過去醫療實踐的知識發現，還不能跳出目前所掌握數據的局限，無法實現醫學方面的創新，更不能夠形成"自由意識和意志"，當醫生不采用其最佳的治療方法或者采用不推薦方法時，也不能夠避繞或者對抗醫生的反應，沒有一個醫學文獻認為醫療人工智能可以成為醫療行為主體。

《人工智能輔助診斷技術管理規范》中明確將前述醫療人工智能界定為輔助工具。該標準第三款規定："應當由二名以上具備五年之上與從事人工智能輔助和診斷治療技能有關專業知識臨床診治管理工作經歷的醫生作出決策并提出治療建議。由具備五年之上與從事人工智能輔助和診斷治療技能有關專業知識臨床診治管理工作經歷的醫療人員負責使用。"在未來輔助治療中人工智能技術可以會在更多的疾病診斷上，給出更智能、更高效的治療建議以及推薦方法，甚至可以直接面向病人應用，但并不能使得其完全擺脫醫生的管理，因為治療活動的主導依然是醫生而不是醫療人工智能。臆想的未來醫療人工智能將成為醫療行為主體，不但缺乏事實依據和法律基礎，而且還會否定病人、醫生和醫療機構三者間的法律關系，讓醫療人工智能應用離開醫療的領域，變成病人通過醫療人工智能產品實現自診，而不存在醫療主體和醫事犯罪主體。而這些變化都有違醫學理論和醫療實踐發展準則，對社會、醫療產業和病人都無益，也不符合對國家有益的新一代人工智能科技的發展目標。

三、結語

可以預見的是發展醫療人工智能未來的主要方向是更專業、更智能，但其還是不可能形成前文所說的"自主意識和意志"，從而成為醫療行為主體和醫學刑法中犯罪主體和責任主體，筆者認為其在刑法中的地位應該是客體。不難預測，未來醫療人工智能必將完全地改變傳統的醫療活動方式，對醫學犯罪能不能成立有實際的影響，同時醫師的說明告知義務、醫療事故罪中醫生的負有的注意義務與注意能力的判斷準則也應該要隨之應變，筆者認為在這方面應該堅持以病人為中心，建立積極正面的人工智能發展制度，在監管部門、醫師和患者之間合理分配醫療人工智能安全風險防范責任;同時，推動醫事刑法及相關理論的發展創新。醫學的最重要內核是人道主義，每位患者都是獨立的個體、無法重來的生命，對患者的人文關懷應該是醫療活動的重要組成部分。數理以及算法邏輯是醫療人工智能發展的科學基礎，但是其只能在邏輯算法的基礎上進行相關的信息處理，沒有辦法完成需要人類獨特思維的工作，在客觀上醫療人工智能也不存在類似AlphaGo那樣棋類人工智能可以有無數次試錯的訓練條件，醫療人工智能未來不可能完全替代醫師的工作，其發展方向只能是醫師監控下的人機協同。法律制度應保障人機協同醫療的發展，客觀回應醫療活動變革的事實，及時完善醫療人工智能相關法律法規，這也是醫療人工智能相關刑法問題研究的起點和重點。

參考文獻：

[1]劉憲權.《涉人工智能犯罪刑法規制的路徑》[J].《現代法學》，2019，（1）：78-82.

[2]儲陳城.《人工智能時代刑法的立場和功能》[J].《中國刑法法雜志》，2018，（6）：88-91.

[3]皮勇.《人工智能刑法法治的基本問題》[J].《比較法研究》，2018，（5）：156-157.

[4]中國信息通信研究院.《2018年世界人工智能產業發展藍皮書》[EB/OL].http：//www.caict.ac.cn/kxyj/qwfb/bps/201809/P020180918696199759141.pd，2018-09-18/2022- 2- 16.

作者簡介：

顧曉濤（2000-），男，漢族，江蘇無錫宜興人，江蘇大學本科在讀，法學方向。

基金項目：

江蘇大學2021年大學生實踐創新訓練計劃項目 項目編號：2021102991004X。