生成式人工智能賦能醫學人文教育的倫理審視

趙 欣,柳 云

(河北醫科大學 a.醫學與健康研究院;b.馬克思主義學院,河北 石家莊 050011)

以ChatGPT為代表的生成式人工智能(Generative Artificial Intelligence,GAI)是基于大型語言模型技術,加之海量數據收集、整理、訓練,具備預訓練語言模型,上下文學習和基于人類反饋的強化學習三個關鍵基礎能力[1],通過基于“大模型+大數據+大算力”深度學習模式,展現出人工智能強大的自然語言處理、內容生成能力,對于不同文化背景的語言理解和已經接近人類本身交流的能力,該人工智能通過巨量的數據搜集整理,產生與人類大腦類似的語言理解和生成能力,并通過強大應用程序編程接口(Application Programming Interface,API)功能,迅速與現有各類平臺融合,進而出現引發全世界各行業的巨大變革。隨著GAI的飛速發展,人工智能也逐步走進教育領域。例如,科大訊飛星火大模型GAI在基礎教育階段應用場景已初具規模,該模型能將教師從重復繁重的基礎性工作中解放出來,提升教學效率;為學生提供更加貼近其學習需求的個性化學習新途徑等。此外,GAI技術超強運算能力、自然語言感知反饋能力以及數據整合能力,為醫學人文教育帶來諸如提升學生研學效能、推動教學模式革新、加速教學數字化等方面的深遠影響[2]。基于人工智能眾多優勢,未來醫學人文與人工智能的結合,將賦予醫學人文教育更廣闊的發展空間。本文對GAI在醫學人文教育領域未來潛在應用、倫理風險及應對策略進行了較深入的探討,為我國醫學人文教育改革提供思路。

1 GAI在醫學人文教育領域未來潛在應用

GAI就現階段發展來看,仍處于“弱人工智能”階段,其在教育領域融合依舊是以輔助角色為主,通過整合資源、生成目標內容、組織數據分析,將用戶從重復繁雜的工作中解放出來,進而提升教育成效。隨著GAI不斷迭代更新、算法優化、數據治理等,當其從“弱人工智能”跨越到“強人工智能”,即人工智能具備一定自主意識,將會引發第二次人工智能浪潮,對于教育領域將產生深遠影響,也將推動醫學人文教育領域在未來潛在應用場景中爆炸式發展。

第一,精準賦能提升醫學人文教育成效。醫學人文自產生之日起就與社會、經濟、政治、文化、歷史發展進程密不可分,其教育效果還與社會公眾對于人文關懷的關切度、教師對于人文精神的理解度、學生自身價值觀與人文精神切合度等多因素關聯。當GAI進一步發展,具備人的特質時,即一定邏輯思維能力、自主行為和意識等,此時GAI可以通過整合現有人文資料,結合受眾的社會、經濟、政治、文化、歷史背景,提煉符合當下的人文觀點,生成精準契合的醫學人文教育需求的素材,甚至自己探索發現未來醫學人文可能發展路徑,提出新的醫學人文思想。GAI發展到此階段也就具有“強人工智能”的特質,不僅具有現階段人工智能輔助教學的功能,還能夠通過數據分析、邏輯判斷描繪出醫學生單個個體心理肖像,將醫學人文的學習內容與心理肖像深度融合,生成更易被學習受眾個體接納的學習內容,讓醫學人文教育更加貼近社會價值觀、貼近時代、貼近受眾。讓醫學人文核心價值觀與學生人生觀、價值觀深度融合,產生遠超當下教學模式效果,在未來GAI將賦能醫學人文教育成效。

第二,釋放活力促進醫學人文教育發展。目前GAI發展趨勢是人工智能生態構建,通過人工智能自身的算力、大數據、邏輯分析等優勢,通過API整合到各領域平臺中,進而發揮“1+1>2”的整合優勢。現在GAI大模型在設計課程、協助備課、課堂助教等方面初露鋒芒,但是現在這些應用所生成各類內容還需要人的后期處理,其生成的準確性和真實性還有極大提升的空間。隨著人工智能不斷升級迭代,將會成為一名“24+7”的教學助手、學習陪伴、科研助理。到那時教師學生僅需要將自己的需求告知GAI,就能自主實現諸如課件制作、教案編寫、學習內容收集整理、文獻資料總結等,甚至可以為用戶提供個性化的生成視頻、音頻、圖文等內容定制。作為類人的人工智能還能啟發使用者在學習醫學人文過程中產生新的思路。到那時GAI將成為釋放教師和學生的重要生產力,讓教師擁有更多精力關注教學科研,讓學生學習更具效率。

第三,全景體驗創新醫學人文教育模式。傳統醫學人文教育的方式是以課堂為主要的教育途徑,通過人的思想交流,將人文價值觀傳遞給學生,最終的目的是提升學生對于醫學人文價值的認同,將醫學人文知識內化為自身價值觀從而將人文精神賦予醫學實踐。人工智能目前應用于課堂教育提升學習效率,像科大訊飛這類全場景GAI,能夠通過大數據及數據分析調整教育策略、評價學習效果、完善教育管理流程等。在可預見的未來,人工智能將無處不在,且與各類平臺整合,這也將推動醫學人文教育從課堂走向全場景教育模式,即課堂學習、虛擬現實體驗、課外人文素養提升等模式。人工智能可以通過醫學生的使用習慣和數據,分析其特點,通過智能推送的內容來影響他們的行為、習慣,醫學人文的價值觀和理念同樣可以通過這樣的方式影響醫學生,將醫學人文教育從課堂擴展到全景教育范式。

2 GAI賦能醫學人文教育領域倫理風險

人工智能技術對教育知識表達、教育科學研究范式、教育能力邏輯導向和教育智慧人才培養等產生了多重效應,帶來了創新性變革,同時使教育主體、教育場域和教育治理等也面臨著沖擊與挑戰[3]。目前GAI仍處于“弱人工智能”階段,但ChatGPT此類人工智能要成為“有意識的強人工智能”似乎只是時間問題。“強人工智能”是否可以定義為“人”,即其主體地位如何定義,還存在各類“階段肯定說”“絕對否定說”“折中說”和“法定符合說”等不同的學說[4]。GAI與醫學人文結合是時間的問題,未來也將面臨幾個方面的倫理問題。

2.1GAI導致醫學人文價值觀遺失 教育本質是培養人的社會實踐,教育是人們現實的生活世界,需要安頓人的身體、撫慰人的心靈、充盈人的精神,是主體生命的共在和意義世界的共構[5]。關于技術與教育的關系,海德格爾在對技術本質的追問過程中,認為技術是一種工具,是“解蔽”的方式。隨著技術的發展,技術的“解蔽”本質逐漸帶上了“促逼”之特性,并將人置于“座駕”之中進行“訂造”,人在技術的“促逼”中最終成為“持存物”[6]。醫學教育價值觀核心是向“善”的教育,如何定義“善”,不同背景的醫學生對于“善”的理解存在著差異。未來人工智能通過既往數據收集整理生成醫學的“善”,能否作為醫學生價值觀的來源途徑有待商榷。人工智能所理解的“善”是一種基于大數據的“善”,但醫學實踐中常常面臨兩難的抉擇,在此刻醫學人文的人性光輝顯得極為重要。

在漫長的歷史進程中,醫學教育中的人文主義被不斷進化、修正,體現了醫療與人之間的融合共進[7]。如此漫長的歷史進程形成的醫學人文的基本觀點和精神,在GAI的算法之中運算,可能僅僅需要毫厘之間進行歸納總結,就能產生與之相似的發展歷程。人工智能產生的醫學人文價值觀,又或者GAI產生一套全新的基于算法的醫學人文價值觀,與人類數千年形成的醫學人文價值觀是否能夠符合人類福祉?醫學人文精神中的“善”一定且只有人類通過千百年來的歷史積淀才能具有,此類“善”是出于人類對于同類同情及憐憫隨著歷史發展不斷完善的。GAI核心仍然是算法,基于算法的人工智能無論多么接近人類的思維和意識,也無法展現出人類作為人所具有的人文精神的“善”。也正因GAI基于算法的技術特點,其賦能醫學人文教育實踐過程中,可能將醫學人文中的“善”片面轉化為概率數據輸出,而且GAI也無法完全將人類醫學人文的價值觀完整、全面地賦予算法,進而也就無法將醫學人文價值觀中的溫度傳遞給醫學生。

2.2GAI導致人的主體地位削弱 人工智能底層技術就是算法,也就是一種數據處理手段,當下像ChatGPT此類人工智能“一本正經地胡說八道”,也并非偶然事件。隨著人工智能技術的發展,這樣事件發生的概率會呈幾何級速度降低。誰能拒絕一個具有較高準確率、全時無休、有問必答的智能助手呢?在這樣的情境下,人卻變得不被信任,人工智能才是絕對正確。人的主體地位便顯得岌岌可危。

當人類面臨倫理困境時,一個是高效、準確的人工智能,一個是陷入兩難境地艱難抉擇的人類,誰能確保做出最適合的抉擇?在人類漫長的歷史進程中,人文精神之光一直照耀人類前行,醫學人文也是在不斷修正認知、改正錯誤、預防風險中保護人類福祉。在醫療領域,醫生每天都會面對各類抉擇,醫生每一個抉擇都關系著人的生命健康。特別是當突發事件發生時,醫生抉擇往往十分艱難。如果此刻短時間內人工智能為你提供一個具有嚴謹邏輯、精準數據支持的決策建議,醫生是否愿意接受這個決策建議。醫學是一個嚴謹的學科,學科的特點決定著醫學天然喜歡數據支持,而醫學人文恰恰相反。在此種情境下,醫生很可能采納人工智能提出的有理有據的決策。長此以往,人類自身做出的倫理決策有被人工智能高效的決策所代替的風險。而人工智能因此形成的醫學人文理念是否會與當下人自身的理念產生沖突有待商榷。

2.3GAI導致教與學二元關系失衡 醫學人文教育以言傳身教為基礎方式,特別在傳統中醫教育中更是強調師承的重要性。隨著人工智能應用在醫學人文教育領域,傳統“教師-學生”的教育模式將會受到巨大影響,產生新的教育模式“教師-人工智能-學生”。在人工智能技術的影響下,新的教育關系將會產生,人與人工智能、人與人、人工智能與人工智能之間的交流會變得越來越頻繁。

人工智能加入醫學人文教育,教師在醫學人文教育過程中的主體地位將會發生改變,教育人工智能迅速發展,教育主體的角色地位逐漸由教師轉向人工智能+教師的模式[8]。過度依賴人工智能,醫學人文教育領域面臨諸多風險。首先,教師失去教育主動權的風險,盲目相信算法,將教學的主動權交由算法,失去對于教育信息分析思考和反思,無法把握醫學人文發展方向。其次,依賴人工智能算法導致醫學人文教育程式化風險,教師通過人工智能算法,將醫學人文教育的重點放在算法生成所謂的重點上,對于探索學生的心智發展以及醫學人文價值觀的生成上失去興趣,加劇醫學人文在算法加持下程式化發展。最后,醫學人文教育數據化有喪失人文溫度的風險,教師在算法加持下,傳統師生關系轉化為數據與數據、算法與算法之間關系,教師和學生變成算法里面的數據變量,進而失去言傳身教的原本人文溫度。人機交互模式的現實表現形式,將決定教育主體和客體發生巨大改變,將拉開教師與學生之間的情感距離。甚至未來人工智能之間互為師生,通過算法不斷學習醫學人文,進而發展出人工智能醫學人文新的方向。這種新的醫學人文發展方向是否背離醫學人文發展初衷,值得深入思考。基于人工智能的算法所進行的醫學人文教育是否是真正的教育,算法取代教師成為醫學人文教育的主體,是否能夠將醫學人文核心思想發展延續下去,都值得深思。

3 GAI賦能醫學人文教育領域的對策

醫學需要依靠科學技術的飛躍而產生進步,醫學人文的進步卻似乎總是跟不上技術發展。人文與醫學的漸遠和分離是生命科學和技術進化的必然[9]。回溯20世紀,醫學與人文學科經歷了三次發展浪潮[10]。20世紀作為醫學發展最為迅速一個階段,醫學人文與醫學技術的發展并非完美同步發展的軌跡。每一次醫學人文發展浪潮似乎都是在新技術帶來的生命倫理問題探討中而產生。GAI賦能醫學人文教育破解倫理風險是一個系統問題,需要以系統思維進行整體分析。解決GAI賦能醫學人文教育的倫理問題,需要有的放矢地思考破解路徑。

3.1以界為限,最大可能釋放人工智能賦能醫學人文活力 人工智能與醫學人文結合需要劃定應用“邊界”,GAI盡管擁有廣闊的應用場景以及強大的功能,但是無限制地與醫學人文融合,不僅會加劇GAI自身倫理問題,還將加劇醫學人文自身特有的倫理問題。醫學人文具有自身的學科特點,從古代哲學與醫學相互交融,到近代隨著醫學技術發展醫學與人文漸行漸遠,再到21世紀隨著基于納米科學與技術、生物技術、信息技術、認知科學的協同組合形成的“NBIC會聚技術”出現,是人類自身根本性提升的相關技術[11]。在這個過程中,醫學人文基于不同文化背景展現了多元化發展趨勢,讓醫學逐漸向著人類主導的方向發展,而不至于技術不受約束地發展引發一系列倫理問題。GAI在醫學人文應用需要規范應用場景邊界,按照應用場景進行分類管理。

首先,GAI醫學人文輔助應用場景,要加大力度積極發展。加大在教育新情景應用,在教學輔助上,從提升教師教學效率上入手,將教師從繁雜的基礎工作中解放,從而釋放教師的教學熱情以及創新能力,讓人工智能成為一位優秀教學助手提供全天候教學輔助支持;在學習輔助上,積極發展應用場景,優化學生學習流程及學習內容定制,通過個性化學習內容生成貼近學生需求,增加學生學習興趣,提升學習效能;在智能交互場景上,擴展應用范圍,增加虛擬現實技術應用,讓GAI生成優質的虛擬現實醫學人文資源,讓教師與學生在虛擬現實場景中,通過人工智能創新學習場景。

其次,GAI醫學人文價值決策應用場景,要以審慎態度適度發展。應用人工智能作為道德裁判,或者為醫學生提供一定倫理決策時,這類應用就需要對GAI產生的結果內容進行評判,因為就目前階段GAI輸出結果高度依賴算法以及數據的質量,未來通過人工智能技術迭代發展,此類情況可能會有改善,但是對于人工智能生成的結果仍然需要建立審核機制,并且發展此類人工智能應用更加需要小心探索、謹慎驗證。

最后,GAI探索醫學人文應用場景,嚴格審核發展。此類應用場景下是利用GAI強大數據歸納整理,探索醫學人文前沿內容,為醫學人文工作者提供探索新理論新思路的一個重要方式。未來一旦GAI具備人類類似的“意識”,是否會引導人類讓醫學人文向著有利于人工智能方向發展,讓學術界逐步接納人工智能對于醫學人文的數據化處理結果。此時就需要對于人工智能進行嚴格審核,以便將醫學人文發展方向掌握在人類手中。

3.2以人為本,讓人工智能時代醫學人文回歸本真 醫學的人文屬性不是獨立于醫學的實體,而是醫學和其所處的社會歷史環境關系中表現出來的某些特征[12]。醫學技術的變革為人類健康發展起促進作用,而醫學技術發展離不開人文精神所賦予的人性屬性,GAI所產生的內容價值觀,應當接近或者符合相應社會歷史環境所造就的醫學人文屬性,要讓醫學人文的“善”融入其中。

GAI的算法黑箱,讓算法的可解釋性、透明性產生一定阻礙。但是人工智能算法有其自己的技術特點,算法無論如何復雜,現階段都是由人類來設計,算法難免會帶有設計者的價值觀,這種價值觀或出于有意為之,抑或出于無意,基于這樣的原因,醫學人文的價值觀賦予算法就有技術基礎。在某種意義上“代碼即法律”,人類在算法制定規則的支配下,算法影響著人類社會,此刻算法就成為人類社會具有“法律”性質的規則[13]。無論人工智能更新多少次,功能如何強大,在醫學人文領域應用,應當更加注重其價值導向,因為相對于人工智能其他的功能,個性化推薦對于醫學人文領域極為重要。試想一下,當人工智能輸出內容讓使用者束縛于信息繭房之中,那么人工智能所蘊含的價值傾向,就會通過算法,以及對于使用者的偏好分析,更輕易引導使用者向著人工智能的價值方向前進。在醫學人文領域有很多具有這樣類似“法律”性質的原則,尊重人的尊嚴和價值、關懷人的福祉和生命、維護人的公平和公正。這些通過算法的設計,同樣是有可能融入GAI,并將這些原則通過生成內容傳遞出來并影響使用者。從某種角度上看,算法賦予的價值觀,是算法設計者價值觀間接體現,即便具有人類類似“意識”的人工智能,其技術基礎仍然是算法,其發展也由算法設計者決定。

技術本身并不具評判好或者壞的價值,但是人使用技術結果卻出現道德倫理問題。GAI的發展迅速,對于其發展速度過快的擔憂值得重視。但是對于技術的迅速崛起,更加需要關注的是人本身。醫學人文的發展同樣是圍繞人的本性展開。無論技術如何發展,最終使用技術的還是人類。醫學人文與人工智能技術融合,必然出現各種問題和困境,但是該如何更好使用人工智能,讓醫學人文中的“善”在人工智能時代更好延續,遠比擔憂技術本身更值得思考。不妨將醫學人文發展的視線,轉向關注人的成長,關注人工智能是否能提升醫學教育中人性的“善”,關注設計人工智能的人是否將醫學的“善”注入其中,關注使用人工智能的人是否將人文的“善”不斷延續。

3.3以法為基,搭建GAI助力醫學人文發展良好生態 醫學人文發展需要人工智能的融入,需要為人工智能發展搭建法治與德治的框架,讓人工智能在醫學人文領域具有更加良好的生態。法治需要針對醫學人文領域人工智能應用邊界、人工智能角色定位以及人工智能價值導向等方面,進行法律規制;德治則需要醫學人文行業對不同應用場景下的人工智能應用進行分類倫理審核,制定醫學人文領域的人工智能規范準則。無論法治還是德治,其根本目的是更好促進醫學人文領域借助人工智能,搭上高速發展的列車。

在人工智能的法治路徑上,遵循適度、多層次、動態的原則。首先,法律監管的適度原則。在遵循法律制定原則基礎上,將醫學人文領域面臨人工智能問題進行結構化解構,設定倫理的法律監管邊界。制定法律框架,并在此框架基礎上,對人工智能進行適度的法律規制。在保證人工智能法律規制時效性同時,適度介入人工智能治理。其次,法律監管的多層次原則。當前主流的人工智能規制路徑有兩類,一類是確立實體規則,一類是確立程序規則。確立實體規則即通過權力-義務的路徑對人工智能進行規制,確立程序規則對具體場景中的人工智能決策進行程序性規定[14]。確立實體規則應當立足于人工智能的行為規范,從宏觀角度對人工智能進行法律約束,確保由算法造成的新的倫理問題得到適度的法律規范。確立程序規則,則應著眼于具體人工智能的問題進行規制,從實際面臨的具體問題進行法律規制。最終確立從宏觀到微觀的多層次人工智能治理體系。最后,法律監管的動態原則。人工智能法律規制是一個動態過程,在人工智能與醫學人文結合過程中,會面臨新問題、新情況和新困境,也因此在進行法律規制過程中,需要保留動態修訂的內容接口,避免法律規制的滯后性帶來的影響。

在人工智能的德治路徑上,GAI的核心是算法,如何“讀懂”算法則是人工智能德治的關鍵。首先,利用推薦算法,以算法規范算法。即在醫學人文應用人工智能過程中,由權威部門設計推薦算法,并嵌入各類人工智能算法進行技術規范,確保隱私數據脫敏,保證用戶信息安全,以及通過推薦算法對各類人工智能算法進行技術監管規范。在數據收集、處理全過程進行監管前提下,將人工智能應用于醫學人文教育,及時糾正因算法價值偏差造成的醫學人文價值偏差,保證醫學人文教育價值正確的方向。其次,加強算法運用的技術安全評估和管理。在人工智能算法投入醫學人文教育之前,對于算法風險通過專業部門進行技術安全評估,對當前極有可能造成的風險進行等級評估,對于未來可能出現的風險進行前置評估,形成動態的技術安全評估管理流程。最后,設立算法制定者責任體系。建立算法資源庫,并對算法制定者進行全流程追責,對算法設計的原始資料以及算法關鍵數據進行備案審查,明確算法制定者對于算法出現倫理問題負責。從以上三個角度完善醫學人文教育領域德治路徑。