人工智能視域下學術倫理治理問題的挑戰及對策建議
—— 以生成式人工智能為例

葛慧林

（江蘇科技大學，江蘇鎮江 212100）

人工智能（Artificial Intelligence，AI）已經成為推動新一輪科技革命和產業變革的重要驅動力，同時也給現有科技管理體制帶來了新的挑戰。通過大規模語言模型（Large Language Model，LLM）的訓練，生成式人工智能(Generative Artificial Intelligence，GAI)具備了嚴密的邏輯推理能力和強大的文本生成能力，使得開放式理解和生成連貫文本成為可能。這種技術的實際應用開始對學術研究產生巨大助力[1]。例如，Conroy 等人利用ChatGPT 在一個小時內完成了一篇流暢、富有洞察力的研究論文。隨著GAI 在學術研究中的實際應用迅速普及，并贏得廣泛輿論贊譽，學者們的擔憂也隨之而來。研究表明，以ChatGPT 代表的生成式人工智能語言模型在學術研究中存在著信效度不足、權責不清、倫理失位等學術倫理問題[2-4]。在科學技術更加開放的同時，也面臨著顛覆性但尚未成熟的階段。在面對潛在的技術失控和學術倫理失序時，需要深刻審視GAI 引起的學術倫理問題，并正確處理它與學術發展之間的辯證關系。基于此，本文系統分析人工智能視域下學術研究面臨的新學術倫理問題，剖析GAI 在學術研究中所能提供的價值與風險，并進一步提出對策建議，以促進學術研究的健康發展。

1 人工智能視域下的學術研究新形勢

1.1 人工智能的發展

AI 有多種定義，雖然各有不同，但都與“如何創造一些計算機程序或機器，使其具備被視為智能行為”的概念相關。德勤有限公司給出的實用定義是：“AI 是關于計算機系統如何執行只有依靠人類智慧才能完成的任務的理論研究”[5]。得益于2004 年后相關領域技術例如深度學習、云計算等的突破革新，AI得以在安防、教育和機器人等多個領域廣泛應用[6]。當前，自然語言處理（Natural Language Processing，NLP）技術的進步使得大型語言模型（Large Language Model，LLM）能夠實現開放式理解和生成連貫的文本，理論算法開始得到實際應用，以ChatGPT 代表的GAI 在學術研究中的應用迅速普及。

1.1.1 生成式人工智能的實質

GAI 是運用大語言模型與生成式預訓練轉換模（Generative Pretrained Transformer，GPT）結合，通過海量數據存儲和高效設計架構理解和解讀用戶請求，進而以近乎人類自然語言的方式生成具有“較高復雜度的回應文本”[7]。具體而言，GAI 通過大規模語料訓練，將不同語言中的字、詞表征映射到更高維語義空間中，然后基于生成式預訓練轉換模型，采用“強化學習與人類反饋”（RLHF）的訓練方式，通過不斷迭代來提升生成答案的評判能力，從而往往能夠產生符合人類常規認知和需求的回答[8]。

1.1.2 ChatGPT 類生成式人工智能的比較

2022 年11 月，美國人工智能研究實驗室發布了大型語言對話模型ChatGPT，上線不到一周用戶數就突破了100 萬，兩個月時間吸引了超過1 億活躍用戶，成為歷史上增長速度最快的應用程序。ChatGPT 是一種具有思考能力的人工智能聊天機器人程序，基于GPT-3.5 架構的大型語言模型通過強化學習得到訓練后幾乎可以處理任何基于文本的請求。ChatGPT 被專門設計為以對話風格生成類似人類的文本，能夠回答連續提出的問題、生成文本摘要、翻譯文檔、對信息進行分類和編寫代碼等任務，同時也能夠承認錯誤、對不正確的前提進行質疑，并拒絕不合適的請求。此外，麻省理工學院借助深度學習模型識別分子結構之間的相關關系成功研發新型抗生素Halicin 的案例說明了以ChatGPT為代表的生成式人工智能可以通過明確相關關系，提升科研質量[9]。

在ChatGPT 發布之前，谷歌曾在2021 年推出大語言模型LaMDA，并在此基礎上開發了Bard，其可以將信息知識和大語言模型的智能相結合，提供新鮮且高質量的回復。而在2022 年8 月，基于自主研發的產業級大模型ERNIE，百度推出AI藝術創意輔助平臺——文心一格，其通過文心大模型準確的語義理解和生成圖片，為用戶提供豐富多樣的創意，幫助創作者打破創作瓶頸。2022年11 月，Meta 的人工智能實驗室Meta AI 發布了AI 系統“Make-AVideo”，它能夠根據自然語言文本生成一段大約5 秒鐘的短視頻，同時還可以從圖像和視頻中生成視頻。在ChatGPT 4 發布的第二天，百度揭開了其最新產品“文心一言”的面紗。作為國內首個類ChatGPT 產品，百度文心一言定位于人工智能基座型的賦能平臺，致力于推動金融、能源、媒體和政務等領域的智能化變革[10]。

與LaMDA、ERNIE 和XLNet等其他語言模型及其產出相比，ChatGPT 和其基于的GPT-3 語言模型具有明顯的優勢。ChatGPT 擁有數十億個參數，并且可以訪問大量數據，能夠高精度地執行各種語言相關任務。其次，GPT-3 的語言模型具有很高的通用性，可以適應各種任務，例如翻譯、摘要和問題回答。此外，ChatGPT 能夠高效利用數據，用較少的訓練數據就能取得良好的結果。

1.2 生成式人工智能在學術研究中的價值

當代世界科學技術正處于前所未有的突破性發展階段，科技社會一體化、科學文化和人文文化逐漸從對立走向融合。為解決社會復雜需求問題而誕生的跨學科研究，以往需要積累多學科知識，聚集多學科人才，并構建跨學科研究組織來解決的問題，現如今借助ChatGPT 卻有望實現更具突破性的學術成果[11]。

降低獲取知識的難度。ChatGPT 等AI 通過模擬人類學習過程，閱讀理解不同語言和文獻資料庫，在快速總結文獻異同的同時，實現對不同學科知識成果的同構，進而協助研究者完成跨學科深度對話和知識融合創新。與此同時，其還能將其他學科專業知識轉述為簡單語言，降低獲取知識的難度，在為研究者提供更多學術研究方向的同時，保證了研究力度和深度，在一定程度上也推動了學科進步和知識創新，提升了學術研究的效率。

便于研究內容的梳理。AI 可以自動解析文獻、高效提取關鍵知識，按需總結比較不同研究成果的異同，為研究者節省檢索整理時間。此外，它還能在此基礎上構建引文推理網絡，清晰展示知識的產生、流傳與演變，為研究者提供有依據的客觀觀點和學科間知識交叉與融合的趨勢。而當研究者對寫作內容不確定時，其還能提供相關理論、數據、案例與文獻支持，為研究者的觀點提供第三方驗證與學術支撐。

促進研究內容的完善。當科研人員向AI 提交研究成果后， AI 能夠根據使用者的輸入的相關要求，對研究成果進行檢測，就拼寫、語法等方面提供反饋意見及根據不同領域和功能調整寫作重點。它在快速翻譯中文研究成果為其他語言時，還可以學習各領域權威期刊的征稿要求為研究者提供幫助。此外，其能夠解析和提取各領域學術論文的關鍵知識，并根據不同應用場景及學科領域調整內容、篇幅和側重點。在大語言模型的支持下，研究者可以優化研究成果的傳播機制，增進學術合作并促進研究成果轉化，進一步提升學術研究效用[12]。

（3）利于研究數據的分析。以ChatGPT 為代表的AI 擁有強大的算法和算力，往往能夠較好的完成數據收集、數據分析、數據可視化等復雜數據處理工作，把握受實驗條件或計算能力等限制所遮蔽的相關關系，獲得有助于取得研究新發現，新成果的啟示。

2 人工智能視域下的學術倫理新問題

2.1 智能剽竊，隱蔽難以檢測

研究發現，將大量由GAI 創建的論文摘要提交給學術審稿人，被發現的比例不超過63%[13]。因GAI可以在較短時間內整合和產生大量知識與信息，并根據需要生成個性化結果。從某種程度上來說，GAI產出的科研論文仍然只能算是高度集成產品，其內容和觀點通常來自他人作品，雖然在整合中模糊了模仿和抄襲邊界，但其非原創的本質未變。此外，由于GAI 是基于自然語言產出的結果，這與學者自行思考并收獲啟發的基本邏輯相似，而當GAI 在轉碼過程中隱藏了抄襲的事實，學者通常也難以分辨哪些內容是需要進一步甄別是否存在抄襲，這導致剽竊呈現出無意識特征。此外，GAI 利用反饋學習獲得學者思想內容后，再面向其他學者進行二次創作，是否也涉嫌剽竊先前使用者的思想？

事實上，學者用GAI 輔助學術研究的過程，是學者與GAI 協同完成研究任務的過程。但人類語言亦具有復雜性，語種語義、表達方式、詞性特征、用語習慣等均會影響交流。實踐證明，GAI 會受到提問者所提供信息的影響，在回答問題過程中，極易形成迎合偏好的回答。更值得注意的是，在與學者進行深度對話時，GAI 會固化提問者所自帶的認知與偏見，強化偏離本意的意識[14]。最后，在評價由GAI 輔助的研究成果時，是否應當將GAI 的輔助效果考慮其中。由于GAI 的輔助效果因其資本密集導向而具有不公平性，而現有學術評價標準缺乏對GAI 在協作過程中貢獻價值的度量，阻礙了評價的準確性與公平性。

2.2 智能奪權，批判創造失去主導

美國在線課程網站Study.com開展的一項調查顯示，超過89%的學生使用ChatGPT 來完成家庭作業，48%的學生用ChatGPT 完成小測驗，53%的學生用ChatGPT 寫論文，22%的學生用ChatGPT 生成論文大綱[15]。過去，學者需要大量閱讀，進行深度思考，并提出創新性的觀點和解決方案才能完成撰寫論文的工作。現如今GAI 的出現徹底顛覆了這一傳統方式，學者不再需要花費時間梳理相關文獻，整合關鍵知識，只需把問題提交給GAI 便能解決。

ChatGPT 等GAI 能應是協助人類在多領域知識唾手可得的情況下，仍保持敏銳洞察力、靈活適應性和創新思維方式的工具，而非剝奪取代學者獨立思考和解決問題能力的思維替代者。在現如今這種信息爆炸的時代，人類面臨的問題和挑戰日益復雜多變，具備批判性思維和創造性思維就顯得尤為重要。批判性思維能夠對信息、論據和觀點進行深入評估，從而形成明確、準確和有根據的判斷，更為有效地應對復雜問題、降低誤判風險，并在日常生活和工作中作出明智的決策。創造性思維則鼓勵人們跳出傳統思維模式的限制，嘗試以新的方法和角度來解決問題，從而生成新的、獨特的和有價值的想法、解決方案或觀點。批判性思維評估已有的知識和策略；創造性思維創造出不存在的知識和策略。兩者相輔相成，才會有新知識的產出[16]。但隨著學者對ChatGPT 等GAI 的不斷依賴，其自身正在不自覺地讓渡思維的主導權，思維模式逐漸由人類向AI 轉移，由機器思維取代人類思維。在這種情況下，機器意志將可能取代人的意志，出現主導權喪失的問題[17]。

2.3 智能迭代，信效度難以認定

由于GAI 的實質是將語言向語義空間進行轉換，并根據需求運用多個算法迭代重組重構，但其在深度學習中還存在過程算法不透明、數據不完整、訓練不完善等問題[12]，導致最終生成結果的信效度難以認定。其一，在深度學習過程中，大量參數會隨著訓練自動迭代調優，其變化機制難以用邏輯解釋。因此，導致GAI 無法清晰解釋其生成結果的理由，學者也無法根據邏輯判斷生成結果的正確性。其二，GAI 生成的結果卻決于訓練數據的深度和廣度。然而，當前的訓練數據難以覆蓋所有學科所有領域，使得生成結果存在數據偏差。

3 對策及建議

學術倫理是開展科研等活動需要遵循的價值理念和行為規范，是促進學術研究健康發展的重要保障。現如今，ChatGPT 類生成式人工智能領域的“領頭羊”發展態勢已然良好，伴隨著科技的不斷進步，更尖端復雜的人工智能技術預期只會更加頻繁地滲透并運用在研究領域，但當前的學術倫理制度已無法滿足飛速發展的技術應用需求。亟需進一步完善學術倫理制度，防控學術倫理風險，實現高效、道德及健康地人工智能技術應用。

（1）建立檢測識別機制。為了實現高水平的學術誠信和提高學術創新能力，防止剽竊的發生，相關學術機構應建立或更新審查機制，以檢測研究者提交的論文是否是基于GAI 的模擬學術論文，并對其進行評估或分級。學者和人工智能生成的內容存在著顯著語言差異的。另外，生成式人工智能生成的語言指紋具有反直覺的特性，它是通過將不同的論點分成段落來提供清晰的邏輯結構，從而減少了對話語標記的需求，這與人類的寫作邏輯背道而馳[18]。通過建立檢測識別機制，將有助于維護學術機構的權威性，促進產出更多的原創性學術成果[19]。

（2）建立學術倫理制度。對于目前“人機共研”現狀下所涉及的學術倫理建設，應對技術與倫理雙方進行理性地審視，建立行之有效的學術倫理制度。首先，應加強AI技術應用領域的學術倫理研究，立足人機融合新圖景，判定阻礙學術研究高質量發展的“被調適方”，并基于此構建學術倫理的建設思路。其次應成立科研技術倫理委員會，在技術專家、倫理學者的共同努力下，修訂現有的科技倫理與學術倫理審查制度，使技術符合學術倫理的規約，并及時更正技術中不適應學術倫理的行為，為新應用場景提供結構性制度保障。此外，研究者本身應始終保持能動性，以主體姿態，將以ChatGPT 為代表的人工智能視為認知工具，堅定研究立場，并承擔起數字素養所對應的社會文化修養、道德規范和行為自律等責任，使其真正為學術研究所用[12]。

（3）加強學術倫理引導。為了實現更高質量可持續發展的人工智能技術，還應該加強學術倫理引導。AI 逐漸改變了當前的學術研究模式，而作為學術研究的主體，科研人員的學術倫理引導一直都是學術倫理治理的起點。因此，可以鼓勵學會、協會、學校等組織加強對科研人員針對性的對當前AI 沖擊下的學術倫理進行引導，科研人員共同監督并抵制學術倫理違規行為。

（文責自負）