生成式人工智能及潛在司法應用場景

肖鳳

主持人

曹曉燁：上海市楊浦區人民檢察院黨組成員、副檢察長

隨著科技的發展，數字化正在改變我們的生活，也在改變司法工作的方式。如何運用ChatGPT這類新技術，服務司法工作，助力國家治理現代化？上海市人民檢察院、同濟大學人工智能社會治理協同創新中心、百度智能云、科大訊飛相關專家積極建言獻策。

追根溯源：ChatGPT的原理和發展歷程

曹曉燁：風靡全球的AI技術正式拉開第四次科技浪潮大幕。我們見證了ChatGPT風靡全球的結果，但對其原理和發展歷程卻不是非常了解，請各位嘉賓為我們介紹一下。

陳吉棟：ChatGPT實質是人工智能程序，其工作原理是先給它提供一個龐大的語料庫（通常是直接從互聯網上爬取），讓模型通過上千億個參數對這些文本進行打散、標記、學習，構建起一個復雜的預測模型。從2018年起，OpenAI就開始發布GPT，每一代GPT模型的參數量都在爆發式增長，堪稱“越大越好”。2022年11月發布的ChatGPT，參數量超過1750億。今年3月15日發布的GPT-4，與ChatGPT所用的模型相比，其回答準確性不僅大幅提高，還具備更高水平的識圖能力。

崔世鵬：ChatGPT底層依賴的是語言大模型、大數據、大算力、強算法，以及基于人類反饋的強化學習技術等。從其本身的概念范疇來講，它更多的是人工智能領域下基于大模型的深度學習應用。前面陳教授也提到ChatGPT的學習訓練參數規模已達千億級別，它還可以基于指令學習的方式，主動自我學習、適應輸入。同時，基于其強化學習的人類反饋，訓練這個模型的開發團隊基于人工調參的模式（人工標注訓練的過程）將人工評價的機制訓練成獎勵模型，再基于這個獎勵模型進一步訓練、優化ChatGPT模型。ChatGPT更多的是文本類的基于大模型的應用。而GPT-4是一個跨模態大模型，結合了文本和圖像的能力，然后在此基礎上給上層應用提供相應的模型服務。

孔維駿：關于ChatGPT技術，其主要具備以下特性：第一是信息的全量記憶。ChatGPT在對話過程中會記憶上下文信息，不斷積累的前段信息記憶會在后續處理過程中輔助結果生成。第二是具備一定程度復雜邏輯的推理能力。第三是多風格生成。ChatGPT在文本生成的過程中，風格是多變、多元的。第四是它能夠進化，比如問ChatGPT一個問題，它回答錯了，糾正之后，下次再問，它就能正確回答。

曹曉燁：剛剛各位嘉賓談到了ChatGPT的諸多特點，也可以說諸多優點，那么實踐運用中，其是否存在一定的不足？

丁琪：ChatGPT雖然具有一定的推理能力，但其知識（數據）主要是基于訓練時的數據供給，因此，ChatGPT只能基于訓練時所擁有的數據集進行回答。例如它不會像蘋果的Siri那樣回答今天天氣如何等。

陳漫卿：剛才各位專家介紹ChatGPT模型的訓練需要大量數據，這就會導致在ChatGPT未經大量語料訓練的領域缺乏“人類常識”和引申能力，甚至會一本正經地胡說八道。

嘉賓

崔世鵬：百度智能云政務產品檢法負責人

孔維駿：科大訊飛司法業務部總監

陳吉棟：同濟大學副教授、上海市人工智能社會治理協同創新中心研究員

丁琪：上海市人民檢察院檢察官

陳漫卿：上海市人民檢察院檢察官

趨勢探討：ChatGPT技術的發展

曹曉燁：隨著人工智能技術的發展，ChatGPT這類技術的發展趨勢是怎樣的，是否會對我們的工作、生活以及對司法工作帶來顛覆性影響？

崔世鵬：相關數據顯示，2020年中國人工智能行業市場規模約為1858億元，預計2023年將達約5298億元。業界預計未來幾年ChatGPT的市場份額將迅速增長。國家科技部也表示，將在今后幾年加大對人工智能行業技術的支持。由此可見，ChatGPT的發展前景非常可觀。隨著技術的發展，ChatGPT的應用場景，包括但不限于智能客服、智能對話等。如智能客服方面，ChatGPT技術可以自動生成新的語言，幫助用戶更好地理解相關信息，用戶因此可以更加便捷地獲得服務。由此可知，ChatGPT主要是起到輔助作用，其在司法場景的運用亦是如此。司法人員可以運用ChatGPT輔助查詢、類案推送以及簡單的歸納整理案件材料。

孔維駿：ChatGPT的出現標志著人工智能技術的發展取得了從量變到質變的飛躍，甚至會對人類社會帶來顛覆性影響。但這種顛覆性影響并不是說能夠完全取代人類的工作，正如剛才崔世鵬專家所說，更多的是起到輔助作用。在司法工作領域，簡單重復性的工作可以由人工智能技術代替或輔助。如有了語音識別的人工智能輔助之后，書記員的工作從全程錄入變成了修改完善庭審記錄，工作效率大大提高。但在專業性強、復雜場景下的工作，ChatGPT則很難做到和人類一樣，更多的還是提供輔助判斷和數據推送等。

陳漫卿：有媒體認為，軟件技術類、新聞媒體類、法律工作類、客服人員的工作將更容易被ChatGPT搶走。但我認為，這種觀點過于絕對。技術的發展雖然賦予人工智能“智慧”，但也只是人類智慧的初級階段，不具備復雜的腦力勞動能力。上述工作中簡單的重復類工作可能被“搶走”，但復雜專業性強的工作應該“搶不走”，或者說要“搶走”還有很長的路要走。

陳吉棟：在未來哪些工作可能會被以ChatGPT為代表的人工智能取代呢？首當其沖就是大規模重復性勞動。對于ChatGPT是否會取代司法人員的工作，我持否定態度。原因在于，法律是上層建筑，沒有哪個國家會允許人工智能來辦案，最多只是輔助作用。

場景展望：ChatGPT這類技術的潛在司法應用

曹曉燁：面對席卷而來的ChatGPT浪潮，大家預見的是強人工智能時代的未來將至。就司法領域而言，2023年1月30日美國哥倫比亞法院在裁判中使用了ChatGPT輔助辦案的文本生成功能來增加說理依據，在裁判文書中，ChatGPT給出了具體的法律條款、適用情形以及憲法法院判例等。從中可見，以ChatGPT為代表的大型語言模型在輔助司法工作中有發揮的空間。結合我國司法實踐來看，ChatGPT這類技術可以有哪些潛在場景應用，想聽聽各位嘉賓的觀點。

孔維駿：ChatGPT這類人工智能技術在司法領域的應用主要涉及語音、認知等技術領域，面向數據處理、智能分析等場景提供智能化服務，主要包括以下幾個方面：一是提供全流程智能輔助辦案應用，構建智能審查、量刑預測、文書生成、自動編目、筆錄生成等業務能力，通過智能化技術輔助辦案人員的常規工作。二是提供全方位司法監督管理應用，建設視頻自動巡查、案件裁判偏離預警、案件智能核查等監督能力，及時發現和解決問題，加強司法工作流程的規范化。三是提供司法大數據深度挖掘應用，在海量的法律文本中搜索和推薦相關案例、法規和法律文獻等信息，探索司法規律和趨勢，為司法改革和法律制定提供數據支持。

丁琪：美國哥倫比亞法院在判案時首次使用ChatGPT作為輔助工具，標志著ChatGPT首次對司法審判產生助力。確實，目前ChatGPT已經表現出很強的歸納能力，但它是否能夠將一個復雜案件中的爭議焦點提煉出來，是否能夠對這些法律適用問題進行歸納，是否能夠比較準確地定罪量刑，還有待進一步考察、驗證。

陳吉棟：法律的適用并非簡單地引用法條，不同的案件中需要結合具體案情進行分析與調整，甚至有的案件存在多種罪名競合的情況。因此，在實際辦案中，需要歸納出焦點問題并進行全面分析，最終得出正確的判定。傳統人工智能工具或者搜索引擎并無此種功能。而ChatGPT因其具有的推理能力則可以結合案件事實加以分析，并給出在不同情形下應當考慮的法律認定因素。其給出的建議具有一定參考價值，可以起到輔助作用。

崔世鵬：百度從底層自研的昆侖芯片到國內首個深度學習框架，從文心1.0開始到今年3月16日發布的文心3.0（文心一言），表明了在大模型的領域具備完整的開發能力。百度當前的搜索引擎也用到了大模型的能力。為此，不管是當前還是未來，ChatGPT這類技術可以有效助力法律檢索，得益于龐大的預訓練數據庫。ChatGPT這類技術雖然并非專為信息檢索用途研發，但借助合理的提問方式，其往往能夠給出比傳統信息檢索范式的搜索引擎更加精準而全面的回答。在司法領域，司法人員對法律相關文獻資料的檢索有著龐大的日常需求。通過合理的提問設置，ChatGPT這類技術能夠為使用者提供大量文獻與相關資料，幫助用戶快速了解相關信息。

陳漫卿：實踐中，司法人員辦案主要是對案件的審查，包括證據審查、法律適用等，在偵查、檢察、審判等不同環節上對司法人員的工作要求是一致的。ChatGPT出來以后，基于它具有深度的閱讀理解能力、能夠進化以及具有一定的歸納推理能力等，可以運用ChatGPT這類技術輔助司法辦案。比如在日常的環節中借助ChatGPT這類技術快速地從案情中提取出相應的內容，幫助辦案人員減少機械性、煩瑣性的工作。像上海檢察機關《全流程全息在線辦案綜合平臺總體規劃》中關于全息助手的應用場景完全可運用ChatGPT這類技術研發替代場景。可以運用ChatGPT這類技術通過對海量的法律法規、歷史案件、辦案規則、專家意見等進行反饋式學習，讓司法人員在辦案過程中隨時獲取最貼切最實用的信息，形成案件定性的具體指引、輔助構建法律監督模型等。

曹曉燁：感謝各位嘉賓的精彩分享。今天我們圍繞ChatGPT技術原理及潛在司法應用場景進行了深入討論和展望，我們期待以ChatGPT技術為代表的人工智能技術能夠更好賦能檢察履職、經濟社會發展和“數字中國”建設。

（聲明：本內容僅代表嘉賓觀點，不代表本刊立場）

編輯：夏春暉 386753207@qq.com