ChatGPT帶來的法律挑戰

劉彥華

ChatGPT對我們的法律體系規則、權利保障以及司法救濟等提出了一系列的挑戰，可以說，挑戰無處不在。

科技創新下不斷涌現的新技術、新業態、新模式，一直在對現有法律制度提出新的挑戰。近期爆火的ChatGPT究竟帶來了哪些法律挑戰？我們應該如何應對呢？帶著一系列問題，《小康》雜志、中國小康網記者對北京大成律師事務所高級合伙人錢衛清、杭州溪塔科技有限公司副總裁錢靖進行了采訪。

變革正在發生

《小康》·中國小康網：對于ChatGPT，微軟公司創始人比爾·蓋茨評價它出現的重大歷史意義不亞于互聯網和個人電腦的誕生，但也有人認為它只是一個工具。請問您對此如何評價？

錢靖：我認為稱其是一種顛覆性發展并不為過。ChatGPT是一種基于新型神經網絡框架發展出來的技術，不同于以往我們比較熟悉的RNN循環神經網絡和CNN卷積神經網絡框架，它的技術核心是Transformer。這種神經網絡架構的核心特點在于自注意力機制（self-attention），它可以根據輸入的文本序列中不同位置之間的相對距離，動態地計算出每個位置與其他位置的注意力權重，從而可以捕捉文本中不同位置的互相依賴關系。這種機制具有更好的并行處理能力，在處理長文本時具有更好的效果。

在Transformer的發展過程中，出現了Bert和GPT兩種基本訓練模型。GPT也就是Generative?Pre-Training，是一種預訓練模型，開發者使用了海量優質的語料庫對它進行預訓練，最后取得了非常好的泛化使用效果。也就是說它是一個比較通用化的人工智能。在GPT的基礎上，通過更高質量更專業的語料庫的微調，便形成了GPT-3以及現在大家看到的ChatGPT。這種技術是目前我們看到的最接近能夠通過圖靈測試水平的一種技術，人們在與之對話的時候，已經很難分辨出是在和一個機器對話還是在和一個人對話。

另外，在使用ChatGPT的過程中，人們也越來越發現它具有很強的實用性，這一點也與以往的人工智能軟件有很大不同。

因此，稱其為一種顛覆性的技術發展并不為過。它的使用人數增長非常迅猛，很多人愿意為之付費，去解決現實生活和工作中的一些問題。

錢衛清：在我看來，ChatGPT將從某種程度上改變我們的生活方式、工作模式以及整個產業的運行模式。它代表了一種數字文明、一種人機互動合作的新方式。至于具體它能夠給整個人類社會帶來什么樣的變革，現在還有待觀察。

挑戰無處不在

《小康》·中國小康網：ChatGPT在給人們的生活增添樂趣、提供便利的同時，其信息真偽、知識產權等法律風險也愈發受到關注。據您分析，ChatGPT這樣的人工智能暗藏的法律風險隱患和挑戰主要有哪些？

錢衛清：法律具有滯后性，必然是一個事物發展到一定程度后，積累了各種糾紛，涉及各種權益爭議，然后才會上升到法律層面。目前我國還沒有專門針對ChatGPT的相關法律制度，對應對這樣的技術創新也還沒有做好準備。

據我分析，就目前的法律來看，ChatGPT對我們的法律體系規則、權利保障以及司法救濟等提出了一系列的挑戰，可以說挑戰無處不在。

具體主要表現在以下幾個方面：

首先，這種人工智能的行為性質，包括它的開發方、使用方和一般老百姓在運營過程中會形成一種什么樣的法律關系，現在還不清晰。

其次，因為這項技術背后涉及的是海量數據的抓取，這將導致其涉及的各種權利、數據抓取是否經過對方授權、獲取信息的渠道范圍是否合理等都難以判斷。并且，整套技術提供的服務內容，包括圖片、文字以及各種信息和解決方案，由于它的來源是基于大數據，它的初始權利又從哪里來也都無法判斷。

再次，由于ChatGPT能夠自動生成內容，著作權也是一大問題。ChatGPT在生成內容的過程中，涉及了誰的著作權、權利來源、權利主體、著作權的復制權使用權等等是否合理合規，是否涉及抄襲，目前這些問題還都沒辦法做出準確判斷。

另外，ChatGPT的權利邊界在哪里，信息打散后人們如何去主張自己的權益，它的合理使用如何界定，等等，這一系列問題目前也還沒有辦法解決。由此，還將產生另一個問題，即技術發展方是否應該去承擔這份責任、如何承擔，等等。這些對現有法律而言都是巨大挑戰和難題。

《小康》·中國小康網：從技術角度分析的話，為什么會出現這么多法律上的難點和盲點？

錢靖：ChatGPT這種人工智能技術，根據它的基本原理，它實際上很大程度上是一個黑箱，人們能夠看到的是輸入和輸出兩端，但它中間的工作原理和機制我們并不清楚。它的結果是靠算力“燒”出來的，但為什么是這樣的結果，它并沒有一些經驗性的總結，這也是它的處理方式和人類能夠理解的處理方式不太一樣的地方。在這里面，它沒有一個特別穩固的中間載體，使得我們可以用一些傳統的法律概念去進行保護。

在這種情況下，我們只能去抓它的兩頭，即輸入和輸出。這里面就會涉及到著作權的保護，知識產權的基本思路是用法律保護去換取人們的信息公開，從而有益于全人類。如果沒有這樣的法益保護，人們就會嚴格控制信息的擴散，不利于全人類信息共享。因此，我們的想法是，希望通過技術上的一些處理和法律上的一些要求，去創造這個技術的市場。簡單說就是，我們是否能夠去要求這項技術的發展方去提供ChatGPT究竟使用了哪些語料庫、涉及哪些著作權等這樣的信息，從而使得著作權人有可能去主張自己的權利。

提高個人法律意識迫在眉睫

《小康》·中國小康網：面對這樣一項技術，面對這樣一個時代，我們個人如何有效地維護自身的權利？

錢衛清：對個人來說，首先要有一個權利意識。大數據時代，我們每個人的行為，包括點外賣、出行等等，這些數據被一些平臺收集后變成了他們的權利，好像和我們個人沒關系了。但這是不對的。尤其是在未來人工智能時代和數據時代，我們要有權利意識。當然，這有個前提，就是這種權利通過什么媒介什么方法來實現它，也是需要思考的一個問題。總得來說，就是要提高個人的權利意識、法律意識、維權意識。

另外，涉及具體權利的話，它還有一個法律賦予我們的隱私保護、信息安全等這些相關權利的救濟權，同一行業監管的標準是什么，這都需要通過典型個案進行提升，然后上升為法律規則。

《小康》·中國小康網：如何深化對ChatGPT的使用將會受到現有法律制度的制約。請問對于如何適時地制定什么樣的法律法規，構建什么樣的法律規范體系，您有什么樣的看法和建議？

錢衛清：首先，從法律上，我們要認可它就是一個工具，不能因為發生了一些侵權等行為就禁止其發展。其次就是我們應該去研究認識人工智能這樣的技術帶來的權利義務變遷的規律，司法通過個案等進行有限度的介入，逐漸形成規則，完善立法，讓老百姓知道這里面的權利邊界在哪里，既有利于平臺建設，又有助于人們權利保護，其中的利益平衡非常考驗我們的司法智慧。現在我們還需要一些時間。

錢靖：我經常說的一句話是，在鐵絲網出現之前，人們是很難去劃分一個牧場的土地所有權。也就是我們需要借助一個低成本的技術手段去主張自己的權利，當人們維護自己權益的成本過高時，實際上是很難真正維護自己的權利。現在人工智能的發展已經達到了一定水平，對于商業主體而言，它已經具有了較強的盈利能力，但對我們個人來講，個人信息、隱私保護、著作權等如何去維護還是一個問題。

在我們看來，區塊鏈可能是一個比較好的解決方案，它可以幫助人們低成本的溯源數據，并向司法系統證明自己的數據是否受到侵害、被誰侵害等。以著作權為例。著作權保護在當今信息爆炸的時代是越來越難的。著作權備案登記的效力，因為不做實質審查，也一再受到質疑。為了保護大家的著作權，最好在創作完成后，第一時間選擇可靠的區塊鏈網絡做好存證登記，這個已經是必備的動作了。

《小康》·中國小康網：目前，全球已有多國大學、科研機構發布明確的人工智能禁令，禁止學生和論文合著者使用ChatGPT這樣的工具完成作業和論文寫作。請問在您看來，現階段，這樣的做法值得肯定和推廣嗎？

錢靖：對于學校學生完成作業而言，這個我理解主要是為了鍛煉學生的搜索、理解和推理能力。但是我很懷疑這個禁令的執行效果。如果事實上很難審查作業的結果是否來自ChatGPT的協助，那么這種禁令只會起到反效果，反而造成不公平。我的觀點是堵不如疏，不如在學校開設ChatGPT使用的課程，由老師帶領學生去一起探索使用這個工具的邊界。經過探索后，我們再回過頭來判斷應該怎樣去限制，或者哪些地方可以使用，哪些地方不應該使用，這可能是一個更好的選擇。

錢衛清：一味的禁止并不合適。首先，它是一個新生事物，某種意義上代表著生產力的提升，有利于經濟發展，我們應該擁抱它，而不是一味阻止。學校的做法可能更多的是擔心影響學生的思維能力訓練，但換個角度來說，要想用好這種工具，也需要一定的能力，這反而可能倒逼學生的思辨能力、認知能力、提出問題的能力的提升。當知識的獲取變得很容易的時候，這種思辨、提問的能力提升反而可能成為今后學生的一個核心競爭力。

轉換思維，積極擁抱新技術

《小康》·中國小康網：科技的每一次重大迭代都會引起人類的興奮與恐慌。請問您如何預判ChatGPT這類人工智能的下一步發展？

錢衛清：ChatGPT是一個內容生成的工具，現在是3.0，未來還會有4.0，5.0，它可以替代部分簡單的腦力勞動，提升腦力勞動的效率，也會替代部分行業的一些崗位，淘汰一批人。這是一個艱難的選擇。對于一個國家來說，技術的進步將大大推動經濟發展、文化發展、治理結構以及各個行業的更新換代和數字化、智能化。但對個人來講，時代的一粒灰，落在每個人的肩頭都是一座山。技術進步具有兩面性，有推動生產力發展的積極一面，也有職業替代造成失業這樣的負面影響。我們個人沒辦法抗拒技術的進步，只能轉換思維，積極適應、學習、使用它，讓它變成我們提高工作效率、改進工作方法的一個工具和伙伴。

錢靖：首先，ChatGPT的發展會非常迅速，因為它已經形成了商業上的閉環，有了可靠的估值模型，可以有很好的產出。所以后面會有大量的資本和新的數據進入這個領域。包括我們看到的各類競品的開發投入，都在緊鑼密鼓的上馬當中。

其次，人工智能的發展會提供很大的人的便利，進一步把人從簡單勞動中解放出來。這個有很多不同的看法，有些人認為人工智能別名大失業；也有人認為人工智能會讓硅基文明取代碳基文明。但是，其實類似的革命性的技術進步在過去發生過不止一次。那么最近的這一次人工智能的技術革命可能會先把低端白領工作給解放出來，推動人們更多地從事高級的創造性的工作。對于個人來說，需要轉換賽道；對于產業而言，這是個降本增效的必經之路；對于國家而言，需要做好掉隊人群的社會保障工作。

最后，要做好面對人工智能的保護工作。除了提高保護自己的意識之外，也要熟悉和使用很多技術工具來保護自己，形成可信的價值傳遞。區塊鏈很多情況下可以起到這樣的作用。在一個信用被人工智能大量掠奪和沖淡的時代，區塊鏈可以起到價值錨定的作用，成為傳遞信用的島嶼。有了矛，就要準備好盾，事物就是這樣一層層遞進發展的。