我國發展生成式AI技術的內在邏輯、風險及路徑研究

蔡亞天 桂由英

摘? 要：生成式AI是一種利用大數據學習、創造全新數據或內容的人工智能技術。我國大力發展該技術，是基于科技創新、制造業升級、商業場景優化等多重因素的綜合考慮。然而，該技術也面臨著法律、倫理、安全等方面的潛在風險和挑戰。我國應在明確生成式AI技術的法律責任、培育生成式AI技術的創新生態、應對AI技術對傳統行業就業市場的影響等方面持續加強工作，助推生成式AI技術的高質量發展。

關鍵詞：生成式AI? ? ? 隱私保護? ? ?數據安全

生成式 AI 技術是一種利用人工智能算法讓機器不依賴于現有的數據，而通過自身的模型產生新的數據的技術。相較于判別式 AI ，生成式 AI 技術具有以下特點：第一，可以在沒有大量已有數據的情況下生成新的數據。第二，可以生成獨特的、全新的數據，而不僅僅是基于已有數據。第三，可用于圖像、音視頻、文字等多種類型的數據生成。隨著深度學習和大規模訓練數據的出現，生成式 AI 技術得到迅速發展。目前，該技術在創意設計、虛擬現實、視頻游戲等領域已經有了廣泛應用，可以快速生成大量的音視頻。在科學研究中，此技術也正被應用于新材料、新藥物的設計和研發中。

一、我國大力發展生成式AI技術的內在邏輯

我國正大力發展生成式 AI 技術，開發了文心一言、通義千問等模型，發展該技術具有深刻的內在邏輯。通過推動該技術的研究和應用，我國可大幅提升在人工智能領域的國際競爭力，更好滿足國內外市場的需求。這將為中國帶來長期的經濟、社會效益，同時也將促進全球AI技術的進步。

（一）科學技術的發展與創新

在科學技術領域，生成式AI技術可以提供靈活、高效的解決方案，讓科研人員在數據處理、模擬建模、實驗設計等方面獲得更多的創新思路。比如，生成式AI可以快速產生大量模擬數據，從而分析某些科研項目的可行性。在設計領域中，生成式AI技術可以幫助設計師更加高效地完成創意工作，在短時間生成大量優質的設計方案，從而滿足不斷增長的用戶需求和市場需求。設計師可通過該技術，不斷提升設計質量和效果，從而在市場中贏得競爭優勢。

（二）制造業轉型升級

近段時間，更多企業開始將生成式AI技術應用于生產鏈中。首先，它能夠在較短時間內準確生成所需的產品和樣品，從而提升生產效率。這樣一來，中國的制造業就可以更好地適應市場需求，為客戶提供更具競爭力的產品。其次，它還可以為企業品控和監測提供有效的解決方案。對于某些需要更高品質和準確性的產品（如飛行器的零部件）， 它提供了基于算法的智能化、預測型品控方法，從而改善生產工藝。最后，它還可以降低人工和生產成本，有助于企業的長效盈利。生成式AI技術對我國制造業的轉型升級非常關鍵，該技術將提升制造業的數字化、智能化、自動化水平。

（三）商業場景的優化

該技術具有廣泛的商業應用前景。在圖像處理方面，可以實現圖像生成、風格遷移、圖像修復等功能，這在廣告設計、游戲開發、智能家居等領域將得到廣泛推廣。在音頻處理方面，該技術可應用于語音合成、音頻增強、音符生成等方面，這將改善語音交互、提升音樂創作水平。此外，該技術還可用于模擬仿真、自動編程、醫療等場景。

（四）提升全球創新競爭力

在全球創新領域中，生成式AI技術已成為一個備受關注的研究方向，這對提升中國在全球的競爭地位至關重要。在電子商務領域，它可以更準確地分析消費者需求、提升市場分析和預測的精準度，從而提高企業的商業水平，推動行業的數字化轉型。在智能制造領域，它也可以協助企業完成流程優化、自動化調整，提升企業的生產效率。

在國防和公共安全等方面，生成式AI同樣可以提供更好的技術支持。在智能安防方向，此技術可實現人員識別、行為分析和情景感知等功能，從而更好地維護國家安全和社會穩定。該技術還可用于智能交通、城市規劃、公共資源管理等領域，提高城市管理、公共安全的效率。

（五）經濟需求

面對人口老齡化和勞動力成本上升的挑戰，我國迫切需要更多自動化解決方案。生成式AI技術可以幫助企業創建軟件代碼、促進產品研發和有針對性的營銷等，從而減輕員工負擔，提高工作效率。

二、我國發展生成式AI技術的優勢條件

（一）技術實力

AI技術是綜合性的新興科學，涵蓋了語音、圖像、文字、思維等多個方面。我國在自然語言處理、圖像識別等領域，位居全球領先地位。近年來，中國人工智能企業大量涌現，匯聚了眾多優秀AI技術人才。

（二）政策支持

黨的二十大報告指出，加快發展數字經濟，促進數字經濟和實體經濟深度融合。2023年4月11日，《生成式人工智能服務管理辦法（征求意見稿）》出臺并向社會公開征求意見。對比其他國家對該技術的監管，中國無疑走在了世界前列。《意見稿》對生成式AI技術、生成內容、主體責任、數據源和數據處理等方面都做出了相關規定，為我國生成式AI技術高質量發展提供了制度保障。

（三）人才儲備

我國擁有龐大的人才儲備，特別是在計算機科學、數學等相關領域。我國高等教育體系不僅培養了大批優秀人才，而且部分國內頂尖高校和科研機構在該領域也取得了可觀的成就。然而，在高端研究人員、跨領域交叉人才等方面尚存一定短板。為此，我國已出臺多項政策和規劃，支持AI教育和培訓。例如，教育部新增高職（專科）人工智能專業，180所高校也新增相關本科專業。

三、生成式AI技術的潛在風險隱患

（一）數據安全與隱私保護

生成式AI技術在使用過程中，它可能帶來數據泄露和個人隱私侵犯的風險。例如，生成式AI模型通常使用大量的公開文本數據進行訓練，這些數據可能包含個人信息、敏感數據或不當內容。如果在訓練過程中沒有對此類信息進行充分過濾和脫敏，模型可能會學到這些敏感信息，并在后續應用過程中將其泄露給其他用戶。此外，該技術可能會產生涉及真實姓名、地點和其他個人信息的輸出，嚴重侵犯個人隱私。

（二）信息誤導

隨著生成式AI的發展，更多虛假信息和誤導性內容被生成和傳播，這可能對社會公眾產生負面影響。部分AI算法可根據一些已有信息，生成看似真實的虛擬內容，甚至可能仿冒現有人物并產生高度逼真的結果。生成式AI技術可能會增加虛假信息的風險，并引發社會輿論的不穩定。這些誤導性內容有可能傷害公眾權益，導致社會問題的惡化。另外，一些虛假信息可能會與現實世界中的個人數據相似，這可能會誤導用戶認為自己的個人隱私被泄露，引發用戶的擔憂。例如，生成式AI算法生成的虛假圖像可能深度仿真某一特定人物，如果該人物的隱私信息遭到泄露，就有可能誤導社會輿論，并產生嚴重的負面影響。這還可能導致相關人員陷入不必要的麻煩，進一步影響到社會秩序和國家安全。

（三）倫理問題

生成式AI技術在自然語言處理領域得到了廣泛應用。然而，如果這些算法不受適當監管，就有可能產生具有攻擊性或歧視性的內容，從而引發社會爭議和道德問題。例如，在社交媒體上使用該技術生成的誤導性或虛假信息，可能被用于網絡欺凌、騷擾、詐騙中。此外，該技術可能會重復和放大現實世界中的偏見和歧視，進一步加劇社會的不平等。

（四）人工智能失控

生成式AI技術的發展也給人類社會帶來了挑戰。如果不能及時采取有效措施來監管該技術，那么它可能會變得失控。由于該技術的高度復雜性，使得其潛在的危險性也更大。該技術的安全漏洞甚至會對國家安全和生態環境產生不可預知的負面影響。

（五）依賴性問題

生成式AI技術的發展給生活和工作帶來了巨大的便利。但如果人們過度依賴該技術，就有可能喪失獨立思考力和判斷力。首先，此技術可能產生認知慣性和思考惰性。人們會將本該自己思考解決的問題交給AI來完成，從而習慣了簡單地接受AI的建議和結果，而不是針對問題進行深入思考。其次，過度依賴生成式AI技術會進一步導致人類社會的人際關系愈加疏離。這會使人們社交互動的機會減少，可能會降低社會凝聚力。

四、我國發展生成式AI技術的主要路徑

（一）合理界定生成式AI技術的法律責任

生成式AI技術應用中，法律責任歸屬的明確界定直接關系到整個行業的發展前景，需引起高度重視。例如，用戶沒有遵守相關法律法規，濫用生成式AI技術，導致隱私泄露、知識產權侵犯等問題，用戶需承擔相應的責任。又比如第三方干擾或攻擊，導致生成式AI不能正常工作或輸出結果不準確，導致嚴重后果，需綜合考慮相關方面進行責任界定。

因此，在界定法律責任歸屬時，需考慮到多個維度，以確保生成式AI技術應用的合法合規和安全可靠。從技術角度看，我們需要對該技術的整個生命周期進行監管。這包括數據收集、處理、存儲和使用等方面，以及算法模型的開發、測試和上線等流程。同時，還需要建立完善的技術評估和審查機制，確保該技術的安全性、穩定性和可靠性。

從法律角度看，我們需要依據相關法律法規和政策規定，明確各方的權利義務和責任。這包括對數據隱私、知識產權、消費者權益的保護，以及對不當行為的懲罰和追責。此外，還需要制定相應的合同條款和協議，規范各方之間的關系和義務。

（二）著力培育生成式AI技術的創新生態

為培育有利于AI創新發展的生態系統，我們應該著力推動學術界與產業界之間的深度合作，共同探索生成式AI技術的潛力與可能性。這種合作應以資源互通和創意交流為基礎，在兵分兩路的情況下共同致力于推動技術研發和革新。同時，我們也需要加強對相關行業的研究和探索，尋找與其相輔相成的新機遇。只有深耕精細，建立起一個完整的、高效的協同創新體系，才能使生成式AI技術獲得更大的成功。

此外，基礎理論研究依然是保障技術進步的核心。如今，AI技術正不斷滲入到各個行業領域，但真正實現技術的躍升，仍離不開理論基礎的研究和積累。

（三）減輕生成式AI技術隱私風險，保障數據安全

在訓練生成式AI模型時，應對訓練數據進行脫敏處理，移除所有包含個人信息、敏感數據或不當內容的文本，從而降低潛在的隱私風險。技術開發者應通過設置合適的過濾器和約束條件，限制生成式AI產生包含個人隱私或敏感信息的輸出結果，降低泄漏風險。服務提供商應明確用戶協議和隱私政策，告知用戶如何處理他們的數據，以及在與生成式AI交互過程中可能產生的隱私風險。此外，技術開發者及相關各方應采取更嚴格的數據安全措施，對用戶數據進行加密和訪問控制，防止未經授權的訪問、使用或泄漏。同時要確保在合法合規的情況下處理用戶數據。

（四）有效應對AI技術對傳統行業就業市場的沖擊

生成式AI技術可以自動生成大量內容，這可能導致部分從事簡單內容創作的從業者失業。此外，在醫療、金融等行業，部分簡單、機械的工作也將被替代。然而，生成式AI技術也給傳統行業帶來機遇。該技術可以幫助從業者節省時間，提升效率。同時，需要創意的相關工作，AI技術也并不能真正替代人類的價值。

為此，相關從業者需積極轉型并提升自身技能，向更有創意和思考性的工作方向轉變，從而提升自身競爭力。政府和社會各方也應采取積極全面的技術布局，充分利用生成式AI的技術優勢，實現與實體經濟的深度融合。

（五）著力發展通用大模型及垂直領域模型

垂直領域模型是指針對特定領域或任務進行優化設計的模型，例如語音識別、自然語言處理、圖像分類等。垂直領域模型的優點是可以更好地適應特定場景的需求，提高模型的精度和效率。我國應大力發展垂直領域模型，從而充分利用中國在各個行業和領域的海量數據，打造出具有競爭力和創新力的AI應用。

發展垂直領域模型并不意味著放棄通用大模型。我國應在通用大模型和垂直領域模型上都加大投入，兩者相輔相成，從而共同推動生成式AI技術的發展。

參考文獻：

[1]杜立平，宋燕紅，李曉東，金鑫.GAN在AI領域的應用研究[J].北京電子科技學院學報，2018，26（3）.

[2]芝亭.文心一言，“利刃出鞘”生成式AI時代[J].華東科技，2023，（3）.

[3]顧亞奇，王琳琳.有意義的控制：基于生成對抗網絡的AI藝術及其交互方式[J].裝飾，2021，（8）.

[4]趙志宏.生成式AI開啟生產力新范式[J].銀行家，2023，（4）.

[5]生成式人工智能服務管理辦法（征求意見稿）[J].中國信息化，2023，（5）.

[6]馮群星.全梳理.180所高校新增人工智能專業，能否填補百萬人才缺口？[EB/OL]. 2020-03-06.

[7]李白詠.面對生成式人工智能：與AI結對還是被AI取代？[J].中國電信業，2022，（12）.

（作者單位：1.中共內江市委黨校；2.內江市人民政府辦公室）

責任編輯：康偉