人工智能生成內(nèi)容的發(fā)展趨勢、風險與善治

賀 芳

(中南財經(jīng)政法大學 圖書館,湖北 武漢430073)

0 引言

數(shù)字經(jīng)濟時代,傳統(tǒng)內(nèi)容生成技術已難以滿足用戶日益增長的數(shù)字內(nèi)容需要。隨著人工智能技術發(fā)展,AIGC(Artificial Intelligence-Generated Content)應運而生。AIGC即“人工智能生成內(nèi)容”,是繼專業(yè)生成內(nèi)容PGC和用戶生成內(nèi)容UGC之后的一種新型內(nèi)容生產(chǎn)方式,是通過人工智能技術來生成符合用戶需求的文本、圖像,甚至音視頻等內(nèi)容,內(nèi)容生成主體由人變成了AI。中國信息通信研究院公布的《人工智能生成內(nèi)容(AIGC)白皮書(2022)》將AIGC發(fā)展分成早期萌芽階段、沉淀積累階段和快速發(fā)展3個階段[1]。隨著深度學習算法、算力突破瓶頸和語料庫不斷完善,人工智能技術得以大幅進步,AIGC應用也變得更加豐富,包括圖像生成、文本生成、音視頻生成、跨模態(tài)生成等[2]。Stability AI公司發(fā)布Stable Diffusion模型,可以根據(jù)文字自動生成圖像。2022年11月以來,由OpenAI發(fā)布的聊天機器人ChatGPT引發(fā)廣泛關注[3],能與人類“對答如流”,眾多業(yè)界專家學者對此表達看法,一些學者觀點較為積極,認為ChatGPT將重塑社交媒體、語言翻譯、文字創(chuàng)作[4]、智能編程[5]等行業(yè)。也有專家對ChatGPT等AIGC的突出表現(xiàn)及引發(fā)的各種倫理風險[6]、法律問題[7]、能源環(huán)保問題[8]產(chǎn)生擔憂;美國語言學家諾姆·喬姆斯基認為,ChatGPT是一個高科技剽竊系統(tǒng),部分高校及研究機構(gòu)則明令禁止學生使用ChatGPT寫作業(yè)或者撰寫論文。ChatGPT是AIGC技術應用中的文本生成模態(tài)應用模型,是AIGC最新應用成果,也標志著AIGC的發(fā)展將進入新階段。

1 人工智能生成內(nèi)容技術體系及演進

1.1 AIGC技術演進及應用場景

自ChatGPT出世以來,從目前市場各種測試數(shù)據(jù)來看,它具有強大的語言理解和自然語言生成能力;具有一定的自學習能力;設置一定的過濾處理機制,可以針對不恰當?shù)恼埱筮M行合理回復,并對不正確的問題提出質(zhì)疑;可以與用戶保持連續(xù)性對話,對不理解的指令進行追問;具備記憶力,能記住用戶生產(chǎn)的內(nèi)容等,它可以算是生成式AI極為關鍵的發(fā)展節(jié)點,AIGC發(fā)展受益于生成算法、生成式AI預訓練模型、多模態(tài)等技術的不斷發(fā)展。

在自然語言處理方面,早期主流模型主要為RNN等循環(huán)神經(jīng)網(wǎng)絡,后引入注意力機制,但是存在順序處理效率低、長序列數(shù)據(jù)處理模型不穩(wěn)定等問題。2017年Google團隊首次提出基于自注意力機制的Transformer模型,擁有6 500萬個可調(diào)參數(shù)[9],ChatGPT則在這個模型的技術基礎上,從GPT-1到GPT-4,模型參數(shù)呈指數(shù)級增長,文本處理及生成能力大幅提高。而基于Transformer模型的BERT等預訓練模型具有較強的語義理解能力。

在圖像處理方面,Kingma等在2014年提出深度生成模型-變分自編碼器(Variational Autoencoder,VAE),以概率方式對潛在空間進行觀察,在數(shù)據(jù)生成方面有所應用,可以生成與原始數(shù)據(jù)類似但不完全相同的數(shù)據(jù)。2014年,Lan GoodFellow提出早期較為有名的生成對抗網(wǎng)絡模型(Generative Adversarial Networks,GAN),在人臉照片生成、漫畫人物生成、文字轉(zhuǎn)圖片、圖片修復、3D建模等方面廣泛使用。同時,基于自我注意力機制的擴散模型(Diffusion Model)等生成算法出現(xiàn)[10],擴散模型圖像生成性能顯著,且在圖像合成上可以取代GAN的性能,并能生成多樣化圖像。

此外,多模態(tài)技術發(fā)展在一定程度解決了AIGC多樣性的問題,例如Open AI推出基于Transformer的圖像生成模型DALL-E和圖像文本多模態(tài)模型CLIP,CLIP模型可進行圖像分類、搜索、對比等任務,具有更強的泛化能力;谷歌團隊推出文本到圖像的預訓練模型Imagen和Parti; Stability AI推出文本轉(zhuǎn)圖像模型Stable Diffusion等,因此預訓練模型從單模態(tài)走向多模態(tài),AIGC通用性能力將得以進一步提升。

1.2 AIGC助推內(nèi)容生產(chǎn)變革

1.2.1 重構(gòu)傳統(tǒng)互聯(lián)網(wǎng)商業(yè)模式,促進數(shù)字經(jīng)濟新突破

隨著數(shù)字經(jīng)濟不斷發(fā)展,各種數(shù)字化場景不斷出現(xiàn),而數(shù)字內(nèi)容生產(chǎn)取決于知識水平、創(chuàng)造能力等,傳統(tǒng)單純靠人的內(nèi)容生產(chǎn)手段已經(jīng)難以滿足日益增長的數(shù)字內(nèi)容增量需求,引入ChatGPT等人工智能手段輔助內(nèi)容生產(chǎn),將進一步變革內(nèi)容生產(chǎn)方式,并對人工智能利益鏈產(chǎn)生一定的影響。一方面從應用來看,現(xiàn)有GPT模型、OPT模型等可應用于市場營銷、銷售郵件、通用寫作等文本生成領域,Tabnine模型可自動完成代碼編寫,DALL-E、Stable Diffusion可用于圖像生成、廣告設計等領域,X-CLIP模型可應用于通用視頻識別, AI模型生成能力已在影響各行業(yè)解決問題的傳統(tǒng)思維;另一方面隨著應用不斷擴展,傳統(tǒng)企業(yè)或者用戶往往面臨著模型使用門檻高、內(nèi)容生成存在偏差等問題,反過來促進算力芯片、數(shù)據(jù)標注、自然語言處理(NLP)等行業(yè)的進一步發(fā)展。同時,它通過支持人工智能生成內(nèi)容與其他產(chǎn)業(yè)形成多維互動,為其他行業(yè)帶來新的商業(yè)模式。

1.2.2 輔助內(nèi)容生產(chǎn),提高數(shù)字內(nèi)容生產(chǎn)效率

將人工智能技術應用于內(nèi)容生產(chǎn),一是能大幅提高內(nèi)容生產(chǎn)效率,通過AI模型輔助內(nèi)容生產(chǎn),可以讓更多用戶以最簡單的方式進行內(nèi)容創(chuàng)作,降低創(chuàng)作門檻,提升創(chuàng)作者生產(chǎn)力;二是隨著AI模型訓練數(shù)據(jù)不斷完善和算力的不斷增強,將能以更低的邊際成本滿足更多的個性化需求;三是AI模型被“投喂”的知識量可以遠遠大于人腦的知識儲備量,理論上來說其輸出的內(nèi)容質(zhì)量始終維持在較高水平;四是AI在數(shù)字內(nèi)容生產(chǎn)領域的出色表現(xiàn),將重塑人機協(xié)作的新范式,一個好的內(nèi)容創(chuàng)意可能不僅來自于內(nèi)容創(chuàng)作者,也可以來自內(nèi)容生產(chǎn)工具使用者。

2 人工智能生成內(nèi)容的多重風險

2.1 意識形態(tài)風險

AIGC以人工智能為主體,不斷驅(qū)動內(nèi)容生成產(chǎn)業(yè)革新,但不可避免存在一定價值偏向和意識形態(tài)色彩,具有一定的意識形態(tài)屬性。一方面,AIGC帶來內(nèi)容生成主體和生成方式的變革,但其內(nèi)容“三觀”完全由研發(fā)公司灌輸,其輸出結(jié)果依賴AIGC訓練集數(shù)據(jù)的統(tǒng)計規(guī)律,無法核實數(shù)據(jù)的來源及準確性,容易產(chǎn)生算法歧視和價值偏見;AI算法設計師自身的價值取向也會影響AI內(nèi)容的公正性與公平性。另一方面,AIGC促進內(nèi)容傳播方式改進,從傳統(tǒng)由用戶被動式搜索內(nèi)容過渡到算法個性化推薦,并且支持千人千面的階段。人機交互過程中,人的主體性地位被不斷削弱,導致人對社會的認知過度依賴算法的過濾包裝,被算法塑造后的認知空間對人的價值認知更容易產(chǎn)生負面影響。且AIGC本身具有生產(chǎn)周期短、效率高、應用廣泛等優(yōu)勢,智能算法已在各個領域扮演主導者角色,會形成“信息繭房”“過濾氣泡”“回音室效應”等問題,造成人機意識形態(tài)主導權與話語權之爭。有研究者指出人工智能對信息生成與傳播過程深入介入將進一步強化人對技術的依賴與盲從[11],進一步加劇用戶認知風險。

2.2 法律風險

一方面是AIGC侵權風險,AIGC模型生成需要大量的訓練集數(shù)據(jù),這些數(shù)據(jù)可能會包含受版權保護的內(nèi)容。同時AIGC作品本身也是“從有到有”,例如藝術類作品,很可能AI生成最終作品只是原作品新的表達,或者與原作品在表達上構(gòu)成“實質(zhì)性相似”,都可能對原作品造成侵權。另一方面是關于AIGC著作的權利歸屬問題,一是AIGC作品是否受版權保護,美國版權局于2023年3月16日針對AIGC發(fā)布版權注冊指南,明確版權只保護人類創(chuàng)造力的產(chǎn)物,而在我國,《著作權法》只有自然人或法人才具備擁有著作權或版權的資格,從某種意義來說,AI不具備擁有著作權或版權的資格。有研究者認為,AI模型核心是數(shù)據(jù),如果能做好數(shù)據(jù)確權,就能解決AIGC作品版權保護問題[12]。但是數(shù)據(jù)確權是一項復雜工程,全球尚無統(tǒng)一標準,因此關于AIGC作品是否受版權保護尚無定論。二是作為AI模型開發(fā)者或者使用者是否擁有版權,2018年騰訊狀告網(wǎng)貸之家網(wǎng)站未經(jīng)授權許可,抄襲騰訊機器人Dreamwriter撰寫的文章,宣判結(jié)果為AI生成作品屬于著作權法保護范圍,騰訊公司勝訴。在此案中,著作權歸開發(fā)者所有。我國AI生成工具文心一言也認為用AI工具生成內(nèi)容的版權屬于生成該內(nèi)容的AI工具開發(fā)者。ChatGPT則認為由它生成的內(nèi)容著作權歸ChatGPT使用者所有,AI工具只是進行作品創(chuàng)作的技術手段,具體內(nèi)容及表現(xiàn)形式需要使用者來決定。科大訊飛的星火認知大模型則根據(jù)具體情況具體分析,如果作品由人類使用AI工具創(chuàng)作,版權通常屬于人類作者,如果作品由AI程序自動生成,則需考慮AI程序開發(fā)者和使用者對版權歸屬的責任與義務,以及使用場景及目的等因素[13]。由于AIGC著作權利歸屬問題無明確界定,導致AIGC作品無法受到著作權保護,阻礙人工智能技術使用,同時可能因AI的摹寫行為侵犯他人合法權益。

2.3 倫理風險

AIGC是以數(shù)據(jù)為中心構(gòu)建的模型,訓練數(shù)據(jù)集合的全面性、準確性、多樣性和公正性決定了輸出結(jié)果是否具有相應特性,但在實際情況下,AIGC訓練數(shù)據(jù)是有限的,且受到相應AI模型開發(fā)者和使用者的個人價值觀影響,容易產(chǎn)生歧視、價值觀對抗、霸權、虛假信息等問題。例如訓練AI模型的數(shù)據(jù)可能是基于某特定地區(qū)或國家的文字進行訓練,它在理解其他語言語義上就會相對較差。如果數(shù)據(jù)集主要針對某些特定主題,則響應其他主題內(nèi)容時,則無法給出理想答案。如果數(shù)據(jù)集存在一些種族偏見、性別偏見、歷史偏見等問題,則其生成的內(nèi)容可能會固化這些偏見。 同時AI數(shù)據(jù)集來源包括大量用戶生成內(nèi)容,內(nèi)容具有一定的價值偏見,如果與主流價值觀點相沖突,就會削弱部分弱勢群體的利益,且AIGC傳播特性還可能造成這種價值偏見在傳播過程中不斷延續(xù)與強化。此外,AI模型主要是“向數(shù)據(jù)學習”,其可能無法區(qū)分事實數(shù)據(jù)和虛構(gòu)數(shù)據(jù),因此容易生成一些具有一定說服力和可信度的虛假作品,加上其生產(chǎn)效率高特點,有助于虛假信息的泛濫、傳播,如果不予以監(jiān)管,將進一步加大偏見或有害刻板印象。

2.4 環(huán)境風險

ChatGPT的橫空出世拉開了大語言模型產(chǎn)業(yè)的序幕,其模型參數(shù)和預訓練數(shù)據(jù)量呈幾何級數(shù)增長,模型訓練和部署需要消耗大量的電力和算力[14],艾瑞咨詢關于《ChatGPT浪潮下,看中國大預言模型產(chǎn)業(yè)發(fā)展》[15]提出,2020年微軟Azure為GPT-3準備的訓練研發(fā)平臺共部署1萬多塊英偉達V100,如果置換為A100,則GPU算力約3 000～5 000塊英偉達A100。在電力方面,AI算力用電需求龐大,訓練單個模型消耗的電力超過100多個美國家庭1年的用電量[16]。且模型不僅需要訓練,還需要用來為大規(guī)模用戶服務,這增加了幾倍的計算量,從總體來看會造成巨大的碳排放量。

3 人工智能生成內(nèi)容的風險治理

3.1 政府層面:政策引導+適度監(jiān)管

通過出臺相關政策法規(guī),對AIGC技術和內(nèi)容進行正面價值引導、監(jiān)管并治理。目前,各國政府針對AIGC等人工智能技術的健康可持續(xù)發(fā)展制定了相關規(guī)劃或政策。歐盟于2021年發(fā)布《人工智能法案》草案[17],提出人工智能風險預防機制和實踐路徑;2017年國務院印發(fā)《新一代人工智能發(fā)展規(guī)劃》指出[18],人工智能帶來法律適用性、社會倫理等方面的挑戰(zhàn),要加強倫理法規(guī)制定,建立人工智能健康發(fā)展法律法規(guī)、倫理規(guī)范和政策體系,具備人工智能安全評估和管控的能力。同時,為明確算法推薦服務提供者的主題責任,加強網(wǎng)絡信息安全管理,并保障算法推薦服務規(guī)范健康發(fā)展,避免算法歧視、誘導沉迷等不合理應用現(xiàn)象,在《法治社會建設實施綱要(2020-2025年)》《網(wǎng)絡安全法》《個人信息保護法》《關于加強互聯(lián)網(wǎng)信息服務算法綜合治理的指導意見》等政策文件基礎上,《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》[19]明確算法推薦服務提供者應堅持主流價值導向、積極傳播正能量、禁止合成虛假新聞信息及禁止利用算法影響網(wǎng)絡輿論等;2022年11月,國家互聯(lián)網(wǎng)信息辦公室印發(fā)《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》[20],該規(guī)定針對深度合成技術帶來的現(xiàn)實危害與潛在風險,提出科學化的治理要求,規(guī)定深度合成服務的使用范圍,界定各方主體責任與義務,強化和規(guī)范服務提供者責任,通過強化備案與評估等手段對深度合成服務進行全過程管理與監(jiān)督;2023年4月,針對ChatGPT等生成式人工智能技術的高速發(fā)展,國家互聯(lián)網(wǎng)信息辦公室發(fā)布《生成式人工智能服務管理辦法(征求意見稿)》[21],擬對生成式人工智能進行專項監(jiān)管,在該意見稿中,明確生成式人工智能的定義,生成式產(chǎn)品或服務以及預訓練數(shù)據(jù)應滿足的要求,服務提供者的合規(guī)義務及法律責任。雖然以上法律法規(guī)規(guī)定AIGC技術應用的紅線與底線,但針對AIGC產(chǎn)品或服務的責任認定、知識產(chǎn)權等權屬認定、訓練數(shù)據(jù)版權爭議等處于探索階段。且有研究者認為人工智能的大范圍使用才剛剛開始,其治理工作也處于起步階段,目前法規(guī)或者標準等在指導人工智能技術的有序開發(fā)與利用方面的作用仍然有限[22]。因此,政府應加強政策引導,一是在AIGC治理工作中起到統(tǒng)領作用,形成政府、社會組織、企業(yè)、群眾等主體共同參與的協(xié)同治理格局[23],政府作為AIGC治理的主導者,應進一步完善相應的法律法規(guī),對人工智能研發(fā)者、管理者和使用者行為進行規(guī)范,以促進技術規(guī)范應用和行業(yè)健康發(fā)展;二是通過進一步細化法律法規(guī),明確各相關方面的法律責任,持續(xù)完善監(jiān)管框架,實現(xiàn)事前、事中、事后全流程、可溯源的監(jiān)管;三是開展AIGC產(chǎn)品或服務權屬認定等方面的法律法規(guī)研究,明確AIGC獲取、利用版權數(shù)據(jù)進行模型訓練和模型應用是否合法,界定模型訓練和應用過程中利用版權數(shù)據(jù)的方式及合法使用行為,同時明確AIGC產(chǎn)品或服務權屬的認定標準及形式等。

3.2 行業(yè)層面:技術向善+自律自治

通過行業(yè)層面加強“技術向善、倫理先行”意識,加強行業(yè)自律,促進AIGC行業(yè)良性發(fā)展。其中行業(yè)成員是AIGC治理的具體配合者,是人工智能技術能否得以有效和規(guī)范應用的具體生產(chǎn)者,行業(yè)成員應秉承負責任的態(tài)度發(fā)展人工智能技術,確保AIGC相關的軟件、工具、服務及其背后的算法等實現(xiàn)全流程可監(jiān)管、可溯源。同時,行業(yè)應根據(jù)AIGC存在的各種風險制定行業(yè)管理規(guī)范,達到科技向善目的,并能有一定的安全措施保障,可以確認AIGC應用是安全可控的。此外,通過建立行業(yè)聯(lián)盟,發(fā)揮資源整合優(yōu)勢,圍繞AIGC合法合規(guī)應用和健康發(fā)展目標,聯(lián)合制定行業(yè)發(fā)展規(guī)范,并通過行業(yè)黑名單、風險管理、倫理審查、內(nèi)容治理、版權保護、違法打擊、危機應對等行業(yè)自治機制,實現(xiàn)AIGC良性發(fā)展生態(tài)。

3.3 用戶層面:提升用戶算法素養(yǎng)

Gran等[24]通過定量研究方法將算法意識和態(tài)度納入數(shù)字鴻溝研究發(fā)現(xiàn),用戶對各種算法驅(qū)動下的廣告和內(nèi)容推薦等態(tài)度與算法意識水平存在一定的關系,同時,算法意識水平存在明顯的人口統(tǒng)計學差異。而算法素養(yǎng)對理解用戶的人智交互行為至關重要[25],這種能力主要體現(xiàn)在感知算法、理解算法和使用算法[26]。Sundar[27]認為在人智交互過程中,用戶對人工智能的差異化理解都可能影響用戶對人工智能的判斷,算法素養(yǎng)高低將在一定程度決定用戶對人工智能究竟是選擇質(zhì)疑還是信賴。ChatGPT等AIGC模式一方面在信息檢索等方面為用戶提供了便利,部分算法素養(yǎng)過低的用戶可能很難意識到AIGC僅僅是不斷迭代更新的算法模型,可能會對算法形成一定的依賴與盲從。此外這類用戶對于AIGC生成內(nèi)容的真假缺乏一定的判斷力。因此,一方面,通過AIGC技術與應用的宣傳加強用戶對AIGC技術濫用帶來的風險認知和不良AIGC的甄別能力;另一方面通過科普等手段提升用戶對各類算法信息的鑒別意識、對操縱性信息的判斷力等,對AIGC生成內(nèi)容持批判意識,從而避免信息繭房、算法利維坦等風險出現(xiàn)。

4 結(jié)語

綜上所述,雖然AIGC技術帶來了多方面的風險,但不可否認其推動了內(nèi)容生產(chǎn)方式變革,未來將會取代大量重復性的內(nèi)容生產(chǎn)與傳播工作,并將重構(gòu)產(chǎn)業(yè)結(jié)構(gòu),在提高內(nèi)容生產(chǎn)效率的同時,為各行各業(yè)帶來新的發(fā)展機遇,如何通過政策制度來平衡技術發(fā)展和風險治理之間的關系,將是需要解決的難題。從風險來看,技術發(fā)展本身并沒有問題,關鍵在于如何約束、監(jiān)督并使用它,發(fā)展與監(jiān)管應統(tǒng)籌兼顧,并通過匯聚多方利益群體力量,不斷加強各個群體人工智能治理能力,建立健全全流程風險管理體系,從而實現(xiàn)人與人工智能和諧發(fā)展。