從內(nèi)容生產(chǎn)到秩序重塑：生成式AI出版的內(nèi)容生產(chǎn)風(fēng)險(xiǎn)與規(guī)制研究

【摘 要】隨著生成式人工智能技術(shù)的進(jìn)一步發(fā)展，各行各業(yè)都受到了沖擊和挑戰(zhàn)，出版行業(yè)總體呈現(xiàn)活躍的發(fā)展態(tài)勢(shì)。然而，生成式AI并不能夠真正理解其生成的知識(shí)內(nèi)容，容易出現(xiàn)對(duì)用戶隱私權(quán)的侵犯、內(nèi)容品質(zhì)的低俗傾向以及數(shù)據(jù)真實(shí)性遭受質(zhì)疑等失范現(xiàn)象。從出版的角度出發(fā)，探討生成式AI出版存在的倫理風(fēng)險(xiǎn)，有針對(duì)性地提出在技術(shù)層面加強(qiáng)內(nèi)容審查共識(shí)、在行業(yè)算法層面建構(gòu)多元主體監(jiān)督出版的技術(shù)框架、在法律層面建立生成式AI出版監(jiān)管制度、在倫理層面培養(yǎng)正確的主體意識(shí)等多元規(guī)制路徑，為出版的倫理重建提供思路和指引。

【關(guān)" 鍵" 詞】人工智能；AIGC；內(nèi)容生產(chǎn)；規(guī)制

【作者單位】陳雨，揚(yáng)州大學(xué)馬克思主義學(xué)院；楊璐穎，揚(yáng)州大學(xué)新聞與傳媒學(xué)院；馮銳，揚(yáng)州大學(xué)新聞與傳媒學(xué)院。

【基金項(xiàng)目】國(guó)家社會(huì)科學(xué)基金青年項(xiàng)目（22CDJ025）；2022年江蘇省研究生科研創(chuàng)新基金項(xiàng)目（KYCX22_

3407）；2024年江蘇省研究生科研創(chuàng)新基金項(xiàng)目“生成式人工智能的內(nèi)容生產(chǎn)與認(rèn)知風(fēng)險(xiǎn)研究”（KYCX24_3703）。

【中圖分類號(hào)】G230.7 【文獻(xiàn)標(biāo)識(shí)碼】A 【DOI】10.16491/j.cnki.cn45-1216/g2.2024.22.009

在科技飛速發(fā)展的今天，生成式人工智能（Artificial Intelligence Generated Content，AIGC）已經(jīng)從概念化階段躍升到現(xiàn)實(shí)應(yīng)用的前沿領(lǐng)域，其深度學(xué)習(xí)與強(qiáng)化學(xué)習(xí)技術(shù)的革新，正以前所未有的方式塑造信息生產(chǎn)和傳播的方式。從自然語(yǔ)言處理到視覺(jué)藝術(shù)創(chuàng)作，生成式AI以其強(qiáng)大的創(chuàng)新能力對(duì)傳統(tǒng)知識(shí)生產(chǎn)體系產(chǎn)生了深刻影響，特別是在文學(xué)、新聞及出版行業(yè)中表現(xiàn)突出。然而，隨著這一技術(shù)的廣泛應(yīng)用，一系列新的倫理挑戰(zhàn)也隨之出現(xiàn)，尤其是在出版領(lǐng)域中涉及的源數(shù)據(jù)、原創(chuàng)性、版權(quán)歸屬、責(zé)任認(rèn)定等核心問(wèn)題。2023年，國(guó)家互聯(lián)網(wǎng)信息辦公室等七部門聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，對(duì)生成式AI出現(xiàn)的一些問(wèn)題進(jìn)行了規(guī)定，但仍有若干細(xì)節(jié)問(wèn)題有待深入探討，如以何種出版治理理念協(xié)調(diào)技術(shù)發(fā)展與社會(huì)需求、社會(huì)倫理之間的一致性，這是未來(lái)出版業(yè)需要深入探討的課題。

從學(xué)術(shù)出版理論認(rèn)識(shí)的層面來(lái)看，學(xué)術(shù)出版研究已有較為深厚的成果基礎(chǔ)，但對(duì)內(nèi)容生產(chǎn)層面風(fēng)險(xiǎn)與規(guī)制的探討尚顯不足，建立在經(jīng)驗(yàn)主義層面的學(xué)術(shù)出版概念也往往存在被窄化的情形［1］。以ChatGPT為代表的生成式AI對(duì)學(xué)術(shù)出版的倫理規(guī)范構(gòu)成了深遠(yuǎn)且復(fù)雜的沖擊。截至2023年2月15日，僅PubMed數(shù)據(jù)庫(kù)已記錄4篇標(biāo)注ChatGPT為作者的文章，這昭示著生成式AI技術(shù)已悄然“滲透”出版界。生成式AI的內(nèi)容生產(chǎn)可能導(dǎo)致的源數(shù)據(jù)污染、作者身份模糊、知識(shí)產(chǎn)權(quán)侵權(quán)風(fēng)險(xiǎn)增加。目前關(guān)于生成式AI出版研究主要集中在版權(quán)歸屬、技術(shù)倫理等。例如：關(guān)注生成式AI引發(fā)的出版著作權(quán)問(wèn)題、技術(shù)倫理問(wèn)題、文化安全問(wèn)題［2］；探討生成式AI對(duì)知識(shí)萃取、生產(chǎn)、傳播及出版方面的潛在影響［3］；對(duì)有序的事件出版在倫理上對(duì)出版義利觀、主體觀以及績(jī)效觀進(jìn)行重新思考［4］；在“場(chǎng)域”視角下探究出版?zhèn)惱砝Ь车脑蛞约皩?duì)其路徑進(jìn)行合理性建構(gòu)［5］；以ChatGPT為代表的生成式AI為學(xué)術(shù)出版帶來(lái)的機(jī)遇包括稿件基礎(chǔ)內(nèi)容改進(jìn)、審稿人篩選及擴(kuò)充優(yōu)化、日常事務(wù)性工作增速、知識(shí)生產(chǎn)服務(wù)轉(zhuǎn)型、媒體融合產(chǎn)品提質(zhì)、多語(yǔ)言傳播途徑擴(kuò)展［6］。盡管已有諸多研究成果，但部分關(guān)鍵問(wèn)題，如學(xué)術(shù)不端行為的界定、知識(shí)產(chǎn)權(quán)歸屬的模糊地帶、署名規(guī)則的適用爭(zhēng)議等仍需進(jìn)一步解決。鑒于此，本文聚焦AI出版的內(nèi)容生產(chǎn)風(fēng)險(xiǎn)，探討應(yīng)對(duì)AI出版的內(nèi)容生產(chǎn)協(xié)同治理之道，以及在法律規(guī)制框架下如何界定和規(guī)范AI生成內(nèi)容的出版行為，在鼓勵(lì)科技創(chuàng)新與保護(hù)創(chuàng)作者權(quán)益、維護(hù)社會(huì)公正之間找到平衡點(diǎn)。

一、生成式AI出版內(nèi)容的三重困境

在知識(shí)生產(chǎn)和傳播的關(guān)鍵環(huán)節(jié)，生成式AI技術(shù)能夠高效地完成前期調(diào)研、大數(shù)據(jù)采集，并在中期輔助編校，后期對(duì)出版工作產(chǎn)生的數(shù)據(jù)信息進(jìn)行系統(tǒng)化采集、反饋和深度分析，為編輯人員提供持續(xù)學(xué)習(xí)與優(yōu)化的重要資料參考。然而，生成式AI在出版領(lǐng)域的應(yīng)用面臨諸多挑戰(zhàn)，這些挑戰(zhàn)源于出版內(nèi)容生產(chǎn)本身的特性、生成內(nèi)容以及出版主體的法律法規(guī)等。

1．出版內(nèi)容生產(chǎn)的局限性：源數(shù)據(jù)存在錯(cuò)誤或誤導(dǎo)性信息

源數(shù)據(jù)若存在錯(cuò)誤，將直接影響內(nèi)容生產(chǎn)質(zhì)量，從而引發(fā)傳播偏向和技術(shù)偏向，最終責(zé)任歸屬也模糊不清，因此內(nèi)容生產(chǎn)的管制應(yīng)從源頭抓起。生成式AI，尤其是基于深度學(xué)習(xí)的大規(guī)模語(yǔ)言模型，主要通過(guò)學(xué)習(xí)大量文本數(shù)據(jù)中的統(tǒng)計(jì)模式來(lái)生成新的文本。這些模型并不理解文本的深層含義或事實(shí)背后的邏輯，而是基于訓(xùn)練數(shù)據(jù)中的上下文關(guān)聯(lián)進(jìn)行概率性預(yù)測(cè)。生成式AI在應(yīng)用中面臨的明顯挑戰(zhàn)在于，由于其依賴的訓(xùn)練數(shù)據(jù)集特性及其訓(xùn)練算法的本質(zhì)屬性，此類系統(tǒng)偶爾會(huì)生成表面上極具說(shuō)服力且行文流暢的文本，實(shí)質(zhì)上卻充斥著謬誤或空洞無(wú)物的內(nèi)容，可能無(wú)法準(zhǔn)確把握出版領(lǐng)域的專業(yè)知識(shí)、最新進(jìn)展或特定情境下的細(xì)微差別，從而生成與實(shí)際情況不符或無(wú)意義的表述。如果源數(shù)據(jù)中存在錯(cuò)誤、矛盾、過(guò)時(shí)或誤導(dǎo)性信息，模型在生成過(guò)程中可能會(huì)重現(xiàn)這些錯(cuò)誤，從而產(chǎn)生不準(zhǔn)確或有誤導(dǎo)性的輸出。此外，數(shù)據(jù)集可能存在社會(huì)、文化、歷史或性別等方面的偏見(jiàn)，模型在生成內(nèi)容時(shí)可能會(huì)無(wú)意識(shí)地復(fù)制這些偏見(jiàn)，導(dǎo)致生成結(jié)果帶有誤導(dǎo)性。生成式AI在生成文本時(shí)通常不會(huì)進(jìn)行實(shí)時(shí)的事實(shí)核查，即使模型在訓(xùn)練過(guò)程中接觸了大量真實(shí)信息，也無(wú)法保證在生成新內(nèi)容時(shí)始終準(zhǔn)確無(wú)誤。由于缺乏對(duì)生成內(nèi)容真實(shí)性的實(shí)時(shí)驗(yàn)證機(jī)制，模型可能會(huì)輸出看似有說(shuō)服力實(shí)則不準(zhǔn)確或完全虛構(gòu)的信息。

2．出版內(nèi)容自主性趨同之困：生成內(nèi)容趨于同質(zhì)化

出版在特定時(shí)期內(nèi)的研究主題經(jīng)常呈現(xiàn)明顯的聚集現(xiàn)象。當(dāng)使用相近的關(guān)鍵詞引導(dǎo)智能語(yǔ)言模型生成內(nèi)容時(shí)，算法的內(nèi)在偏好導(dǎo)致輸出的結(jié)果可能存在較高程度的趨同性。生成式AI出版作為信息技術(shù)與文化傳播深度融合的產(chǎn)物，不僅展現(xiàn)了強(qiáng)大的生產(chǎn)力和創(chuàng)新潛力，也產(chǎn)生了生成內(nèi)容自主性趨同的現(xiàn)象，表現(xiàn)為生成文本、圖像、音頻等作品在風(fēng)格、主題、觀點(diǎn)乃至情感表達(dá)上的高度一致，陷入“生成內(nèi)容趨于同質(zhì)化”的困境。此現(xiàn)象不僅揭示了AI技術(shù)的內(nèi)在局限，還觸及文化創(chuàng)新、個(gè)性化表達(dá)與價(jià)值多元性的核心議題。

首先，生成式AI具有數(shù)據(jù)依賴。AI生成器如同一面鏡子，其生成內(nèi)容的風(fēng)格、主題深受其所學(xué)習(xí)的數(shù)據(jù)集的影響，數(shù)據(jù)集的封閉性和有限性限制了AI對(duì)文化多元性、“邊緣聲音”以及未來(lái)趨勢(shì)的感知與表達(dá)，加劇了內(nèi)容同質(zhì)化。其次，生成式AI的算法設(shè)計(jì)具有局限性。現(xiàn)有的AI生成模型特別是基于深度學(xué)習(xí)的模型，其創(chuàng)作過(guò)程本質(zhì)上是對(duì)概率分布的擬合，追求在給定數(shù)據(jù)下的最大似然輸出。這種設(shè)計(jì)傾向使得AI在生成內(nèi)容時(shí)往往選擇“安全”“常規(guī)”的路徑，即那些符合大眾預(yù)期、不易引發(fā)爭(zhēng)議的結(jié)果。模型結(jié)構(gòu)的固定性、訓(xùn)練目標(biāo)的單一性以及對(duì)風(fēng)險(xiǎn)規(guī)避的內(nèi)在偏好，限制了AI在內(nèi)容生成上的自主探索與創(chuàng)新嘗試。最后，生成式AI缺乏情感理解。盡管AI在語(yǔ)言理解和邏輯推理方面取得顯著進(jìn)步，但在涉及復(fù)雜的價(jià)值判斷、道德倫理、情感深度等人類高級(jí)思維活動(dòng)時(shí)，往往難以捕捉微妙的情感色彩與個(gè)體經(jīng)驗(yàn)，導(dǎo)致AI生成的內(nèi)容往往缺乏深度見(jiàn)解和批判性思考。內(nèi)容自主性趨同還可能導(dǎo)致版權(quán)混淆、原創(chuàng)性爭(zhēng)議以及責(zé)任歸屬不清等問(wèn)題。長(zhǎng)期沉浸于同質(zhì)化內(nèi)容的環(huán)境中，公眾的視野、思維方式乃至審美取向可能會(huì)被固化，容易抑制文化創(chuàng)新與多元化表達(dá)。

3．出版主體責(zé)任道德之困：存在倫理風(fēng)險(xiǎn)與法律風(fēng)險(xiǎn)隱患

技術(shù)進(jìn)步雖然為出版行業(yè)帶來(lái)了前所未有的發(fā)展機(jī)遇，但也帶來(lái)了一系列新的倫理和法律挑戰(zhàn)。首先，在生成內(nèi)容的數(shù)據(jù)挖掘過(guò)程中，是否存在對(duì)個(gè)人隱私權(quán)的侵犯，以及是否無(wú)意間構(gòu)成學(xué)術(shù)抄襲行為，這些問(wèn)題在生成內(nèi)容之初就可能存在。其次，當(dāng)存在問(wèn)題的內(nèi)容作為學(xué)術(shù)圖書或圖冊(cè)提交出版時(shí)，學(xué)術(shù)編輯如何有效識(shí)別AI生成的部分并對(duì)其進(jìn)行價(jià)值觀審查、學(xué)術(shù)道德考量和版權(quán)歸屬界定，成為亟待解決的難題。再次，生成式AI最具代表性的ChatGPT通過(guò)抓取互聯(lián)網(wǎng)中的公開文本進(jìn)行知識(shí)歸納與整合，產(chǎn)出內(nèi)容可能復(fù)制他人論文中的見(jiàn)解、語(yǔ)言表述等，若未明確來(lái)源，且超出合理使用限度，就會(huì)違背適當(dāng)引用原則，導(dǎo)致學(xué)術(shù)剽竊［7］。最后，AI技術(shù)的開發(fā)、設(shè)計(jì)和數(shù)據(jù)篩選過(guò)程蘊(yùn)含人類的價(jià)值觀，倘若缺乏有效的輸出管控機(jī)制，源數(shù)據(jù)的問(wèn)題將導(dǎo)致技術(shù)差錯(cuò)，容易引發(fā)傳播問(wèn)題。

基于現(xiàn)有的數(shù)據(jù)和知識(shí)進(jìn)行歸納與綜合，生成式AI產(chǎn)出的內(nèi)容雖然可以提供新的視角或便利，但在本質(zhì)上并不構(gòu)成真正的創(chuàng)新，往往缺乏原創(chuàng)性和獨(dú)立見(jiàn)解，不是在真正地“生產(chǎn)”知識(shí)。因此，在處理生成式AI產(chǎn)生的信息時(shí)，我們必須保持高度警覺(jué)，特別是對(duì)可能包含虛假、偏見(jiàn)或錯(cuò)誤的內(nèi)容，在進(jìn)入出版流程前應(yīng)進(jìn)行嚴(yán)格審查與人工評(píng)估。

二、生成式AI出版的知識(shí)傳播偏向風(fēng)險(xiǎn)

生成式AI技術(shù)的應(yīng)用將推動(dòng)出版向更開放、高度互動(dòng)的內(nèi)容傳播形態(tài)發(fā)展，但也帶來(lái)了數(shù)據(jù)安全保障與版權(quán)合規(guī)的嚴(yán)峻挑戰(zhàn)。在此背景下，出版生態(tài)中的各類主體需要加強(qiáng)對(duì)數(shù)據(jù)泄露、濫用、非法復(fù)制等安全隱患和潛在版權(quán)侵權(quán)行為的警覺(jué)，同步提升風(fēng)險(xiǎn)預(yù)警、防范與應(yīng)對(duì)能力，以確保在創(chuàng)新技術(shù)推動(dòng)產(chǎn)業(yè)升級(jí)的過(guò)程中，切實(shí)筑牢法律與倫理防線，維護(hù)各方合法權(quán)益，保障出版業(yè)態(tài)健康有序發(fā)展。

1．權(quán)利失管：版權(quán)、知識(shí)產(chǎn)權(quán)以及著作署名爭(zhēng)議

在出版視角下，生成式AI技術(shù)的應(yīng)用引發(fā)了兩個(gè)核心的版權(quán)議題。一是關(guān)于ChatGPT等系統(tǒng)是否應(yīng)被允許利用第三方創(chuàng)作的原創(chuàng)內(nèi)容作為生成素材，這一問(wèn)題引發(fā)了業(yè)界廣泛的關(guān)注。盡管OpenAI公司聲明不對(duì)因使用其服務(wù)可能引發(fā)的任何知識(shí)產(chǎn)權(quán)侵權(quán)行為負(fù)責(zé)，但研究者在實(shí)際操作中仍須積極采取措施，規(guī)避因依賴ChatGPT而產(chǎn)生的潛在版權(quán)風(fēng)險(xiǎn)。具體而言，未經(jīng)版權(quán)所有人授權(quán)，若向ChatGPT輸入大量受版權(quán)保護(hù)的文字材料以供其學(xué)習(xí)或產(chǎn)出新內(nèi)容，可能構(gòu)成對(duì)原作品權(quán)利的侵犯。二是圍繞生成式AI能否被法律認(rèn)定為作品的作者。盡管已有學(xué)術(shù)論文嘗試將ChatGPT列為共同作者，但在當(dāng)前大多數(shù)出版機(jī)構(gòu)的版權(quán)管理體系中，此類AI系統(tǒng)尚不具備被正式認(rèn)可為學(xué)術(shù)出版物合法合著者的身份。這意味著盡管AI在某種程度上參與了創(chuàng)作過(guò)程，但現(xiàn)行著作權(quán)法規(guī)和行業(yè)慣例并未將其視為享有與人類作者同等權(quán)利與責(zé)任的創(chuàng)作主體。

目前，AI技術(shù)尚不具備全面替代諸如數(shù)據(jù)分析、結(jié)論提煉等核心研究活動(dòng)的能力，因此不宜將基于AI的聊天機(jī)器人簡(jiǎn)單等同于作者或共同作者身份。從傳播學(xué)視角來(lái)看，機(jī)器未能達(dá)到作為獨(dú)立作者的基本條件，主要原因在于其缺乏對(duì)所發(fā)布科學(xué)文獻(xiàn)內(nèi)容及其整體性的責(zé)任承擔(dān)能力。究其根本，即便是在機(jī)器生成的出版物中，其背后的創(chuàng)意導(dǎo)向和目標(biāo)設(shè)定始終源自人類的智慧與決策，通過(guò)人類設(shè)計(jì)的算法得以實(shí)現(xiàn)特定目的。這一觀點(diǎn)強(qiáng)調(diào)了人機(jī)協(xié)作過(guò)程中人類不可或缺的作用，同時(shí)也為出版領(lǐng)域的倫理規(guī)范提供了理論支持。

2．算法失序：技術(shù)鴻溝與學(xué)術(shù)不平等

生成式人工智能驅(qū)動(dòng)的工具與平臺(tái)對(duì)算力、專業(yè)人才和海量數(shù)據(jù)資源的倚重極為顯著。一方面，這類技術(shù)體系不僅需要巨額的硬件設(shè)備購(gòu)置和軟件開發(fā)投入，還涉及人才的專項(xiàng)培訓(xùn)、技術(shù)支持和長(zhǎng)期的系統(tǒng)維護(hù)成本；另一方面，算法失序可能導(dǎo)致虛假輸出，包含不準(zhǔn)確、存有誤導(dǎo)性甚至是完全錯(cuò)誤的信息。這不僅影響出版物的質(zhì)量，還可能誤導(dǎo)讀者，損害公眾信任。虛假輸出的根源主要在于AI系統(tǒng)的訓(xùn)練數(shù)據(jù)和算法設(shè)計(jì)。如果AI模型的訓(xùn)練數(shù)據(jù)集不完整、有偏見(jiàn)或者包含錯(cuò)誤的信息，這些缺陷很可能會(huì)被AI模型學(xué)習(xí)并復(fù)制到生成的內(nèi)容中。即便是在理想條件下訓(xùn)練出的模型，也可能因其內(nèi)在局限性而產(chǎn)生不準(zhǔn)確的內(nèi)容，尤其是在涉及復(fù)雜概念和專業(yè)知識(shí)的情況下。由于生成式AI生成的信息是在與用戶互動(dòng)中產(chǎn)生的，因此虛假信息也會(huì)帶來(lái)認(rèn)知風(fēng)險(xiǎn)和傳播偏向風(fēng)險(xiǎn)，如果大規(guī)模生成，一定程度上也會(huì)給整個(gè)出版業(yè)帶來(lái)沖擊。

此外，ChatGPT等AI系統(tǒng)的運(yùn)作往往伴隨基于地域的訪問(wèn)限制與干預(yù)策略，這在已存在的技術(shù)鴻溝之上又增設(shè)一道屏障，使得發(fā)展中國(guó)家獲取和利用此類尖端技術(shù)的機(jī)會(huì)更受限。盡管全球范圍內(nèi)數(shù)字技術(shù)的普及在一定程度上減少了接入互聯(lián)網(wǎng)的絕對(duì)數(shù)量差距，但在復(fù)雜的社會(huì)網(wǎng)絡(luò)中，在社會(huì)結(jié)構(gòu)、文化背景、技術(shù)的質(zhì)量、深度應(yīng)用與創(chuàng)新能力等方面，發(fā)達(dá)國(guó)家與發(fā)展中國(guó)家之間的鴻溝實(shí)際上在擴(kuò)大［8］。

3．倫理失范：技術(shù)規(guī)訓(xùn)下從知識(shí)原創(chuàng)性危機(jī)到思維危機(jī)

在出版行業(yè)中，ChatGPT生成的文本雖然具有學(xué)術(shù)表達(dá)的形式特征，但其內(nèi)在的知識(shí)價(jià)值與真實(shí)性難以保證，這無(wú)疑給編輯工作帶來(lái)挑戰(zhàn)。ChatGPT作為一種深度學(xué)習(xí)驅(qū)動(dòng)的文本生成工具，本質(zhì)上扮演著“文本關(guān)聯(lián)推斷器”的角色，它通過(guò)“模擬理解”文本片段間的內(nèi)在聯(lián)系并據(jù)此對(duì)文本內(nèi)容及其邏輯架構(gòu)進(jìn)行模擬重構(gòu)，盡管生成的文本往往表現(xiàn)為表面性質(zhì)的邏輯連貫與形式完備，但這些內(nèi)容并不必然建立在確鑿事實(shí)基礎(chǔ)之上。從出版行業(yè)的教育與實(shí)踐角度來(lái)看，我們應(yīng)警覺(jué)個(gè)體在使用AI技術(shù)過(guò)程中可能出現(xiàn)的技術(shù)依賴傾向，這不僅可能導(dǎo)致?？滤镜摹耙?guī)訓(xùn)”現(xiàn)象，即主體在外部技術(shù)力量作用下逐漸喪失批判性思考能力，還可能印證麥克盧漢的洞見(jiàn)——技術(shù)的“延伸”實(shí)際上伴隨著對(duì)某些能力的“截除”。具體到ChatGPT的應(yīng)用情境，研究者過(guò)度依賴此類工具撰寫特定主題的文獻(xiàn)綜述時(shí)，很可能會(huì)接收雷同或近似的輸出結(jié)果，從而影響學(xué)術(shù)創(chuàng)新。因此，研究者應(yīng)當(dāng)深刻認(rèn)識(shí)ChatGPT這類生成式AI的技術(shù)本質(zhì)，認(rèn)識(shí)到它們只會(huì)依賴既有的數(shù)據(jù)信息，缺乏人類獨(dú)有的價(jià)值觀判斷、情境感知，以及基于多種感官經(jīng)驗(yàn)進(jìn)行復(fù)雜技術(shù)和科學(xué)決策的能力，不太可能創(chuàng)作出富有邏輯性且高質(zhì)量的內(nèi)容。

4．關(guān)系失衡：技術(shù)理性和價(jià)值理性的分離

出版是一種文化傳播活動(dòng)，其核心在于處理精神產(chǎn)品的個(gè)體化生產(chǎn)與社會(huì)化傳播之間的矛盾［9］。個(gè)體精神成果能否轉(zhuǎn)化為社會(huì)化精神成果，受到一系列制度性約束，這包括符合主流價(jià)值觀、有利于社會(huì)穩(wěn)定、符合公共利益、符合法律和道德規(guī)范，以及從知識(shí)性、科學(xué)性和規(guī)范性等方面進(jìn)行評(píng)判、選擇和優(yōu)化［10］。技術(shù)理性主要關(guān)注技術(shù)的有效性、效率性和功能性，追求問(wèn)題的解決和目標(biāo)的達(dá)成。相比之下，價(jià)值理性關(guān)注的是行為的道德正當(dāng)性、社會(huì)公正性和人類福祉。技術(shù)本身傾向于遵循技術(shù)理性的邏輯，聚焦于實(shí)現(xiàn)預(yù)定的技術(shù)目標(biāo)，而忽視或無(wú)法處理與之相關(guān)的價(jià)值沖突和倫理困境。真正的價(jià)值判斷需要超越技術(shù)層面，納入更廣闊的價(jià)值視野和社會(huì)考量。技術(shù)本身不具備價(jià)值判斷能力，其價(jià)值屬性、倫理地位以及社會(huì)影響是由人類社會(huì)根據(jù)各自的價(jià)值體系、法律法規(guī)、倫理標(biāo)準(zhǔn)和公共討論來(lái)界定和塑造的。確保技術(shù)的健康發(fā)展與合理應(yīng)用，需要社會(huì)各界積極參與，進(jìn)行深入的價(jià)值探討、倫理規(guī)約和政策引導(dǎo)，以確保技術(shù)服務(wù)于人類的共同福祉。

三、生成式AI出版的治理機(jī)制

生成式AI與出版產(chǎn)業(yè)的深度融合不僅是塑造未來(lái)出版業(yè)態(tài)的必然趨勢(shì)，也是推動(dòng)行業(yè)革新與價(jià)值重塑的核心動(dòng)力。面對(duì)這一不可逆轉(zhuǎn)的趨勢(shì)，構(gòu)建與之相適應(yīng)的出版監(jiān)管框架至關(guān)重要，需要從源數(shù)據(jù)、算法、平臺(tái)以及倫理領(lǐng)域?qū)ι墒饺斯ぶ悄艹霭孢M(jìn)行規(guī)范。

1．規(guī)范源數(shù)據(jù)生成內(nèi)容：在技術(shù)層面加強(qiáng)內(nèi)容審查共識(shí)

在AIGC時(shí)代背景下，對(duì)出版內(nèi)容真實(shí)性的理解和保障尤為重要。要從根本上規(guī)制生成式AI出版的倫理風(fēng)險(xiǎn)，須從問(wèn)題產(chǎn)生的源頭出發(fā)，將生成內(nèi)容作為規(guī)制的重點(diǎn)，提高其準(zhǔn)確性和可靠性，確保生成內(nèi)容合法合規(guī)、積極健康且向上向善。生成式AI技術(shù)憑借對(duì)海量文本資料的深度學(xué)習(xí)與模型優(yōu)化，成為現(xiàn)代出版流程中文本生成的重要手段。它通過(guò)系統(tǒng)性地?cái)z取、解析和理解龐大的文本語(yǔ)料庫(kù)，以數(shù)以億計(jì)的文本文檔為基礎(chǔ)，結(jié)合先進(jìn)的自然語(yǔ)言處理算法進(jìn)行深度學(xué)習(xí)，從而輸出符合語(yǔ)法規(guī)則且兼具專業(yè)準(zhǔn)確性的文本內(nèi)容。因此，確保出版物的真實(shí)性不僅是知識(shí)生產(chǎn)的基礎(chǔ)，也是持續(xù)優(yōu)化內(nèi)容真?zhèn)舞b別機(jī)制的前提。開發(fā)人員必須在內(nèi)容創(chuàng)作初期就嚴(yán)格控制生成式AI產(chǎn)出的內(nèi)容質(zhì)量，對(duì)生成內(nèi)容進(jìn)行真實(shí)性驗(yàn)證，還要引入專家系統(tǒng)對(duì)關(guān)鍵性、敏感性內(nèi)容進(jìn)行人工審核。

同時(shí)，應(yīng)將出版內(nèi)容的創(chuàng)新性作為鑒定標(biāo)準(zhǔn)。生成式AI的知識(shí)生產(chǎn)體系依賴于出版對(duì)其創(chuàng)新性、嚴(yán)肅性和可靠性的把關(guān)，數(shù)據(jù)信息作為規(guī)制的基礎(chǔ)顯得尤為重要。生成式AI技術(shù)固然具備強(qiáng)大的信息處理與文本生成能力，但內(nèi)在機(jī)制決定其尚無(wú)法直接觀察和感知人類社會(huì)、經(jīng)濟(jì)、科技等多元現(xiàn)實(shí)領(lǐng)域，也無(wú)法自發(fā)地生成全新的知識(shí)創(chuàng)意，這一特性使其在問(wèn)題發(fā)掘與創(chuàng)新命題的提出方面呈現(xiàn)固有的局限性。對(duì)那些能夠洞察未來(lái)、突破傳統(tǒng)框架、提出開創(chuàng)性理論或解決方案的頂尖學(xué)者而言，生成式AI目前尚無(wú)法觸及他們創(chuàng)新思維的精髓，無(wú)法完全取代他們?cè)谥R(shí)生產(chǎn)鏈中的獨(dú)特地位，因此，強(qiáng)化價(jià)值主體的倫理承擔(dān)，以消弭責(zé)任鴻溝。

2．構(gòu)建算法域協(xié)同矩陣：在行業(yè)算法層面建構(gòu)多元主體監(jiān)督出版的技術(shù)框架

將模型算法作為規(guī)制的核心，有助于避免行業(yè)算法層面產(chǎn)生分歧，解決模型算法“黑箱”問(wèn)題。在出版領(lǐng)域，生成式人工智能基于海量互聯(lián)網(wǎng)信息訓(xùn)練的大型語(yǔ)言模型，其文本生成的潛在風(fēng)險(xiǎn)在于可能無(wú)意間傳播不準(zhǔn)確甚至是虛假的信息。因此，對(duì)用于訓(xùn)練語(yǔ)言模型的信息源及其生成內(nèi)容的有效監(jiān)管與驗(yàn)證機(jī)制至關(guān)重要。行業(yè)要以AIGC為契機(jī)，建立一個(gè)由作者、學(xué)術(shù)出版機(jī)構(gòu)、高?？蒲性核餐瑓⑴c的多元AIGC監(jiān)督出版的技術(shù)框架，確保生成式AI系統(tǒng)的透明度，具體包括其設(shè)計(jì)、訓(xùn)練數(shù)據(jù)集及部署細(xì)節(jié)等。一方面，針對(duì)AI設(shè)計(jì)與開發(fā)中的不透明現(xiàn)象，相關(guān)政府部門可發(fā)揮引導(dǎo)作用，召集教育機(jī)構(gòu)、非政府組織、研究機(jī)構(gòu)以及出版機(jī)構(gòu)等多元力量，共同推動(dòng)開源、透明的生成式AI系統(tǒng)的研發(fā)。這有助于從根本上最大限度地遏制偏見(jiàn)滲透、尊重與保護(hù)知識(shí)產(chǎn)權(quán)，構(gòu)建一個(gè)健康有序的AI輔助出版環(huán)境。另一方面，開源AI技術(shù)在實(shí)踐中的應(yīng)用，應(yīng)著重保障大型語(yǔ)言模型及配套語(yǔ)料庫(kù)等核心資源的完整性，保證其具備必要的可追溯性與可靠性，這對(duì)于維護(hù)出版的嚴(yán)謹(jǐn)性與公信力尤為關(guān)鍵?？傊?，強(qiáng)化監(jiān)管、倡導(dǎo)透明開發(fā)以及推廣開源技術(shù)，協(xié)同共治，共同推動(dòng)出版?zhèn)惱硐蚪】瞪鷳B(tài)發(fā)展，我們責(zé)無(wú)旁貸。只有這樣，出版業(yè)才能在新時(shí)代有效駕馭生成式AI，充分發(fā)揮其輔助創(chuàng)作與知識(shí)傳播的優(yōu)勢(shì)，嚴(yán)格防范可能伴生的風(fēng)險(xiǎn)與挑戰(zhàn)。

3．完善平臺(tái)域制度體系：在法律層面建立生成式AI出版監(jiān)管制度

出版業(yè)兼具文化和意識(shí)形態(tài)屬性，而生成式AI缺乏自我意識(shí)。從AIGC的版權(quán)侵權(quán)風(fēng)險(xiǎn)到救濟(jì)困境不難看出，AI出版需要堅(jiān)守出版屬性，強(qiáng)化規(guī)范化管理，完善制度體系。出版機(jī)構(gòu)應(yīng)建立健全學(xué)術(shù)責(zé)任機(jī)制，明確要求作者對(duì)其運(yùn)用人工智能生成內(nèi)容的部分承擔(dān)嚴(yán)謹(jǐn)?shù)膶W(xué)術(shù)責(zé)任。鑒于生成式人工智能技術(shù)在信息處理中可能引入偏見(jiàn)，導(dǎo)致某些對(duì)立觀點(diǎn)被無(wú)意間忽略，出版機(jī)構(gòu)應(yīng)重視確保論據(jù)的全面性與客觀性，完善版權(quán)保護(hù)保障機(jī)制，利用數(shù)字水印技術(shù)等保護(hù)自身版權(quán)。

生成式人工智能技術(shù)在出版業(yè)的應(yīng)用日益廣泛，其能否促進(jìn)出版業(yè)向善發(fā)展是一個(gè)值得深思的問(wèn)題。因此，有必要在持續(xù)完善與出版活動(dòng)密切相關(guān)的法律法規(guī)體系上，同步構(gòu)建一套協(xié)同高效、響應(yīng)迅速的監(jiān)管機(jī)制，以應(yīng)對(duì)技術(shù)發(fā)展及應(yīng)用過(guò)程中可能帶來(lái)的各類合規(guī)性挑戰(zhàn)與潛在風(fēng)險(xiǎn)。一方面，立法層面的完備是確保生成式AI技術(shù)合法、有序發(fā)展的基石。這要求立法機(jī)構(gòu)明確規(guī)定AI生成內(nèi)容的版權(quán)歸屬、責(zé)任承擔(dān)、數(shù)據(jù)安全、用戶隱私保護(hù)等關(guān)鍵問(wèn)題。如：2020年10月，歐盟委員會(huì)出臺(tái)《人工智能、機(jī)器人和相關(guān)技術(shù)的倫理框架》相關(guān)國(guó)際政策；2021年9月，國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布文件，以規(guī)范新一代人工智能的倫理標(biāo)準(zhǔn)；2023年8月，國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展和改革委員會(huì)等出臺(tái)文件《生成式人工智能管理暫行辦法》。另一方面，明確責(zé)任監(jiān)管機(jī)制是確保監(jiān)管落地的關(guān)鍵。應(yīng)在法律法規(guī)框架下，清晰劃分出版部門、企業(yè)主體在監(jiān)管生成式AI技術(shù)方面的職責(zé)與權(quán)限，促使各主體各司其職，形成有效的監(jiān)管合力，避免監(jiān)管真空或重疊。

4．強(qiáng)化倫理域人的地位：在倫理層面培養(yǎng)正確的主體意識(shí)

正確對(duì)待“人—機(jī)器”的關(guān)系至關(guān)重要。生成式AI是人的產(chǎn)業(yè)勞動(dòng)的產(chǎn)物［11］。在出版行業(yè)，生成式AI應(yīng)該更好地服務(wù)于出版，提高知識(shí)生產(chǎn)質(zhì)量，而不是取代人類［12］。出版行業(yè)在運(yùn)用AI技術(shù)時(shí)必須認(rèn)識(shí)到，生成式人工智能擅長(zhǎng)承擔(dān)那些高度重復(fù)、邏輯嚴(yán)密以及大規(guī)模數(shù)據(jù)處理等任務(wù)，現(xiàn)階段尚不具備人類所特有的情感感知、道德抉擇與創(chuàng)新思維等屬性，二者應(yīng)該相互協(xié)作共存，而不是對(duì)立和取代。一方面，我們應(yīng)當(dāng)理性認(rèn)識(shí)生成式AI與人類主體意識(shí)的本質(zhì)差異，以及它們?cè)诔霭骖I(lǐng)域乃至整個(gè)社會(huì)發(fā)展進(jìn)程中所扮演的不同角色與功能定位。盡管生成式AI能夠在文本生成、內(nèi)容編輯、市場(chǎng)分析等方面展現(xiàn)強(qiáng)大的能力，但其本質(zhì)上是一種基于預(yù)設(shè)算法與海量數(shù)據(jù)驅(qū)動(dòng)的模擬智能形態(tài)，不具備真實(shí)的情感體驗(yàn)、道德價(jià)值判斷及內(nèi)在自我意識(shí)。另一方面，置身于AI技術(shù)深刻影響的時(shí)代背景下，責(zé)任意識(shí)不僅是社會(huì)和諧與行業(yè)秩序的基石，而且對(duì)于每一位涉足出版工作的個(gè)體而言，更是不可忽視的道德準(zhǔn)繩。尤其在應(yīng)用生成式AI技術(shù)的過(guò)程中，應(yīng)當(dāng)秉持“使用者即第一責(zé)任人”的理念。從倫理學(xué)的角度來(lái)看，價(jià)值的實(shí)現(xiàn)不僅依賴于個(gè)體的道德義務(wù)感，還需通過(guò)實(shí)際行動(dòng)來(lái)體現(xiàn)，即所謂的“責(zé)任”。這種責(zé)任是個(gè)人意志的選擇，更是主體人格特質(zhì)的具體表現(xiàn)。因此，作為技術(shù)的直接受益者，使用者不僅應(yīng)深度認(rèn)知并內(nèi)化自身在操作與運(yùn)用生成式AI技術(shù)時(shí)所肩負(fù)的倫理?yè)?dān)當(dāng)，還應(yīng)積極主動(dòng)地參與與之相關(guān)的倫理規(guī)范的構(gòu)建與實(shí)踐，以此確保出版活動(dòng)始終堅(jiān)守職業(yè)道德與社會(huì)責(zé)任底線。

四、結(jié)語(yǔ)

目前很多人擔(dān)憂生成式AI或?qū)?duì)人類文明進(jìn)步構(gòu)成潛在威脅，但即便如此，將其視為出版領(lǐng)域內(nèi)的一種工具性輔助力量，這無(wú)疑是理性的認(rèn)知。尤瓦爾·赫拉利曾警示道，盡管AI具有巨大的價(jià)值，但人類必須確保對(duì)其有效掌控。在面對(duì)新技術(shù)帶來(lái)的多元選擇時(shí)，我們有責(zé)任深入理解現(xiàn)狀，積極主動(dòng)地作出抉擇，而非被動(dòng)地等待決定。這一觀點(diǎn)在生成式AI應(yīng)用于出版業(yè)的背景下尤為貼切。

生成式AI的融入，正在強(qiáng)有力地推動(dòng)出版業(yè)向數(shù)字化、網(wǎng)絡(luò)化、智能化的深層次邁進(jìn)，在重塑出版內(nèi)容的創(chuàng)造方式、傳播途徑與受眾體驗(yàn)的同時(shí)，也在挑戰(zhàn)既有商業(yè)模式，激發(fā)創(chuàng)新思維，促使出版業(yè)工作者重新審視并調(diào)整自身的角色定位與業(yè)務(wù)策略。在AI技術(shù)飛速發(fā)展的今天，其帶來(lái)的機(jī)遇與風(fēng)險(xiǎn)并存，我們對(duì)它的態(tài)度應(yīng)當(dāng)是“擁抱”［13］，而非杜絕，是輔助而非替代，是引導(dǎo)規(guī)范而非恐慌。我們要始終保持對(duì)ChatGPT等AI工具對(duì)科學(xué)研究透明度與真實(shí)性潛在影響的高度警覺(jué)，堅(jiān)決捍衛(wèi)科學(xué)透明這一不可逾越的原則底線，以確保這類先進(jìn)技術(shù)得到合理應(yīng)用，切實(shí)維護(hù)人類知識(shí)創(chuàng)新的純粹性與活力。

｜參考文獻(xiàn)｜

［1］裴永剛，石靈芝. 人工智能技術(shù)賦能下的學(xué)術(shù)出版審視：基于“人—技”關(guān)系的視角［J］. 出版廣角，2024（14）：31-37.

［2］方卿，丁靖佳. 人工智能生成內(nèi)容（AIGC）的三個(gè)出版學(xué)議題［J］. 出版科學(xué)，2023（2）：5-10.

［3］陸小華. ChatGPT等智能內(nèi)容生成與新聞出版業(yè)面臨的智能變革［J］. 中國(guó)出版，2023（5）：8-15.

［4］何華征，李懋君. “事件出版”及其出版?zhèn)惱硌芯浚跩］. 出版發(fā)行研究，2016（7）：61-65.

［5］甄巍然，陳昌輝. “場(chǎng)域”視角下出版?zhèn)惱砝Ь程揭蚺c路徑建構(gòu)［J］. 出版發(fā)行研究，2017（7）：11-15.

［6］張重毅，牛欣悅，孫君艷，等. ChatGPT探析：AI大型語(yǔ)言模型下學(xué)術(shù)出版的機(jī)遇與挑戰(zhàn)［J］. 中國(guó)科技期刊研究，2023（4）：446-453.

［7］張萍，張小強(qiáng). 機(jī)器參與論文寫作的出版?zhèn)惱盹L(fēng)險(xiǎn)與防范對(duì)策［J］. 中國(guó)科技期刊研究，2022（4）：439-449.

［8］陳雨，馮銳. 媒介行動(dòng)能力：媒介如何促成公益訴訟：基于32個(gè)案例的清晰集定性比較分析（csQCA）［J］. 傳媒觀察，2024（8）：48-62.

［9］高堅(jiān)，秦宗財(cái). 媒介、技術(shù)和經(jīng)濟(jì)：重識(shí)數(shù)字出版的三個(gè)維度［J］. 出版廣角，2024（18）：23-29.

［10］周蔚華. 中國(guó)特色出版學(xué)理論體系建設(shè)論綱［J］. 現(xiàn)代出版，2022（1）：5-18.

［11］辜凌云. 人工智能機(jī)器學(xué)習(xí)內(nèi)容的著作權(quán)合法性基礎(chǔ)：以文本和數(shù)據(jù)挖掘例外規(guī)則為視角［J］. 出版廣角，2024（15）：54-59.

［12］陳雨，張炳旭. AIGC賦能中華優(yōu)秀傳統(tǒng)文化融合的傳播邏輯與紓解路徑［J］. 東南傳播，2024（9）：85-88.

［13］匡文波，姜澤瑋. 生成式人工智能推動(dòng)數(shù)字出版智能化發(fā)展路徑研究［J］. 出版廣角，2024（14）：15-21.