ChatGPT應(yīng)用于數(shù)字出版的倫理風(fēng)險(xiǎn)與倫理原則

劉海明 馬皖雪

摘 要：ChatGPT帶動(dòng)了新一輪人工智能革命浪潮，數(shù)字出版如何面對(duì)技術(shù)帶來的挑戰(zhàn)和機(jī)遇成為無法回避的問題。ChatGPT在數(shù)字出版中具有重要的應(yīng)用價(jià)值，能夠在組織架構(gòu)、決策管理與內(nèi)容生態(tài)等層面產(chǎn)生積極影響。但在數(shù)字出版中嵌入ChatGPT模型，必須綜合研判其可能引發(fā)的個(gè)人層面的角色退化與利益侵犯、行業(yè)層面的人才流失與價(jià)值失序、社會(huì)層面的道德下沉、國(guó)家層面的意識(shí)形態(tài)入侵與數(shù)據(jù)主權(quán)安全風(fēng)險(xiǎn)。建議通過構(gòu)建必要性、實(shí)驗(yàn)性、尊重性與限制性的倫理原則，以更好發(fā)揮ChatGPT在我國(guó)數(shù)字出版中的技術(shù)效用，推動(dòng)數(shù)字出版高質(zhì)量發(fā)展。

關(guān)鍵詞：ChatGPT；數(shù)字出版；人工智能；風(fēng)險(xiǎn)治理；倫理原則

D O l ： 1 0 .3 9 6 9 /j .i s s n .2 0 9 7 -1 8 6 9 .2 0 2 3 .0 2 .0 0 4

黨的二十大報(bào)告提出“實(shí)施國(guó)家文化數(shù)字化戰(zhàn)略”。作為文化產(chǎn)業(yè)數(shù)字化布局的重要一環(huán)，數(shù)字出版建設(shè)是構(gòu)建公共數(shù)字文化資源、實(shí)現(xiàn)數(shù)字文化成果共享、落實(shí)國(guó)家文化數(shù)字化戰(zhàn)略的關(guān)鍵驅(qū)動(dòng)力。數(shù)字技術(shù)的推動(dòng)與賦能，促使數(shù)字出版蓬勃發(fā)展[1]，互聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算、人工智能等新一代信息技術(shù)的迭代創(chuàng)新，不斷為數(shù)字出版業(yè)帶來了新的挑戰(zhàn)與機(jī)遇。如何有效運(yùn)用數(shù)字化技術(shù)拓展出版邊界、發(fā)展出版新業(yè)態(tài)，備受業(yè)內(nèi)關(guān)注。

被認(rèn)為是“新一代技術(shù)革命”的ChatGPT發(fā)布僅兩個(gè)月，月活躍用戶就超過了1億，成為有史以來用戶增長(zhǎng)速度最快的應(yīng)用程序之一。作為人工智能生成內(nèi)容（AIGC）的一種，ChatGPT在給人類帶來“超模擬”驚喜體驗(yàn)的同時(shí)[2]，也引發(fā)了人們對(duì)于技術(shù)發(fā)展的倫理考量，許多國(guó)家對(duì)于ChatGPT的引入持審慎態(tài)度，有的國(guó)家還設(shè)定一系列限定規(guī)則。

不可否認(rèn)的是，ChatGPT已經(jīng)成為人工智能發(fā)展從專用人工智能開始走向通用人工智能，從小眾應(yīng)用進(jìn)入真正的大眾化應(yīng)用的引爆點(diǎn)[3]。基于此背景，ChatGPT被許多行業(yè)視為開辟產(chǎn)業(yè)新業(yè)態(tài)的重要支撐，數(shù)字出版未來發(fā)展與ChatGPT等AIGC相關(guān)產(chǎn)品的聯(lián)結(jié)就成為無法回避的問題。

數(shù)字出版的發(fā)展離不開與時(shí)俱進(jìn)的技術(shù)變革，ChatGPT作為人工智能的最新迭代與標(biāo)志性突破，其深度的語言交互能力、高效的信息驅(qū)動(dòng)能力及精密的算法運(yùn)行能力[4]，為數(shù)字出版行業(yè)的組織架構(gòu)、決策管理與內(nèi)容生態(tài)等層面提供了廣泛的應(yīng)用潛力和想象空間。但ChatGPT模型在與數(shù)字出版融合的過程中，也將在不同層面引發(fā)新的倫理風(fēng)險(xiǎn)。因此，ChatGPT作為新一輪技術(shù)革新，為數(shù)字出版未來發(fā)展帶來了諸多可以討論的問題：如何搭上新一輪技術(shù)快車，開辟“ChatGPT+數(shù)字出版”的新模式？ChatGPT技術(shù)應(yīng)用于數(shù)字出版存在哪些倫理風(fēng)險(xiǎn)，又如何應(yīng)對(duì)？為此，本文重點(diǎn)分析ChatGPT應(yīng)用于數(shù)字出版的倫理風(fēng)險(xiǎn)，并探討其技術(shù)使用的倫理原則，以期為未來數(shù)字出版建設(shè)提供有益借鑒。

1 ChatGPT應(yīng)用于數(shù)字出版的倫理風(fēng)險(xiǎn)

ChatGPT的技術(shù)優(yōu)勢(shì)在為數(shù)字出版帶來了諸多層面的發(fā)展機(jī)遇的同時(shí)，也伴隨著技術(shù)應(yīng)用給多個(gè)層面帶來了倫理風(fēng)險(xiǎn)，這些隱含的倫理風(fēng)險(xiǎn)將會(huì)深刻影響數(shù)字出版的變革。因此，對(duì)技術(shù)應(yīng)用的倫理風(fēng)險(xiǎn)進(jìn)行審視具有重要意義。

1.1 主體裂變：技術(shù)圖景中作者角色的退化

ChatGPT介入數(shù)字出版的技術(shù)圖景中，內(nèi)容的創(chuàng)作將不再僅以人為主體，而是加入了ChatGPT的技術(shù)“代筆”。隨著ChatGPT“創(chuàng)作”的書籍涌入市場(chǎng)，作者原先在文學(xué)作品中享有的“唯一主體性”地位被動(dòng)搖[5]。作者的創(chuàng)作速度有限，ChatGPT卻能在幾個(gè)小時(shí)內(nèi)創(chuàng)作完整作品；出版機(jī)構(gòu)一般要為作者支付稿酬（在特定時(shí)空范圍內(nèi)買斷版權(quán)），ChatGPT只需要支付固定的技術(shù)成本便可以循環(huán)創(chuàng)作。對(duì)比之下，未來數(shù)字藝術(shù)領(lǐng)域中類ChatGPT的產(chǎn)品應(yīng)用很有可能成為新的創(chuàng)作主體，人的角色逐漸退場(chǎng)為內(nèi)容的提問者與引導(dǎo)者，失去了傳統(tǒng)主體角色的功能意義。作者角色的功能意義是作為專業(yè)人士與其他職業(yè)進(jìn)行社會(huì)比較的重要屬性，是維護(hù)職業(yè)邊界和可持續(xù)性的重要基石。如今，作者用來構(gòu)建角色邊界的區(qū)隔被消解，面對(duì)人工智能技術(shù)的飛躍性發(fā)展，作者角色的主體地位出現(xiàn)裂變的危機(jī)。

然而，內(nèi)容創(chuàng)作主體的裂變會(huì)衍生一系列倫理風(fēng)險(xiǎn)。第一，ChatGPT的內(nèi)容創(chuàng)作本質(zhì)上還是在人類創(chuàng)作的數(shù)據(jù)基礎(chǔ)上進(jìn)行二次創(chuàng)作，這就面臨著版權(quán)歸屬問題，即借用的數(shù)據(jù)是否侵犯作者的權(quán)益，機(jī)器能否署名成為著作權(quán)的保護(hù)對(duì)象等。第二，ChatGPT內(nèi)容生成的“提示者”如何進(jìn)行地位歸屬，內(nèi)容審查的主體責(zé)任如何界定，這些都是亟須討論的問題。第三，人類自身的思維與創(chuàng)新存在多維差異，這種差異超越機(jī)器的“思想”實(shí)驗(yàn)與模擬。如果作者角色的功能意義被ChatGPT等人工智能產(chǎn)品替代，文化的個(gè)性化與豐富性發(fā)展將受到嚴(yán)重威脅。

1.2 價(jià)值裂變：技術(shù)決策中編輯身份的消解

嵌入數(shù)字出版流程中的ChatGPT產(chǎn)品能與管理者、作者、用戶等進(jìn)行深度交互對(duì)話、交換信息、發(fā)布指令；搜集整理歸納出版市場(chǎng)的關(guān)鍵信息；通過設(shè)置的自動(dòng)評(píng)估系統(tǒng)對(duì)作品進(jìn)行校對(duì)、排版、審核把關(guān)等。原本應(yīng)由編輯承擔(dān)的工作，或許未來在人工智能技術(shù)的發(fā)展中將逐漸被替代，這種趨勢(shì)隨著ChatGPT的應(yīng)用開始成為現(xiàn)實(shí)。編輯職業(yè)身份的消解看似簡(jiǎn)化了數(shù)字出版管理結(jié)構(gòu)、降低了數(shù)字作品出版成本，但背后存在專業(yè)人才流失與數(shù)字文化價(jià)值分裂的倫理風(fēng)險(xiǎn)，真正的行業(yè)危機(jī)也會(huì)隨之顯現(xiàn)。

人才與價(jià)值理念是行業(yè)可持續(xù)發(fā)展的支撐。

如果編輯等出版人才被技術(shù)取代，一是將會(huì)造成大批技術(shù)人員代替?zhèn)鹘y(tǒng)編輯人員的現(xiàn)象，引發(fā)行業(yè)人才流失與社會(huì)就業(yè)危機(jī)。二是完全智能化、程序化的生產(chǎn)流程將會(huì)消解行業(yè)的人文價(jià)值。缺少編輯價(jià)值判斷的技術(shù)決策可能出現(xiàn)數(shù)據(jù)與效益層面的偏向，對(duì)文學(xué)作品意義價(jià)值的衡量也將部分轉(zhuǎn)向商品的經(jīng)濟(jì)價(jià)值，忽視更深層次的數(shù)字出版價(jià)值。三是ChatGPT的文化作品如果無序生長(zhǎng)，當(dāng)無序度達(dá)到系統(tǒng)的極值，便會(huì)引發(fā)行業(yè)的生存危機(jī)。當(dāng)ChatGPT等產(chǎn)品融入數(shù)字出版行業(yè)時(shí)，傳統(tǒng)的人才結(jié)構(gòu)如何發(fā)揮最大價(jià)值，編輯如何在智能生產(chǎn)流程中找尋職業(yè)身份價(jià)值，成為行業(yè)與個(gè)人需要思考的問題。

1.3 信任裂變：技術(shù)秩序中主體道德的下沉

ChatGPT的技術(shù)秩序中重要的是對(duì)問題的處理與回答，雖然能夠在設(shè)定的道德標(biāo)準(zhǔn)中拒絕回答某些問題，但是有關(guān)抄襲的指令具有價(jià)值指向性不明確、難以被辨別的特點(diǎn)，ChatGPT通常無法自主拒絕相關(guān)指令。只需輸入指令就可以獲取富有邏輯與創(chuàng)意的文學(xué)作品，低成本、難辨真?zhèn)蔚膬?nèi)容生成，創(chuàng)作出版就能見收益，這些就像“智慧果”一般誘惑著人類作者，挑戰(zhàn)著人類作者的誠實(shí)底線，給內(nèi)容創(chuàng)作帶來了信息裂變危機(jī)。例如，作者借助ChatGPT創(chuàng)作卻標(biāo)榜內(nèi)容的原創(chuàng)與獨(dú)立性，學(xué)界借助ChatGPT對(duì)大量現(xiàn)有文章進(jìn)行抄襲、整合與降重，不法分子誘導(dǎo)ChatGPT傳遞虛假信息等，這些問題都挑戰(zhàn)著人與人之間的信任，動(dòng)搖社會(huì)的信任基礎(chǔ)。

低成本抄襲挑戰(zhàn)作者的誠信道德底線，作者將抄襲來的山寨版作品兜售給讀者，加劇了數(shù)字出版實(shí)踐者的道德滑坡現(xiàn)象。如果將ChatGPT的“洗稿”功能應(yīng)用至科學(xué)研究領(lǐng)域，將產(chǎn)生不可預(yù)估的后果，引發(fā)不可預(yù)估的社會(huì)信任危機(jī)與危害。當(dāng)ChatGPT的數(shù)據(jù)庫實(shí)現(xiàn)聯(lián)網(wǎng)，算法更精準(zhǔn)，內(nèi)容生成更靈活、更“真實(shí)”時(shí)，個(gè)體將擁有更多的可控資源，道德自覺性更易動(dòng)搖。在這種背景下，學(xué)術(shù)界與文藝界獲取讀者信任的成本增加了，數(shù)字出版行業(yè)也將面臨巨大的信任危機(jī)與精準(zhǔn)審核把關(guān)的考驗(yàn)。

1.4 情感裂變：技術(shù)監(jiān)控中數(shù)字資本的入侵

法國(guó)哲學(xué)家福柯在《規(guī)訓(xùn)與懲罰》一書中借用“全景敞視監(jiān)獄”的概念探討權(quán)力的運(yùn)作方式和思維邏輯[6]，認(rèn)為在監(jiān)控下每個(gè)人都處在觀看與被觀看的機(jī)制中，處在“權(quán)力的眼睛”中的人們，在被凝視中自我規(guī)訓(xùn)。隨著數(shù)字化時(shí)代的發(fā)展，“全景監(jiān)獄”概念被引申為技術(shù)背景下的監(jiān)控，傳統(tǒng)的社會(huì)權(quán)力轉(zhuǎn)換為更隱蔽的數(shù)據(jù)控制，無所不包的數(shù)據(jù)催生了一種全新的數(shù)據(jù)權(quán)力，通過對(duì)個(gè)體生活的追蹤與監(jiān)控，進(jìn)而通過注意力和思維兩個(gè)層面的規(guī)訓(xùn)實(shí)現(xiàn)對(duì)整個(gè)社會(huì)的規(guī)制和重塑[7]。ChatGPT等AIGC產(chǎn)品技術(shù)實(shí)現(xiàn)的背后是海量數(shù)據(jù)的支撐，這些數(shù)據(jù)的制定標(biāo)準(zhǔn)與算法運(yùn)行規(guī)則由數(shù)字資本規(guī)定，這種隱性權(quán)力的操控也預(yù)示著ChatGPT的潛在威脅。

數(shù)字出版產(chǎn)業(yè)承擔(dān)著重要的認(rèn)知導(dǎo)向功能，ChatGPT的內(nèi)容生成看似為出版業(yè)帶來智能體驗(yàn)與便利，也可能因?yàn)閿?shù)據(jù)的偏差與不準(zhǔn)確而產(chǎn)生具有錯(cuò)誤和偏見的內(nèi)容。同時(shí)，ChatGPT是由國(guó)外的人工智能研究機(jī)構(gòu)研發(fā)的，數(shù)據(jù)源偏向國(guó)外的資源庫。使用主體在一問一答中產(chǎn)生認(rèn)知，情感與思維被數(shù)據(jù)與算法的規(guī)則重塑，不僅可能導(dǎo)致意識(shí)形態(tài)被入侵，威脅、挑戰(zhàn)主流意識(shí)形態(tài)，還有可能產(chǎn)生數(shù)據(jù)被竊取與泄漏等風(fēng)險(xiǎn)，這些都給國(guó)家數(shù)據(jù)主權(quán)安全帶來挑戰(zhàn)。

2 C h a t G P T應(yīng)用于數(shù)字出版的倫理原則

善用ChatGPT能夠使數(shù)字出版行業(yè)實(shí)現(xiàn)優(yōu)質(zhì)發(fā)展，而濫用產(chǎn)生的倫理風(fēng)險(xiǎn)則會(huì)加速行業(yè)的衰落。應(yīng)及時(shí)對(duì)ChatGPT在數(shù)字出版應(yīng)用中的倫理風(fēng)險(xiǎn)進(jìn)行綜合研判，構(gòu)建完善的倫理原則，實(shí)現(xiàn)ChatGPT技術(shù)應(yīng)用價(jià)值的最大化。

2.1 必要性原則：堅(jiān)持人的主體性實(shí)踐

人在社會(huì)實(shí)踐關(guān)系中因?yàn)閮r(jià)值能動(dòng)而形成價(jià)值主體，價(jià)值在文化中的主體意義也會(huì)以人的存在方式體現(xiàn)出來[8]。然而，ChatGPT等機(jī)器智能體正逐漸深入數(shù)字出版的諸多環(huán)節(jié)，人類創(chuàng)作的特殊性與價(jià)值創(chuàng)造的唯一主體性的地位不斷受到挑戰(zhàn)。關(guān)于智能系統(tǒng)是否具備“主體”條件、承擔(dān)道德主體責(zé)任，從目前社會(huì)各界的爭(zhēng)論來看，并沒有統(tǒng)一的定論[9]。雖然不可否認(rèn)智能系統(tǒng)在某些領(lǐng)域展現(xiàn)出人類所不能及的能力，但是文明成果根植于人類現(xiàn)實(shí)的物質(zhì)實(shí)踐活動(dòng)之中，脫離人類生產(chǎn)勞動(dòng)實(shí)踐的后人類社會(huì)面臨著文明異化的風(fēng)險(xiǎn)。康德視“人”是“目的”，強(qiáng)調(diào)人的理性與尊嚴(yán)，揭示了人作為有意識(shí)的存在者，在任何時(shí)候都同時(shí)當(dāng)作目的，絕不僅僅當(dāng)作手段來使用[10]。堅(jiān)持人的主體實(shí)踐，不僅關(guān)系著文明發(fā)展的向度，也是對(duì)理性主體道德能力的尊重。

堅(jiān)持人的主體性實(shí)踐對(duì)數(shù)字出版行業(yè)應(yīng)用層面有著積極的意義，因?yàn)镃hatGPT最優(yōu)文本的生成是基于優(yōu)質(zhì)數(shù)據(jù)的“喂養(yǎng)”和高質(zhì)量的內(nèi)容提示，這些數(shù)據(jù)是人類的智慧創(chuàng)新成果，所以人類的內(nèi)容生成越全面、質(zhì)量越高，ChatGPT的內(nèi)容生成就更智能化、更智慧化。ChatGPT數(shù)字作品的創(chuàng)作既離不開大量?jī)?yōu)質(zhì)作者的原創(chuàng)內(nèi)容，也離不開作者與編輯的高質(zhì)量提問和內(nèi)容篩選。本質(zhì)上，ChatGPT的內(nèi)容生成還是以人類為主體的生成機(jī)制，機(jī)器仍然居于輔助性的客體地位。

偉大的作品最終是由人來判斷的，作品判斷的標(biāo)準(zhǔn)不僅包括內(nèi)容層面，還摻雜著寫作者所處的社會(huì)背景和心境，其中富含不同時(shí)代的意義隱喻與生活感悟，一部偉大的作品既需要精妙的內(nèi)容，也離不開寫作者的心路歷程。因此，即使有技術(shù)加持的作品，人作為創(chuàng)作主體的地位也不能被忽略。一方面，作者應(yīng)時(shí)刻堅(jiān)持創(chuàng)作的主體地位，創(chuàng)新出技術(shù)難以模擬甚至無法模擬的創(chuàng)作思路，而不是迎合機(jī)器的創(chuàng)作模型成為“機(jī)器作家”。另一方面，數(shù)字出版行業(yè)應(yīng)時(shí)刻堅(jiān)持以人為主體的內(nèi)容創(chuàng)作地位，在對(duì)技術(shù)保持包容吸納態(tài)度的同時(shí)，大力扶持優(yōu)質(zhì)原創(chuàng)作者，給原創(chuàng)作品更多的出版機(jī)會(huì)。

2.2 實(shí)驗(yàn)性原則：科學(xué)分級(jí)探索“ChatGPT+數(shù)字出版”模式

技術(shù)的發(fā)展是科技進(jìn)步的必然，未來還會(huì)出現(xiàn)更多的智能工具，暫停或者完全排斥人工智能的發(fā)展并不能解決問題，關(guān)鍵是以何種方式最大化地利用技術(shù)。ChatGPT新興技術(shù)的飛速發(fā)展，引發(fā)了新一輪的技術(shù)焦慮，面對(duì)即將來臨的生成式人工智能時(shí)代，各行業(yè)如何掌握核心技術(shù)、發(fā)揮技術(shù)優(yōu)勢(shì)成了熱議的問題。實(shí)驗(yàn)性原則為我們提供了很好的技術(shù)探索模式，也可將其視為試錯(cuò)原則。該原則要求在智能體系全面應(yīng)用之前，可以選擇先在一個(gè)可控的環(huán)境里觀察相關(guān)應(yīng)用創(chuàng)新， 判斷和分析技術(shù)效果， 并合理評(píng)估創(chuàng)新帶來的收益及風(fēng)險(xiǎn)， 從而基于“風(fēng)險(xiǎn)—收益”的比較來調(diào)整相應(yīng)的應(yīng)用[11]。

就數(shù)字出版而言，探究“ChatGPT+數(shù)字出版”模式是行業(yè)應(yīng)對(duì)技術(shù)發(fā)展的必然，但在模式探索時(shí)應(yīng)秉持包容審慎的科學(xué)態(tài)度，遵循實(shí)驗(yàn)性原則，在可控環(huán)境中由低層次到高層次分級(jí)展開。一是因?yàn)镃hatGPT處于發(fā)展階段，還存在數(shù)據(jù)不完整、算法不完善等技術(shù)漏洞。二是因?yàn)镃hatGPT技術(shù)應(yīng)用對(duì)數(shù)字出版行業(yè)而言是全新的嘗試，目前業(yè)內(nèi)尚未有很好的實(shí)證案例，其對(duì)數(shù)字出版生產(chǎn)模式的影響存在未知性。三是因?yàn)槌霭娈a(chǎn)業(yè)與互聯(lián)網(wǎng)行業(yè)的融合催生了數(shù)字出版產(chǎn)業(yè)，也促進(jìn)了數(shù)字出版產(chǎn)業(yè)分工與細(xì)化[12]。不同分工和環(huán)節(jié)對(duì)于技術(shù)的需求是不同的，應(yīng)用的數(shù)據(jù)范圍與算法邏輯也存在差異，隱含的技術(shù)使用風(fēng)險(xiǎn)的程度也不同。在此基礎(chǔ)上，由低層次到高層次分級(jí)實(shí)驗(yàn)性的探索既能最大化探究技術(shù)的使用價(jià)值，也能及時(shí)了解不同生產(chǎn)環(huán)節(jié)可能產(chǎn)生的倫理風(fēng)險(xiǎn)，并適時(shí)調(diào)整技術(shù)的使用規(guī)則。

2.3 尊重性原則：強(qiáng)化道德主體意識(shí)與智能識(shí)別工具

尊重性原則是研究倫理與寫作倫理的基本原則，既要尊重技術(shù)的價(jià)值屬性與發(fā)展屬性，又要尊重創(chuàng)作的原創(chuàng)性與規(guī)則性。科學(xué)技術(shù)的發(fā)展對(duì)人類與社會(huì)的作用和意義是有目共睹的，絕對(duì)的技術(shù)禁令并不可取，應(yīng)以尊重技術(shù)的價(jià)值屬性為前提，從技術(shù)的發(fā)展中尋求解決問題的方法。ChatGPT的開發(fā)原理是OpenAI 研發(fā)團(tuán)隊(duì)利用“人類反饋強(qiáng)化學(xué)習(xí)”的機(jī)器學(xué)習(xí)機(jī)制進(jìn)行數(shù)據(jù)訓(xùn)練。從理論層面看，語料庫與模型量級(jí)的持續(xù)提升與更新，能夠?yàn)樯鐣?huì)提供具有積極影響的全面準(zhǔn)確回答[13]。因此，在應(yīng)用AI技術(shù)的過程中，技術(shù)的規(guī)范是一方面，而在技術(shù)應(yīng)用之前強(qiáng)化道德主體意識(shí)，形成道德自覺，同樣重要。

將Chat GP T模型嵌入數(shù)字出版，尊重性原則主要體現(xiàn)在主體的道德自覺與技術(shù)應(yīng)用的開發(fā)層面。ChatGPT并不是在任何場(chǎng)景都適用的，尤其是在學(xué)術(shù)研究中，部分學(xué)校與期刊已經(jīng)明確規(guī)定使用ChatGPT的限制與原則。例如，香港大學(xué)向全體師生發(fā)出禁止在所有課堂、作業(yè)和評(píng)估中使用ChatGPT或其他AI工具的通告，否則將被視為抄襲[14]。全球知名出版集團(tuán)施普林格·自然（Springer Nature）的旗艦期刊《自然》公開發(fā)表社論，聲明了在使用生成式AI時(shí)的兩條原則：（1）不接受任何LLM工具作為對(duì)研究論文有貢獻(xiàn)的作者；（2）使用LLM（大型語言模型）工具的研究人員應(yīng)在方法或致謝部分中聲明[15]。目前，各國(guó)學(xué)術(shù)界、出版商對(duì)于ChatGPT的應(yīng)用有著不同程度的限制。不過，對(duì)作品進(jìn)行技術(shù)標(biāo)識(shí)或聲明是應(yīng)用ChatGPT或其他AI工具的基本原則，也是任何寫作者都應(yīng)該自覺遵守的原則。

在內(nèi)容創(chuàng)作中，寫作者應(yīng)該自主強(qiáng)化道德意識(shí)，尊重平臺(tái)對(duì)技術(shù)使用的規(guī)則；數(shù)字出版平臺(tái)與相關(guān)部門應(yīng)盡快發(fā)布ChatGPT等工具的使用規(guī)則，規(guī)范道德主體的行為標(biāo)準(zhǔn)。不過，這些規(guī)則實(shí)現(xiàn)的前提是相應(yīng)的智能識(shí)別工具的開發(fā)與應(yīng)用，即平臺(tái)是否有足夠識(shí)別文本是由人類還是機(jī)器撰寫的能力，以及平臺(tái)是否有對(duì)應(yīng)的數(shù)據(jù)模型。如果沒有針對(duì)ChatGPT等人工智能技術(shù)的識(shí)別工具與數(shù)據(jù)基礎(chǔ)，那就難以檢驗(yàn)規(guī)則應(yīng)用的效果，因此盡快引入智能識(shí)別工具是數(shù)字出版平臺(tái)的重要應(yīng)對(duì)舉措。

2.4 限制性原則：完善ChatGPT引入的邊界性與平衡性

ChatGPT掀起了以AIGC為代表的大模型的技術(shù)“狂飆”，成為國(guó)內(nèi)外企業(yè)爭(zhēng)相布局的風(fēng)口。百度上線AI聊天機(jī)器人“文心一言”，阿里達(dá)摩院、科大訊飛、騰訊、華為、字節(jié)跳動(dòng)、京東、360、快手、網(wǎng)易等10余家中國(guó)互聯(lián)網(wǎng)企業(yè)均在AIGC領(lǐng)域有所涉足，開發(fā)相關(guān)產(chǎn)品[16]。人工智能技術(shù)發(fā)展具有戰(zhàn)略性意義，國(guó)內(nèi)對(duì)于人工智能技術(shù)的開發(fā)關(guān)系著經(jīng)濟(jì)、科技與國(guó)際競(jìng)爭(zhēng)力等層面的建設(shè)。需要注意的是，技術(shù)發(fā)展之外的無序擴(kuò)張與濫用將會(huì)引發(fā)一系列倫理風(fēng)險(xiǎn)，各行業(yè)還需要進(jìn)一步考量技術(shù)發(fā)展的縱深度與引入的尺度。

數(shù)字出版行業(yè)的內(nèi)容布局關(guān)乎文化產(chǎn)業(yè)的發(fā)展，是新時(shí)代出版工作的重要使命與任務(wù)。數(shù)字出版生產(chǎn)對(duì)內(nèi)發(fā)揮聚民心、育新人、興文化的價(jià)值導(dǎo)向作用，對(duì)外承擔(dān)展形象、展示文化自信、提升文化話語權(quán)的傳播責(zé)任。如前文所述，技術(shù)的使用具有雙面性，既不能完全忽視技術(shù)的應(yīng)用，也需要在安全的領(lǐng)域內(nèi)發(fā)揮技術(shù)的最大價(jià)值，這就需要在引入ChatGPT時(shí)及時(shí)完善邊界性與平衡性。

首先，ChatGPT并不適用于數(shù)字出版行業(yè)的所有題材，尤其是關(guān)涉國(guó)家安全的重要數(shù)據(jù)資源。面對(duì)相關(guān)領(lǐng)域的內(nèi)容建設(shè)，數(shù)字出版行業(yè)需要具有數(shù)據(jù)安全的敏感性，應(yīng)及時(shí)創(chuàng)建防火墻和限制禁令，樹立明確的使用邊界。其次，在引入ChatGPT產(chǎn)品時(shí)應(yīng)以了解數(shù)據(jù)標(biāo)準(zhǔn)與算法運(yùn)作邏輯為前提，并與技術(shù)平臺(tái)合作構(gòu)建適合國(guó)內(nèi)數(shù)字出版領(lǐng)域的數(shù)據(jù)庫資源，平衡數(shù)據(jù)資源偏差，提升數(shù)據(jù)準(zhǔn)確性，避免數(shù)據(jù)偏差和算法歧視等問題導(dǎo)致的不良導(dǎo)向的回答與作品。

3 結(jié)語

當(dāng)下，ChatGPT作為人工智能領(lǐng)域的最新技術(shù)突破，面臨巨大的社會(huì)爭(zhēng)議，在給人類帶來智能體驗(yàn)的同時(shí)，也引發(fā)了人們對(duì)于技術(shù)的恐慌，甚至被多個(gè)國(guó)家和機(jī)構(gòu)下發(fā)“驅(qū)逐令”。各行業(yè)對(duì)ChatGPT技術(shù)應(yīng)用存在觀望、積極接納或否定的態(tài)度，貿(mào)然使用與杜絕都不是最好的選擇，客觀辯證考量才能讓技術(shù)更好地服務(wù)于人類。

ChatGPT在數(shù)字出版領(lǐng)域具有廣泛的應(yīng)用價(jià)值，能夠在組織架構(gòu)、決策管理與內(nèi)容生態(tài)等層面產(chǎn)生積極影響，與此同時(shí)，也會(huì)在個(gè)人、行業(yè)、社會(huì)與國(guó)家等層面產(chǎn)生倫理風(fēng)險(xiǎn)，因而需要構(gòu)建相應(yīng)的倫理原則進(jìn)行技術(shù)規(guī)制，以保障ChatGPT技術(shù)應(yīng)用能夠發(fā)揮最大價(jià)值。因此，在包容接納新技術(shù)的同時(shí)，也要保持審慎的態(tài)度綜合研判技術(shù)的應(yīng)用風(fēng)險(xiǎn)，唯有堅(jiān)持技術(shù)應(yīng)用的倫理原則，人工智能技術(shù)才能真正助益數(shù)字出版行業(yè)的發(fā)展。

Chat GPT只是一個(gè)開始，未來Chat GPT技術(shù)所引發(fā)的新一輪人工智能競(jìng)爭(zhēng)會(huì)對(duì)各行業(yè)、各領(lǐng)域乃至世界產(chǎn)生何種影響還是未知。不過，以ChatGPT技術(shù)為代表的AIGC正在各領(lǐng)域掀起新一輪AI浪潮，激發(fā)對(duì)AI時(shí)代的種種想象。AI究竟會(huì)給人類帶來怎樣的變革？是對(duì)時(shí)間與空間的進(jìn)一步壓縮或延展，還是思維的進(jìn)一步升維或退化，抑或是出現(xiàn)新的數(shù)字鴻溝？它又會(huì)在何種程度上影響人類的勞動(dòng)實(shí)踐與社會(huì)架構(gòu)？這些都是需要思考與討論的問題。

作者簡(jiǎn)介

劉海明，男，重慶大學(xué)新聞學(xué)院教授、博士生導(dǎo)師。研究方向：新聞倫理。

馬皖雪，女，重慶大學(xué)新聞學(xué)院碩士研究生。研究方向：新聞倫理。

參考文獻(xiàn)

[1] 劉九如.新技術(shù)賦能，數(shù)字出版呈現(xiàn)新業(yè)態(tài)[J].出版廣角，2022（9）：44-49.

[2] 王建磊，曹卉萌. C h a t G P T的傳播特質(zhì)、邏輯、范式[J].深圳大學(xué)學(xué)報(bào)（人文社會(huì)科學(xué)版）， 202 3，40（2）：144-152.

[3] 鐘祥銘，方興東，顧燁燁.ChatGPT的治理挑戰(zhàn)與對(duì)策研究：智能傳播的“科林格里奇困境”與突破路徑[J].傳媒觀察，2023（3）：25-35.

[4] 周智博.ChatGPT模型引入我國(guó)數(shù)字政府建設(shè)：功能、風(fēng)險(xiǎn)及其規(guī)制[J].山東大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2023（3）：144-154.

[5] 孫偉平.人工智能與人的“新異化”[J].中國(guó)社會(huì)科學(xué)，2020（12）：119-137，202-203.

[6] 米歇爾·福柯.規(guī)訓(xùn)與懲罰[M].劉北成、楊遠(yuǎn)嬰，譯.北京：生活·讀書·新知三聯(lián)書店，2007：219.

[7] 葉娟麗，徐琴.移動(dòng)互聯(lián)網(wǎng)·大數(shù)據(jù)·智能化：人工智能時(shí)代權(quán)力的規(guī)訓(xùn)路徑[J].蘭州大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2020，48（1）：46-55.

[8] 徐椿梁.認(rèn)知·實(shí)踐·主體：價(jià)值在文化存在中的三重意義[J].求索，2020（6）：77-83.

[9] 張晉銘，徐艷玲.智能社會(huì)的“勞動(dòng)”窘境及其化解[J].貴州社會(huì)科學(xué)，2022（10）：4-13.

[10] 康德.康德著作全集：第4卷[M].李秋零，譯.北京：中國(guó)人民大學(xué)出版社，2005：436-437.

[11] 李瑛.金融科技風(fēng)險(xiǎn)下的監(jiān)管轉(zhuǎn)型研究[J].當(dāng)代經(jīng)濟(jì)管理，2022，44（2）：87-96.

[12] 池仁勇，阮鴻鵬，王昀.數(shù)字出版產(chǎn)業(yè)持續(xù)創(chuàng)新能力及提升路徑[J].中國(guó)出版，2019（12）：28-31.

[13] 令小雄，王鼎民，袁健.ChatGPT爆火后關(guān)于科技倫理及學(xué)術(shù)倫理的冷思考[J].新疆師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2023，44（4）：123-136.

[14] 港大禁用ChatGPT等AI工具，為全港大學(xué)首例 [EB/OL]. （2023-02-19）[2023-04-10].https：//m.gmw.cn/baijia/2023-02/19/1303288091.html.

[15] ChatGPT對(duì)學(xué)術(shù)出版影響幾何？出版商已明確幾條原則 [EB/OL]. （2023-02-17）[2023-04-10].https：//baijiahao.baidu.com/s？id=1758074768204761293&wfr=spider&for=pc.

[16] 王飚，毛文思.2022年我國(guó)數(shù)字出版發(fā)展態(tài)勢(shì)盤點(diǎn)及2023年發(fā)展展望[J].科技與出版，2023（3）：6-19.

A b s t r a c t ： C h a t G P T h a s d r iv e n a n e w w a v e o f a r t if ic ia l in t e llig e n c e r e v o lu t io n . H o w d ig it a l p u b lis h in gf a c e s t h e c h a ll e n g e s a n d o p p o r t u n i t i e s b r o u g h t b y t e c h n o lo g y h a s b e c o m e a n u n a v o i d a b l e i s s u e .C h a t G P T h a s im p o r t a n t a p p l i c a t i o n v a l u e i n d i g i t a l p u b l i s h i n g a n d p o s i t i v e l y im p a c t s o n t h eo r g a n i z a t i o n s t r u c t u r e ， d e c i s i o n -m a k in g ， a n d c o n t e n t e c o l o g y . H o w e v e r， e m b e d d in g t h e C h a t G P Tm o d e l in d ig it a l p u b lis h in g r e q u ir e s a c o m p r e h e n s i v e a s s e s sm e n t o f t h e p o t e n t ia l r o le d e g r a d a t io na n d in t e r e s t s in t r u s i o n a t t h e in d i v id u a l le v e l， t a le n t lo s s ， a n d v a lu e d is o r d e r a t t h e in d u s t r ia l le v e l，m o r a l d e g r a d a t io n a t t h e s o c ia l le v e l， a n d id e o lo g ic a l in f ilt r a t io n a n d d a t a s o v e r e ig n t y s e c u r it y r is k s a tt h e n a t io n a l le v e l. It is s u g g e s t e d t h a t t h e e t h ic a l p r in c ip le s o f n e c e s s it y ， e x p e r im e n t a t io n ， r e s p e c t ， a n dr e s t r ic t io n b e c o n s t r u c t e d t o b e t t e r u t iliz e t h e t e c h n ic a l e f f e c t o f C h a t G P T d ig it a l p u b lis h in g a n d t op r o m o t e t h e h ig h -q u a lit y d e v e lo p m e n t o f d ig it a l p u b lis h in g in C h in a .

K e y w o r d s ： C h a t G P T ; D ig it a l p u b lis h in g ; A r t if ic ia l in t e llig e n c e ; R is k m a n a g e m e n t ; E t h ic a l p r in c ip le