內容生成式AI賦能教育出版知識服務的現實困境與優化路徑

聶靜?宗利永

【摘要】將內容生成式AI應用于教育出版知識服務領域，可以打破時空限制，賦能教育出版知識服務活動。AI優秀的交互性能和出色的編輯生成能力可以助力教育出版知識服務的內容生產理念變革、產品開發交互方式創新、應用場景拓展以及成本的有效降低，但教育出版知識服務應用落地的推進尚存在準確性不穩定、侵權風險加劇、倫理失范凸顯、教育評價機制失衡等現實問題。對此，教育出版知識服務應加強技術前端的倫理治理，提高預訓練模型的針對性，降低知識服務侵權風險，引入多元評價主體。

【關? 鍵? 詞】人工智能；內容生成式AI；教育出版；知識服務

【作者單位】聶靜，上海出版印刷高等專科學校；宗利永，上海出版印刷高等?？茖W校。

【基金項目】全國教育科學“十四五”規劃2022年度教育部重點項目“人工智能時代在線教育知識服務研究”（DFA220433）。

【中圖分類號】G230.7【文獻標識碼】A【DOI】10.16491/j.cnki.cn45-1216/g2.2023.15.009

人工智能時代，教育出版知識服務智能化轉型需要突破原有的服務范圍，從知識生產與傳播轉變為提供復合型的知識解決方案。國務院印發的《新一代人工智能發展規劃》指出， 我國人工智能的發展重點包括大數據驅動知識學習、跨媒體協同處理、人機協同增強智能、群體集成智能、自主智能系統。其中，前三項與教育出版知識服務智能化密切相關［1］。在提升教育出版知識服務的人格化、場景化、智能化與公平化中，“數據”和“服務”是關鍵。2022年底，ChatGPT的橫空出世成為公眾關注的熱點話題，其強大的內容生成能力讓業界看到了內容生成式AI可延伸的廣闊邊界。內容生成式AI利用人工智技術生成內容，被認為是繼專業生產內容和用戶生產內容之后的新型內容創作方式，在文本、音視頻、代碼、3D建模等領域擁有顯著的技術優勢。目前，內容生成式AI的代表性產品有ChatGPT、Stability AI、谷歌“Imagen Video和Phenaki”、微軟“小冰”、百度“文心一言”等。內容生成式AI的走紅，正是因為人工智能實現了從感知、理解世界到生成、創造世界的躍遷［2］。將內容生成式AI應用于教育出版知識服務領域，可以打破時空限制，真正賦能教育出版知識服務活動。

一、內容生成式AI賦能教育出版知識服務的創新變革

1．助力教育出版知識服務的理念變革

數字化轉型時代，教育出版知識服務不僅豐富了用戶的知識儲備，而且培養用戶具備人工智能難以取代的創造性、遷移性、社會情感等技能。教育決定人類的未來，內容生成式AI賦能教育出版知識服務必須以人本邏輯為出發點，強調發揮人的認識主體性和實踐主體性，以服務用戶核心技能的形成為目標，培養用戶具備應對未來技術挑戰的能力。技能形成需要以知識積累為基礎，并在外部場景變化中不斷演練。內容生成式AI有助于教育出版知識服務拓展虛擬應用場景，推進用戶知識與技能的迭代轉換。

2．助力教育出版知識服務的人性化交互創新

內容生成式AI作為以用戶為核心的個性化信息分發與內容創造工具，可適應多任務、多場景、多功能需求，能夠依據用戶提供的信息，利用千億字數量級的數據訓練成果生成符合用戶個性化知識需求的內容。以ChatGPT為代表的內容生成式AI突破了以往人工智能側重理性邏輯表達的邊界，其在深度學習過程中融入關系計算和情感計算，能夠以人的價值邏輯和思考方式進行文本分析，對給定文本的語氣、情感進行識別，對個性化內容進行解剖，并以與人類高度相似的知識理解水平與回復生成能力進行反饋，大幅提升了知識服務過程中人機交互的自然性。作為教育出版知識服務的智能助教，以人性化對話溝通方式為主的內容生成式AI能夠在很大程度上增加用戶在平臺上的留存時間，增強用戶黏性。

3．助力教育出版知識服務的應用場景拓展

內容生成式AI的開源模式可匯聚多方教育出版知識服務主體的智慧，實現優勢互補、資源整合，助力教育應用場景開發。多模態技術是內容生成式AI的底層技術之一，音頻、文本、圖像、視頻等都可被稱為一種模態。多模態數據治理有利于教育出版知識服務環境的管理，實現知識服務形態在物理空間和虛擬空間的快捷切換。具身認知理論認為，人的認知是身體和環境互動的結果，這里所指的身體包括聽覺、視覺、嗅覺、觸覺、腦電等多種模態。AI跨模態深度學習能夠實現對教育出版知識服務多模態數據的理解，在此基礎上，跨模態生成全新的知識內容，能夠極大地提高人機沉浸式交互體驗。

4．助力教育出版知識服務的降本增效

內容生成式AI具有強大的數字內容孿生能力、編輯能力和創作能力，可以大幅降低教育出版知識服務多模態內容的生產成本。傳統數字人制作通過三維建模技術生成人物，耗時長、計算量大、成本高，而使用內容生成式AI用戶僅需上傳照片或視頻即可在1分鐘內完成建模，不僅成本低，還可以實現個性化定制［3］。例如，英偉達發布的內容生成式AI模型GET3D根據訓練的2D圖像，實現了每秒生成20個3D集合體的效率和速度。語義分析模型從對文本的理解升級為對文本的分析歸納總結，用戶只需輸入零星散亂的內容資料，內容生成式AI就能夠自主提煉出結構化內容，這將實現教育出版知識服務內容生產的零成本，加之內容生成式AI具有優秀的交互功能及通用性能，其在內容分發方面具備天然優勢，應用成本將同步降低。

二、內容生成式AI在教育出版知識服務中的細分應用場景

1．面向思維訓練的知識服務

世界銀行將現代社會所需的技能類型分為認知技能、社會和行為技能、技術技能三大類，進一步強調了具備認知技能和解決問題能力的重要性，并提出高階思維技能（如計算思維、推理、創造性思維等）是認知技能的核心。面對現實世界中的復雜性問題，用戶的解決策略具有共通性，但更多的是差異性，內容生成式AI依靠龐大的數據資源可以為用戶提供豐富的訓練主題，借助不同的主題培養用戶掌握“如何從真實世界中選擇研究對象”“如何從研究對象中發現真實問題”“如何針對問題尋找解決路徑”“如何選擇合適的支持工具”“如何建立可以遷移的問題解決模型”等推理思維［4］。這種思維訓練能夠充分發揮用戶的主體性，幫助用戶逐步達到從問題到方法、從簡單到復雜、從過程到結果的思維進階。

2．面向學習行為助理的知識服務

基于內容生成式AI的教育出版知識服務能夠為用戶提供個性化和定制化的學習體驗：強大的文字處理功能和數據分析功能可以輔助用戶進行跨學科自學、翻譯、編程等學習活動；根據用戶需求推薦有針對性的多媒體內容資源；通過人機對話交流方式提升用戶的學習參與度，促進合作學習；借助優秀的預測能力和分析能力在主題探究活動中為用戶提供有益啟示，促進用戶展開探究學習，培養創新精神和實踐能力。

3．面向教研輔助功能的知識服務

內容生成式AI能夠幫助教師完成一些簡單的基礎性工作：課前幫助教師設計教學大綱、課程講義、生成教案等，教師只需進一步完善相關教學內容即可；課中可以根據教學需求、學情分析幫助教師形成多種創新的教學策略，增強教學的趣味性和互動性，提升教學效果；課后可以根據學生的學習情況幫助教師促進作業質量優化，監測學生學習效果，形成可視化教學質量評估報告等。此外，內容生成式AI還能輔助教師開展科研工作，通過其強大的數據采集能力、整合能力、分析能力，幫助教師進行科研選題前瞻性分析、科研項目可行性分析、科研成果轉化等。

4．面向智慧客戶畫像的知識服務

智慧管理是指圍繞教學科研業務領域形成的輔助性智慧化管理，包括業務管理（如內容服務、共享交流、智慧決策等）和綜合管理（如用戶管理、資源管理等）。內容服務主要是指針對用戶的知識需求及行為習慣，自動生成個性化閱讀推薦，幫助用戶便捷地找到其所需的內容資源，并通過聊天機器人、數智人、互動游戲等形式打造虛實交互的沉浸式閱讀體驗空間，增強用戶的閱讀體驗。共享交流主要是通過舉辦虛擬學術沙龍、版權授權交易等，為用戶提供在線知識共享、增值服務等服務。智慧決策主要是滿足用戶在決策過程中對數據和信息的需求，為用戶提供數據挖掘、定制知識庫、學科競爭力評估報告等。用戶管理主要是對用戶的相關信息、教育背景、行為習慣、知識需求等進行分類整理，形成全面的用戶畫像。資源管理主要是對自有內容資源及開放獲取學術資源進行多維度、細粒度、對象化的知識表示，深度探索關鍵技術攻關，構建富含語義的智慧知識中心［5］。

三、內容生成式AI賦能教育出版知識服務應用的現實困境

1．內容生成準確性不穩定

內容生成式AI屬于機器學習模型，模型響應的質量和準確性取決于其訓練數據的質量與多樣性，海量數據并不代表海量高質量數據?，F階段，AI生成的內容在某些領域的準確性已經超過了人類專家結論的準確性，但在某些領域會給出邏輯看似合理但事實上并不正確的答案，這會直接影響教育出版知識服務用戶的主體認知和價值觀建構。造成內容生成式AI準確性不穩定的原因主要在于目前大多數AI系統在獲取數據集時會優先考慮數據是否容易收集、是否可以獲取，而非優先判斷該類數據集是否適用、優質，并能夠滿足場景功能需求和應用目的。如果訓練數據源頭的質量不能得到保證，我們將無法準確把控AI生成內容的質量。AI獲取的數據難免存在人為制造的謊言、偏見以及過時的知識或信息，如果AI將這些信息當作事實不斷地進行訓練并復現給現實世界，那么準確性失衡的惡性循環將不可避免。也許是出于AI產生的現實威脅，或出于權利人的著作權控制，人工智能在某些領域獲取優質數據集的范圍均受到限制。

2．知識產權侵權風險加劇

AI的核心競爭力在于其極強的機器學習能力，擁有龐大的語料庫，能夠不斷進行數據挖掘和訓練。預訓練技術的主要思想是遷移學習，通過算法對數據量龐大的公開數據集進行分類整理，分析這些內容所表達的思想情感、所采用的語言特征、所特有的表達風格等，從中提取結構、規則、模式、趨勢并自動構建特征，自主發掘有價值的內容，再將這些內容遷移到具體的目標場景中，通過目標場景的小數據集進行獨立、持續的改進和優化。AI在預訓練之前，首先要將文本轉換成其能夠理解的標準數據格式，再將這些數據復制并存儲到機器中形成副本，這屬于著作權法意義上典型的復制行為，如果預訓練數據屬于版權保護的客體范圍，在未授權的情況下進行文本挖掘使用，將存在極大的著作權侵權風險。

同時，內容生成式AI的可版權性認定目前還存在爭議，在現行知識產權法律體系下，包括我國在內的大部分國家，作品的作者僅有可能是自然人，AI還無法成為作品的作者。因此，北京互聯網法院在“菲林案”中認為，AI不能成為作者，AI生成的內容也不能構成作品。但在“Dreamwriter案”中，深圳市南山區法院認為，AI生成的內容構成作品，受著作權法保護，且屬于騰訊主持的多團隊、多人分工形成的整體智力創作完成的法人作品［6］。

3．技術倫理失范凸顯

教育出版知識服務不僅是知識的傳播，還是豐富教育層面上人與人之間的精神互動。內容生成式AI在教育出版知識服務領域的應用如果過多依靠技術、算法，會導致用戶過分依賴技術而忽略教學互動，這與教育的本質是相違背的。AI本身尚不具備價值判斷能力，無法自我判斷內容是否遵循教育倫理，其所依存的預訓練模型在對人類社會過往數據學習總結的過程中，不可避免地會復制和延續當前社會既有的一些認知偏見。如果AI技術開發人員自身存在某些教育倫理認知偏見，就有可能在技術設計開發階段有意識或者無意識地造成內嵌邏輯的價值失衡。這些算法缺陷會在一定程度上加深知識服務主體的偏見，對用戶形成錯誤引導，而用戶也在無形中受認知偏見的影響，形成認知固化。另外，AI獲取的用戶數據集本就存在結構性不平等和不平衡的現實問題，教育出版知識服務追求的教育公平性將無法得到保障。

4．教育評價機制失衡

對教育評價機制的沖擊是內容生成式AI給教育出版知識服務帶來的最大沖擊。AI能夠輕松擁有人類經過多年學習才能掌握的邏輯運算、語言表達、文章寫作、總結概括、虛擬假設等能力，當知識被便捷調取并基于需求隨時形成解決方案時，知識服務主體將難以辨別用戶真實的理解水平、無法準確評價用戶實際的學習效果，且難以量化評估用戶內在的求知欲、創造力、想象力、社會責任感等綜合素養。用戶作為維持智能系統運轉的數據來源，時刻作為被計算、被設計的目標，所謂個性化培養的過程也只是局部指標設定的結果，與教育評價的全面性并不相符。循環往復地片面理解用戶，必將影響知識服務主體對用戶知識需求的精準把握。智能技術時代，教育出版知識服務只有開發新的學習效果評價工具，建立新型教育評價機制和方式，重新認知智能化時代的用戶需要學什么、怎么學，才能有效提升知識服務的效能。

四、內容生成式AI應用于教育出版知識服務領域的路徑

1．加強技術前端的倫理治理，更好地體現教育本質

好的技術不僅要關注應用結果，還要重視開發過程。教育出版知識服務要加強對技術前端的倫理治理，注重開發團隊的多元融合。例如：在技術開發、部署層面展開有效商談，尊重教育規律，樹立前瞻性、預防性的倫理設計意識，抑制無意識表達偏見；規范開發行為，明確技術開發設計主體的權責劃分，堅持教育倫理的公正平等原則；確保算法程序制定的透明度和可追溯性，要求技術供應商公示說明算法使用的目的、倫理標準、具體參數、信息采集的范圍、運行規則等，使教育服務消費者能夠清晰地掌握個人信息采集的用途，當出現算法運行不當、侵害個人權益的狀況時，能夠及時追溯到相關負責人。

絕大多數從事AI科研工作的中堅力量沒有經過專門的人工智能倫理教育與培訓，為了使人工智能教育出版知識服務的科研開發人員承擔起前瞻性的道德責任，科研機構需要將教育倫理原則轉化為技術開發過程中的具體實踐，設立一整套系統化的內部治理機制和技術解決方案，開展專業化的教育倫理培訓。

2．提高預訓練模型的針對性，更好地適配教育場景

為了拓展人工智能教育出版知識服務的應用場景，教育出版知識服務需不斷優化和完善預訓練模型：針對思維訓練、助學服務、教研輔助、智慧管理等應用場景，為內容生成式AI后臺數據庫提供全面、動態的實踐數據和事實材料；針對每一類應用場景構建標準化的輸入框架和輸出模板，并進行反復多次的預訓練，以自動生成符合用戶需求的內容；針對在實踐中由于數據匱乏、質量參差不齊、多樣性不足、版權沖突導致的難以獲得有效數據材料等問題，教育出版知識服務機構可以定制合成數據作為真實數據的替代品或是增強集?，F實世界中難以采集或者無法采集的場景數據也可以通過合成數據自動創建和生成，以有效提高內容生成式AI的場景適配性和準確性。合成數據可以更高效、更低成本、更高質量助力人工智能內容產業的未來發展，根據美國高德納咨詢公司預測，到2024年，用于訓練AI的數據中將有60%是合成數據［7］。此外，在實踐中運用合成數據還可以有效避免用戶隱私泄露的問題。

3．完善數據標注，降低知識服務侵權風險

在機器學習和自然語言處理領域中，數據標注是機器智能化水平提升的重要一環。數據標注的質量和規模對提升人工智能的性能和泛化能力具有巨大影響。在訓練自然語言處理模型時，需要大量的標注文本數據，數據特征越豐富，機器越能夠理解自然語言的語法、語義和上下文信息，泛化能力越強，場景適用范圍越廣。雖然ChatGPT這類人工智能已經可以自動學習和生成文本，但要提高AI在教育出版知識服務這類專業領域的適配性和準確性，仍然需要具備專業知識的人力、設備來進行科學合理的人工標注。為了從源頭上降低內容生成式AI的侵權風險，科研機構可以利用著作權制度中“思想和表達的二分法”理論，根據模型訓練數據的抽象程度進行“思想”和“表達”標注，當生成內容只涉及訓練數據集的“思想”時予以獎勵，當生成內容不當使用訓練數據集中的“表達”時則予以懲罰。

同時，科研機構可以在預訓練中融入海量版權侵權案例，將獨創性、復制、改編、合理使用、侵權行為等概念和規則編入算法設定，作為內容生成式AI的行動標準，讓AI從認知邏輯層面明確哪些可為哪些不可為。如庫茲韋爾就將防止剽竊他人作品的規則編入了“電腦詩人”RKCP的算法設計［8］。2023年1月10日起正式實施的《互聯網信息服務深度合成管理規定》為AIGC在教育出版知識服務領域應用提供了很好的規范指引，多模態教學資源的合成和使用都應在法律允許的框架范圍內展開。不斷完善技術檢測手段，強制性標注“AIGC”數據標簽，可有效防止AI對學術生態的侵害。

4．明確各參與主體的角色、任務與責任，引入多元評價主體

教育出版知識服務可以輔助教育教學，但在技術與知識服務主體之間，須明確各自的角色、任務與責任。在具體的運行管理中，科研機構可將多方利益主體納入 DAO 模型（所謂DAO，是指在區塊鏈技術支撐上分布式存在的個體、內容和智能技術物通過算法聚攏，在智能合約和代幣等公開透明的數字代碼保障下自主生產、互動、流轉價值的組織模式，這類組織具備超越第三方干預的自演化、自運轉和自治理能力）［9］，提高整個教育出版知識服務過程的透明度和公平性，通過智能合約明確各方的權利和義務，建立社區治理機制與共識機制。

教育出版知識服務機構要合理應用AI的技術功能，營造積極、健康的知識服務環境：注重輔助教師教學，加強與學生用戶的情感交流，增強人文關懷，正確引導、監督學生正確使用人工智能技術；在提供內容資源整合時應做好研判，及時規避AI對尚不具備專業知識和能力的用戶產生誤導；積極引入多元評價主體，采用主客觀相融合的評價體系，在該評價體系中，指標設計應覆蓋基礎知識體系架構、系統的問題解決能力、創造性的高階思維模式、積極正向的人格特質等方面，以實現促進用戶全面發展的目標。

｜參考文獻｜

［1］田頌云. 教育出版的知識服務轉型研究：愿景描摹、內在邏輯與實施路徑［J］. 編輯之友，2022（6）：33-38.

［2］騰訊發布AIGC發展趨勢報告：迎接人工智能的下一個時代［EB/OL］.? （2023-01-31）［2023-07-

16］.https：//mp.weixin.qq.com/s/9AjTpyL4HmQ6BDhW

IDbD0A.

［3］ AIGC：Web3.0時代的內容生產革命［EB/OL］.（2023-01-31）［2023-07-16］.http：//www.yitb.com/article-46181.

［4］ 祝智庭，趙曉偉，沈書生. 技能本位的學習范式：教育數字化轉型的認識論新見解［J］. 電化教育研究，2023（2）：36-46.

［5］蔡子凡，蔚海燕. 人工智能生成內容（AIGC）的演進歷程及其圖書館智慧服務應用場景［J］. 圖書館雜志，2023（4）：34-43+135-136.

［6］梅傲，鄭宇豪. 人工智能作品的困境及求解：以人工智能寫作領域第一案為考察中心［J］. 出版發行研究，2020（12）：50-56.

［7］趨勢報告｜人工智能的下一個時代 AIGC未來已來［EB/OL］.（2023-02-03）［2023-07-16］. https：//

baijiahao.baidu.com/s？id=1756792705666661456&wfr=spider&for=pc.

［8］黃鳴奮. 人工智能與文學創作的對接、滲透與比較［J］. 社會科學戰線，2018（11）：179-188+282+2.

［9］劉彧晗，喻國明. 游戲作為DAO媒介：數字文明時代社會的“再組織”方式：兼論媒介與人類存在方式的演進［J］. 新聞界，2022（12）：25-36.