必然性、局限性與風(fēng)險(xiǎn)控制：大語言模型時(shí)代英語教育產(chǎn)品內(nèi)容生產(chǎn)改革

摘要：以ChatGPT為代表的大語言模型問世以來，以其通用性知識整合能力、語言組織能力及良好的交互性，成為生活和普通工作場景的高效工具。關(guān)于GPT如何助力課堂教學(xué)及課后教學(xué)效果評測的研究有很多，然而尚未有人詳細(xì)研究過GPT輔助在線教育行業(yè)進(jìn)行內(nèi)容生產(chǎn)的優(yōu)勢和劣勢。在此背景下，基于作者在線教育行業(yè)的從業(yè)經(jīng)驗(yàn)與觀察，本文吸納了自2022年以來學(xué)界關(guān)于“GPT+內(nèi)容生產(chǎn)”的各方觀點(diǎn)，對大語言模型人工智能協(xié)助下的在線教育產(chǎn)品內(nèi)容生產(chǎn)進(jìn)行討論，理順AI時(shí)代內(nèi)容生產(chǎn)方式變革的必要性、借助GPT進(jìn)行內(nèi)容創(chuàng)作的局限性，以及這種模式下內(nèi)容產(chǎn)出的風(fēng)險(xiǎn)控制方法，以期為在線教育行業(yè)的發(fā)展提供參考。

關(guān)鍵詞：ChatGPT；大語言模型；在線教育行業(yè)；內(nèi)容生產(chǎn)

引言

人工智能技術(shù)目前已經(jīng)滲透到人類生活及生產(chǎn)的多個(gè)領(lǐng)域。2023年3月，美國OpenAI公司在GPT-3.5的基礎(chǔ)上，推出了基于大語言模型的人工智能通用型產(chǎn)品ChatGPT-4，標(biāo)志著人類多年來對于一個(gè)高度“智能化”的世界的幻想已開始成為現(xiàn)實(shí)。

像影視作品里描述的“智能管家機(jī)器人”一樣，ChatGPT-4可以輕松完成人機(jī)對話，實(shí)現(xiàn)自主內(nèi)容生成。ChatGPT基于其強(qiáng)大的功能，給很多行業(yè)的傳統(tǒng)生產(chǎn)方式帶來了巨大沖擊。武漢大學(xué)的宋時(shí)磊和楊逸云認(rèn)為，ChatGPT類大語言模型通用人工智能是人類打開自我的“潘多拉魔盒”，勢必將對科技、教育、醫(yī)療、文學(xué)、藝術(shù)等領(lǐng)域產(chǎn)生深刻影響[1]。

下文將分析在線教育行業(yè)中，借助ChatGPT大量生成英語內(nèi)容的必要性、局限性及風(fēng)險(xiǎn)控制手段。

1. 在線教育產(chǎn)品及內(nèi)容生產(chǎn)模式介紹

1.1 在線教育產(chǎn)品分類

根據(jù)提供產(chǎn)品或服務(wù)，在線教育產(chǎn)品可以分為在線課程平臺、在線教師資源平臺、在線直播/錄播課程、工具類APP（如在線詞典等）、內(nèi)容型APP（無老師授課，僅提供學(xué)習(xí)或訓(xùn)練內(nèi)容）、智能學(xué)習(xí)硬件、互助學(xué)習(xí)社區(qū)等。本文探討的是以內(nèi)容產(chǎn)出為支撐的互聯(lián)網(wǎng)英語教育產(chǎn)品，以上大部分在線教育產(chǎn)品都需要大量原創(chuàng)內(nèi)容，因此在討論之列。

1.2 英語教育產(chǎn)品內(nèi)容的傳統(tǒng)生產(chǎn)模式

在大語言模型工具問世之前，英語教育的產(chǎn)品內(nèi)容生產(chǎn)依賴人工，核心內(nèi)容包括英語單詞、詞組、句子、對話、篇章、對應(yīng)中文翻譯的生產(chǎn)，只能依靠人力進(jìn)行檢索、修改、編輯等。這種方法的優(yōu)點(diǎn)是能夠保證內(nèi)容都是人工干預(yù)過的，出現(xiàn)嚴(yán)重內(nèi)容質(zhì)量問題的概率較小，但缺點(diǎn)是生產(chǎn)效率低、較為依賴教研員的個(gè)人能力等。

2. 大語言模型時(shí)代教育產(chǎn)品內(nèi)容生產(chǎn)新方向

ChatGPT雖然不是專門為教育而開發(fā)，但教育發(fā)展從來不乏對新技術(shù)的應(yīng)用與融合[2]。借助新技術(shù)，教育產(chǎn)品內(nèi)容生產(chǎn)必將實(shí)現(xiàn)效率與質(zhì)量的升級。

2.1 海量文本內(nèi)容自動化生成

借助ChatGPT及其背后的大語言模型，產(chǎn)品設(shè)計(jì)者可以生成海量文本內(nèi)容。目前的大語言模型已經(jīng)能夠較好地自主完成包括翻譯、問答等在內(nèi)的自然語言處理（natural language processing，NLP）任務(wù)。線上教學(xué)產(chǎn)品需要海量的教學(xué)資源，如單詞、短語、句子，甚至是練習(xí)試題、試題答案及解析等文本材料。以上內(nèi)容都可由人下達(dá)指令（prompt），由ChatGPT完成，甚至可以在一個(gè)指令下完成多個(gè)任務(wù)，例如：

指令：

你好，我是一名大學(xué)英文口語老師，請幫我設(shè)計(jì)一篇關(guān)于“問路”的口語示范對話，里面的重點(diǎn)單詞及表達(dá)請額外列出。

ChatGPT：當(dāng)然可以，以下是一篇關(guān)于“問路”的英文口語示范對話，包括對話內(nèi)容和重點(diǎn)單詞及表達(dá)的列表。

示例對話：

旅行者：Excuse me， could you tell me how to get to the city library from here？

當(dāng)?shù)鼐用瘢篠ure. Go straight down this street for about 10 minutes， then take a left turn at the traffic lights.

……

重點(diǎn)單詞及表達(dá)：

Excuse me： 用來禮貌地打斷某人，開始對話。

go straight down： 直走。

take a left/right turn： 向左/右轉(zhuǎn)。

……

由此可見，ChatGPT在文本生成任務(wù)中有不俗的表現(xiàn)。

2.2 英語文本的翻譯

近年來，以技術(shù)手段為核心的翻譯模式一直在更新迭代，從開始的人工翻譯到后來的計(jì)算機(jī)輔助翻譯，后期迭代為機(jī)器翻譯譯后編輯和交互式機(jī)器翻譯[3]。龐雅心和王曉燕在對陜西本土文學(xué)作品《人生》的翻譯研究中，得出“ChatGPT的翻譯在語體連貫性和語言風(fēng)格方面優(yōu)于有道翻譯和DeepL”的結(jié)論[4]。諸如此類的研究為我們運(yùn)用GPT進(jìn)行翻譯任務(wù)帶來了信心。

2.3 圖像、音頻、視頻等輔助學(xué)習(xí)內(nèi)容的生成

在線教育產(chǎn)品的商業(yè)本質(zhì)決定了生產(chǎn)者需要想方設(shè)法地增加內(nèi)容的吸引力、有效性和趣味性。例如，目前在手機(jī)應(yīng)用市場搜索“背單詞”，能看到數(shù)十個(gè)背單詞App，逐一點(diǎn)進(jìn)去，沒有任何一個(gè)APP只包含純文本內(nèi)容。例如，歐陸詞典、不背單詞等App以影視視頻片段助記單詞為特色，傻瓜英語設(shè)計(jì)了原創(chuàng)視頻助記單詞的軟件。因此，圖像、音頻、視頻等輔助學(xué)習(xí)內(nèi)容就成了必備內(nèi)容。而ChatGPT優(yōu)秀的圖片、音視頻的生成能力明顯能為這一過程提效。

3. 大語言模型參與在線教育產(chǎn)品內(nèi)容生產(chǎn)的必然性

知名語言學(xué)習(xí)軟件“多鄰國”正逐步引入AI取代外包翻譯工，這在很大程度上暗示了整個(gè)行業(yè)的走向。大語言模型時(shí)代到來，語言教育市場必將迎來巨大變革。

3.1 教育產(chǎn)品本質(zhì)決定質(zhì)量需求

英語內(nèi)容型教育產(chǎn)品的立身之本在于能夠提供高效學(xué)習(xí)內(nèi)容。依靠人力生產(chǎn)的資料質(zhì)量不齊，且極依賴教研員的個(gè)人能力和知識積累。例如，如果需要找到一些關(guān)于“歧視”主題的英文諺語，教研員靠腦暴或上網(wǎng)搜索，得到的可用結(jié)果數(shù)量非常有限，但ChatGPT借助其背后數(shù)以億計(jì)的訓(xùn)練數(shù)據(jù)可輕松給出數(shù)十條結(jié)果，可以大幅縮減腦暴時(shí)間。此外，大語言模型是經(jīng)由大量本土化語言內(nèi)容訓(xùn)練而來，天然地可以規(guī)避大部分語言錯(cuò)誤，提升內(nèi)容質(zhì)量[5]。

在線教育產(chǎn)品需要針對性的內(nèi)容。例如，一個(gè)語法板塊需要針對性地找到包含定語從句和同位語從句的句子來幫助學(xué)生分辨二者。利用ChatGPT可以快速生成多個(gè)句子，甚至可以直接生成除了從句部分其他都一樣的孿生句子，幫助學(xué)生更直觀地對比二者差異。類似例子不勝枚舉。此外，目前大多數(shù)App采取“大量免費(fèi)內(nèi)容引流，少量定制化內(nèi)容變現(xiàn)”的商業(yè)模式，而想要真正實(shí)現(xiàn)學(xué)習(xí)內(nèi)容針對每個(gè)學(xué)生進(jìn)行個(gè)性化定制，就需要記錄學(xué)生歷史數(shù)據(jù)，分析學(xué)習(xí)行為和效果，并針對性地給出能夠突破當(dāng)下學(xué)習(xí)問題的內(nèi)容。ChatGPT的情景對話理解、歷史記憶能力和針對性內(nèi)容生成能力正好符合這一需求。

ChatGPT的以上特點(diǎn)也決定了其適合用來進(jìn)行教學(xué)反饋和學(xué)習(xí)效果測評。其自有的校對、替換、改述能力能夠收集學(xué)生的做題數(shù)據(jù)，給出針對性的評測和改進(jìn)建議，相當(dāng)于融合了多個(gè)傳統(tǒng)學(xué)習(xí)工具[6]。而如何將基于大語言模型的測評工具引入APP主導(dǎo)的整個(gè)學(xué)習(xí)流程，或許是下一個(gè)階段在線教育產(chǎn)品應(yīng)該著重發(fā)力的領(lǐng)域。

3.2 商業(yè)模式?jīng)Q定生產(chǎn)效率需求

互聯(lián)網(wǎng)是一個(gè)需要快速開發(fā)、快速迭代的領(lǐng)域，所有垂直領(lǐng)域的開發(fā)模式或是開疆拓土或是攻城略地，“野蠻生長”是行業(yè)代名詞。因此，能在短時(shí)間內(nèi)生產(chǎn)高質(zhì)量的學(xué)習(xí)內(nèi)容對于一個(gè)發(fā)展期的在線教育產(chǎn)品來說尤為重要。對于成熟期的產(chǎn)品，適應(yīng)行業(yè)變化、快速迭代內(nèi)容是其核心競爭力的體現(xiàn)。當(dāng)ChatGPT的使用開始規(guī)模化，其帶來的人力密集型生產(chǎn)模式的成本下降又將是一個(gè)明顯優(yōu)勢。

4. 依靠ChatGPT進(jìn)行教育內(nèi)容生產(chǎn)的局限性

4.1 能力不足帶來內(nèi)容質(zhì)量問題

在實(shí)際工作中，大型互聯(lián)網(wǎng)公司會直接調(diào)用ChatGPT接口，通過代碼控制GPT批量生成所需內(nèi)容，按內(nèi)容量付費(fèi)。作者發(fā)現(xiàn)，調(diào)用接口進(jìn)行大規(guī)模文本生成時(shí)，會出現(xiàn)一些日常使用GPT不會或不容易出現(xiàn)的問題。

（1）胡說八道。尼格爾·柯蒂斯發(fā)現(xiàn)，用ChatGPT撰寫論文，其生成的文獻(xiàn)是無意義的，是由“隨機(jī)鸚鵡學(xué)舌”所產(chǎn)生的虛假文獻(xiàn)[7]。傳統(tǒng)的英語教育產(chǎn)品內(nèi)容生成包括詞、句、段落、對話等，作者嘗試性地在工作中調(diào)用GPT使其直接生成練習(xí)題目，指令如下：

我是一名中國初中英語老師，我想給學(xué)生出一道單選題目，請根據(jù)指定單詞balloon幫我造一道“考察詞匯含義”的單選題目，需要考核到單詞的詞匯理解和運(yùn)用能力，正確選項(xiàng)應(yīng)該是唯一能夠放入句中使句子語義正確的選項(xiàng)。要求生成題目、選項(xiàng)、答案和解析，其中某個(gè)返回結(jié)果：

The child was happy to receive a colorful ____ on his birthday.

A.balloon" B. cake" C. song" D. picture

答案：A

解析：……B選項(xiàng)“cake”意為“蛋糕”，雖然蛋糕通常與生日有關(guān)，但題干中的描述“colorful 彩色的”更符合氣球；……D選項(xiàng)“picture”意為“圖片”，盡管也可能是彩色的，但不如氣球那樣是典型的生日禮物……

由上述案例可知，ChatGPT在一次性處理大量數(shù)據(jù)時(shí)會產(chǎn)生邏輯不清、編造并自圓其說的現(xiàn)象。

（2）語言錯(cuò)誤、翻譯錯(cuò)誤。由于GPT背后的海量訓(xùn)練數(shù)據(jù)未必全部是正確且高質(zhì)量的，故此類問題在調(diào)用接口進(jìn)行大量操作時(shí)也時(shí)有發(fā)生。例如，GPT給出的完形填空題目：

Unfortunately， not everyone can be ____ into the venue due to the limited space.

A. admit" B. admits

此案例說明，GPT對于此題涉及的語法理解有誤，因此生成了內(nèi)容錯(cuò)誤的英語題目。

另外，GPT在大量調(diào)用進(jìn)行翻譯的時(shí)候會有概率性錯(cuò)誤出現(xiàn)。在絕大多數(shù)情況下，不錯(cuò)、不漏、不增是對譯文的基本要求。以下是使用GPT大量翻譯的錯(cuò)誤案例：

原文：Training is a bread-and-butter necessity.

譯文：培訓(xùn)是一個(gè)基本的必要性。

GPT對原文語境理解不夠，語法知識欠缺，可以看出大模型訓(xùn)練的一些不良數(shù)據(jù)在持續(xù)影響其表現(xiàn)。相比于增、漏、錯(cuò)譯，語言不通順的問題更多。姜華等認(rèn)為，GPT在中文語境下的文字理解能力與表達(dá)能力明顯弱于英文[2]。

（3）道德風(fēng)險(xiǎn)。姜華等認(rèn)為，由于ChatGPT難以充分理解信息、分析大模型的內(nèi)部邏輯，有時(shí)會生成偏見歧視、反動仇恨等有害信息[2]。就作者工作經(jīng)驗(yàn)而言，也經(jīng)常遇見存在道德風(fēng)險(xiǎn)或政治不正確的言論。如果未加篩選直接面向用戶，將給產(chǎn)品帶來毀滅性的損害。

4.2 問題內(nèi)容隱蔽性強(qiáng)，審核成本高

經(jīng)上述分析可以得出結(jié)論，GPT直接生成的內(nèi)容，尤其是批量生成的內(nèi)容，如果不加篩選和編輯，無法運(yùn)用到教育產(chǎn)品中。而GPT經(jīng)常看似正經(jīng)的胡說八道，給生成之后的內(nèi)容編輯帶來了不小的麻煩，問題識別成本高[8]。

5. 大語言模型時(shí)代教育內(nèi)容生產(chǎn)的風(fēng)險(xiǎn)控制

5.1 內(nèi)容生產(chǎn)后編輯

相比傳統(tǒng)模式下生產(chǎn)內(nèi)容的校對和審核，審核GPT生成的內(nèi)容必然需要從更多角度進(jìn)行把控，如生成內(nèi)容是否符合邏輯、警惕道德風(fēng)險(xiǎn)等。關(guān)于這些編輯工作的提效，或是當(dāng)下另外一個(gè)有意義的研究方向。

5.2 改進(jìn)指令，增加測試樣本量

實(shí)踐者應(yīng)在工作中總結(jié)規(guī)律，不斷提升指令的清晰度。作者在工作中得知，GPT有“偷懶”的嫌疑，即同一指令少量生成時(shí)效果極佳，大量生成內(nèi)容就會出現(xiàn)“虎頭蛇尾”的情況。因此，每次開始批量生產(chǎn)之前，測試樣本一定要夠多，盡量在500條以上，如果不能接受返回結(jié)果的錯(cuò)誤率，就盡快修改指令再次測試。

5.3 根據(jù)具體教育目的訓(xùn)練針對性模型

王贇和張政在其對數(shù)字化時(shí)代機(jī)器翻譯的研究中指出，人工譯者發(fā)揮主體能動性，不僅在應(yīng)用層面發(fā)出指令或作出反饋，更重要的是在技術(shù)層面對機(jī)器進(jìn)行深度訓(xùn)練[9]。教育領(lǐng)域?qū)τ跈C(jī)器的應(yīng)用也應(yīng)如此。教育產(chǎn)品內(nèi)容生產(chǎn)者作為GPT的使用者和反饋者，可以充當(dāng)“報(bào)錯(cuò)員”的角色，但是模型的完善還是應(yīng)該以技術(shù)人員為主導(dǎo)，爭取早期訓(xùn)練出教育行業(yè)的專業(yè)化大語言模型。

結(jié)語

大語言模型無疑為教育行業(yè)帶來了巨大機(jī)遇。傳統(tǒng)在線教育行業(yè)生產(chǎn)模式效率低、過度依賴教研員，且內(nèi)容生產(chǎn)缺少靈活度，而大語言模型出色的信息整合能力和語言組織能力正好可以填補(bǔ)這一漏洞[10]。本文首先分析了大語言模型時(shí)代運(yùn)用GPT進(jìn)行大規(guī)模內(nèi)容生產(chǎn)的必要性，但在實(shí)踐過程中發(fā)現(xiàn)，GPT并不是萬能的。在完成大量內(nèi)容生成的指令中，難免出現(xiàn)邏輯錯(cuò)誤、語言錯(cuò)誤、道德風(fēng)險(xiǎn)等問題，需要額外的審核成本來規(guī)避壞內(nèi)容流向用戶。針對以上風(fēng)險(xiǎn)，本文提出了使用者積極調(diào)整指令完善用前測試、開發(fā)者繼續(xù)深化模型訓(xùn)練的雙管齊下的風(fēng)險(xiǎn)控制手段，以期在未來看到GPT能夠獨(dú)立出色地完成指令，生成優(yōu)質(zhì)內(nèi)容。

參考文獻(xiàn)：

[1]宋時(shí)磊，楊逸云.應(yīng)用場景、風(fēng)險(xiǎn)與前景：ChatGPT類大語言模型時(shí)代的學(xué)術(shù)出版[J].出版科學(xué)，2023，31（5）：76-84.

[2]姜華，王春秀，楊暑東.生成式AI在教育領(lǐng)域的應(yīng)用潛能、風(fēng)險(xiǎn)挑戰(zhàn)及應(yīng)對策略[J].現(xiàn)代教育管理，2023（7）：66-74.

[3]王均松，肖維青，崔啟亮.人工智能時(shí)代技術(shù)驅(qū)動的翻譯模式：嬗變、動因及啟示[J].上海翻譯，2023（4）：14-19.

[4]龐雅心，王曉燕.大語言模型背景下ChatGPT翻譯質(zhì)量研究——以陜西本土文學(xué)作品《人生》（節(jié)選）為例[J].現(xiàn)代英語，2023（22）：67-70.

[5]王瀟瀟.人工智能技術(shù)輔助小學(xué)英語教學(xué)的個(gè)案研究[D].青島：青島大學(xué)，2022.

[6]耿芳，胡健.人工智能輔助譯后編輯新方向——基于ChatGPT的翻譯實(shí)例研究[J].中國外語，2023（3）：41-47.

[7]Curtis N.To ChatGPT or not to ChatGPT？ The Impact of Artificial Intelligence on Academic Publishing[J].The Pediatric Infectious Disease Journal，2023，42（4）：275.

[8]蔣鴻基.ChatGPT時(shí)代英語教育的機(jī)遇和挑戰(zhàn)——基于14項(xiàng)實(shí)驗(yàn)與準(zhǔn)實(shí)驗(yàn)的文獻(xiàn)分析[J].廣州開放大學(xué)學(xué)報(bào)，2024，24（1）：47-54，109.

[9]王贇，張政.數(shù)字化時(shí)代機(jī)器翻譯的風(fēng)險(xiǎn)審視及控制研究[J].中國翻譯，2022（2）：109-115.

[10]賀靜茹，宗悅，吳斌.新一代人工智能對翻譯行業(yè)的影響探究——以ChatGPT為例[J].科技與創(chuàng)新，2024（19）：44-48.

作者簡介：薛瑩琨，碩士研究生，翻譯中級，wingswhite@163.com，研究方向：互聯(lián)網(wǎng)教育、機(jī)器翻譯。