ChatGPT概述及應(yīng)用研究

摘要：近期，以ChatGPT為代表的人工智能大語(yǔ)言模型應(yīng)用快速發(fā)展，引發(fā)了金融行業(yè)對(duì)大語(yǔ)言模型及其場(chǎng)景應(yīng)用的廣泛討論和探索。本文主要從ChatGPT的優(yōu)勢(shì)與不足、應(yīng)用場(chǎng)景等方面進(jìn)行梳理總結(jié)，分析了應(yīng)用ChatGPT等大語(yǔ)言模型的潛在風(fēng)險(xiǎn)及技術(shù)研發(fā)面臨的挑戰(zhàn)，并提出應(yīng)對(duì)措施。

關(guān)鍵詞：ChatGPT 大語(yǔ)言模型 應(yīng)用場(chǎng)景 人工標(biāo)注

ChatGPT發(fā)展概述

（一）ChatGPT是一款人工智能驅(qū)動(dòng)的自然語(yǔ)言處理工具

2022年11月30日，美國(guó)開(kāi)放人工智能（OpenAI）公司推出對(duì)話式通用人工智能工具——ChatGPT。因具備出色的語(yǔ)言能力，ChatGPT在上線后很快受到廣大用戶追捧，在推出后2個(gè)月內(nèi)，活躍用戶突破1億人，成為歷史上增長(zhǎng)速度最快的消費(fèi)者應(yīng)用程序，并引起業(yè)界轟動(dòng)。2023年3月15日，OpenAI發(fā)布多模態(tài)預(yù)訓(xùn)練大語(yǔ)言模型1GPT-4，可接受圖像和文本輸入，多方面性能實(shí)現(xiàn)提升。3月22日，企業(yè)級(jí)Azure OpenAI GPT-4（國(guó)際預(yù)覽版）服務(wù)發(fā)布。

ChatGPT是一款通用的大參數(shù)預(yù)訓(xùn)練自然語(yǔ)言生成模型，其中GPT是“生成式預(yù)訓(xùn)練轉(zhuǎn)換器”（Generative Pre-trained Transformer）的縮寫(xiě)。GPT模型經(jīng)由龐大的互聯(lián)網(wǎng)語(yǔ)料庫(kù)訓(xùn)練后，可根據(jù)用戶輸入的文字內(nèi)容生成對(duì)應(yīng)文字回答，也就是實(shí)現(xiàn)常見(jiàn)的聊天問(wèn)答模式。ChatGPT是GPT模型在改進(jìn)中誕生的產(chǎn)品，基于GPT-3.5系列模型進(jìn)行微調(diào)而成。GPT系列模型經(jīng)過(guò)多次迭代，模型量級(jí)得以提升。從初代GPT到GPT-3，模型參數(shù)量從1.17億個(gè)到1750億個(gè)，訓(xùn)練數(shù)據(jù)量從5GB增加到45TB。ChatGPT強(qiáng)大的功能源于機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)模型及Transformer架構(gòu)等多種技術(shù)模型的積累，在以往模型的基礎(chǔ)上具備更大的語(yǔ)料庫(kù)、更強(qiáng)的計(jì)算能力、更通用的預(yù)訓(xùn)練、更強(qiáng)的自我學(xué)習(xí)能力等，具有“敢于質(zhì)疑”“承認(rèn)無(wú)知”“支持連續(xù)多輪對(duì)話”“主動(dòng)承認(rèn)錯(cuò)誤”等優(yōu)勢(shì)和特點(diǎn)。

（二）ChatGPT在智能問(wèn)答、內(nèi)容創(chuàng)作、翻譯等方面能力較強(qiáng)

ChatGPT的問(wèn)世之所以得到如此強(qiáng)烈的反響，很大程度上是因?yàn)槠湔Z(yǔ)言能力顯著提升，完成了從“人工智障”到“有趣”的轉(zhuǎn)變。相比其他聊天機(jī)器人，ChatGPT能給用戶帶來(lái)很強(qiáng)的智能感。

1.對(duì)于用戶實(shí)際意圖的理解有明顯提升，用戶體驗(yàn)良好

AI系統(tǒng)首次具備了思維鏈能力，即實(shí)現(xiàn)了從現(xiàn)象到原理的邏輯推演，能完成各概念間的邏輯推理，具備更強(qiáng)的知識(shí)理解能力和上下文學(xué)習(xí)能力。用戶可以通過(guò)追加提問(wèn)的方式，讓其不斷改進(jìn)回答內(nèi)容。通過(guò)多輪有效溝通，最終生成的內(nèi)容重點(diǎn)清晰、有邏輯、有條理。

2.具有較強(qiáng)的文本生成和寫(xiě)作能力

ChatGPT具有按照指令完成任務(wù)的能力，在文藝創(chuàng)作類、特定風(fēng)格類的文本生成方面表現(xiàn)良好。此外，ChatGPT在面對(duì)超長(zhǎng)篇幅的寫(xiě)作任務(wù)時(shí)可生成提綱，提綱有先后邏輯、編號(hào)順序、層級(jí)標(biāo)題等。

3.具有優(yōu)異的機(jī)器翻譯和跨語(yǔ)種交互能力

ChatGPT翻譯結(jié)果的流暢程度遠(yuǎn)超已有的任何機(jī)器翻譯算法，跨語(yǔ)種交流過(guò)程更自然，可實(shí)現(xiàn)“以A語(yǔ)種提出問(wèn)題、以B語(yǔ)種輸出結(jié)果”，并在各語(yǔ)種俚語(yǔ)、暗喻等復(fù)雜語(yǔ)義的理解和轉(zhuǎn)化方面表現(xiàn)出色。

4.具有一定的編程能力

ChatGPT兼容海量知識(shí)且富含邏輯的能力特征與編程要求高度契合。ChatGPT可實(shí)現(xiàn)輔助編程和代碼管理功能，助力軟件開(kāi)發(fā)、提高編碼效率。

（三）ChatGPT在特定方面仍存在局限性

盡管ChatGPT能力強(qiáng)大，受到廣泛歡迎，但由于在數(shù)據(jù)、模型、標(biāo)注策略等方面存在局限，其還無(wú)法令人完全滿意。

1. ChatGPT生成內(nèi)容的準(zhǔn)確性難以保證

ChatGPT并非像搜索引擎一樣搜索答案并按算法排序，而是直接生成答案，會(huì)輸出看似有道理但事實(shí)上錯(cuò)誤的內(nèi)容，且用戶難以糾正。同時(shí)，ChatGPT不能提供合理證據(jù)進(jìn)行可信性驗(yàn)證，導(dǎo)致其不能進(jìn)行邏輯嚴(yán)密的數(shù)學(xué)推理。此外，ChatGPT更傾向于生成模糊性對(duì)話或不確定回復(fù)，在追求唯一事實(shí)性答案的情形下并不完全適用。

2.模型的可解釋性弱，且可能生成具有偏好性的答案

ChatGPT所使用的Transformer架構(gòu)屬于神經(jīng)網(wǎng)絡(luò)模型的范疇，神經(jīng)網(wǎng)絡(luò)模型的可解釋性較弱，對(duì)于ChatGPT生成的答案及其不確定性難以進(jìn)行合理解釋。此外，模型預(yù)訓(xùn)練依賴人工標(biāo)注，且ChatGPT引入了基于人類反饋的強(qiáng)化學(xué)習(xí)，以使模型的結(jié)果更符合人類預(yù)期，這導(dǎo)致模型的輸出結(jié)果在一定程度上反映了標(biāo)注人員的行為和偏好。比如，模型可能會(huì)生成帶有偏見(jiàn)或政治敏感性的答案，或更加冗長(zhǎng)但全面的答案。

3. ChatGPT無(wú)法處理復(fù)雜的、專業(yè)領(lǐng)域的語(yǔ)言結(jié)構(gòu)

目前，ChatGPT模型的訓(xùn)練數(shù)據(jù)來(lái)自互聯(lián)網(wǎng)的公開(kāi)語(yǔ)料，而非某個(gè)專業(yè)領(lǐng)域的知識(shí)庫(kù)。因此，對(duì)于來(lái)自數(shù)學(xué)、金融、醫(yī)學(xué)等某個(gè)特定領(lǐng)域的專業(yè)問(wèn)題，ChatGPT生成的回答專業(yè)度不足，準(zhǔn)確性和可信度難以保證。

ChatGPT的應(yīng)用分析

（一）ChatGPT在眾多場(chǎng)景中有廣闊的應(yīng)用空間

ChatGPT以其強(qiáng)大的語(yǔ)言能力掀起了AI領(lǐng)域的技術(shù)巨浪，給各行各業(yè)帶來(lái)巨大機(jī)遇。未來(lái)，以ChatGPT為代表的人工智能生成技術(shù)（AI Generated Content，AIGC）的商業(yè)化應(yīng)用將進(jìn)一步成熟，在部分內(nèi)容需求豐富的行業(yè)中有望取得積極進(jìn)展。目前，ChatGPT相關(guān)技術(shù)的應(yīng)用場(chǎng)景及產(chǎn)品主要如下。

1.交互式客戶服務(wù)

ChatGPT可以快速回答用戶提出的問(wèn)題，24小時(shí)無(wú)間斷提供對(duì)話聊天、信息檢索等服務(wù)。ChatGPT能結(jié)合上下文進(jìn)行連續(xù)對(duì)話，提供個(gè)性化回復(fù)，與檢索型問(wèn)答機(jī)器人相比，用戶體驗(yàn)更勝一籌。依托高質(zhì)量的文本生成能力，ChatGPT可基于用戶畫(huà)像生成營(yíng)銷文案，有針對(duì)性地提供營(yíng)銷策略、個(gè)性化推薦方案等。

部分保險(xiǎn)公司已在內(nèi)部測(cè)試ChatGPT應(yīng)用，讓AI機(jī)器人以文本或語(yǔ)音形式獨(dú)立完成保險(xiǎn)營(yíng)銷等簡(jiǎn)單工作，比如向客戶介紹條款相對(duì)簡(jiǎn)單的短期保險(xiǎn)產(chǎn)品、解答客戶提出的問(wèn)題等。某電商計(jì)劃將AIGC和ChatGPT相關(guān)技術(shù)應(yīng)用于用戶售前咨詢和產(chǎn)品基礎(chǔ)信息展示等。未來(lái)有望通過(guò)ChatGPT技術(shù)實(shí)現(xiàn)類似真人的交互式對(duì)話，豐富商品賣(mài)點(diǎn)的內(nèi)容與形式。

2.智能化投研風(fēng)控管理

ChatGPT可以整合各類數(shù)據(jù)源并進(jìn)行文本分析。比如，使用ChatGPT獲取社交媒體、新聞報(bào)道等內(nèi)容，對(duì)市場(chǎng)輿情和投資者情緒進(jìn)行分析，挖掘潛在投資機(jī)會(huì)或風(fēng)險(xiǎn)點(diǎn)，生成投研報(bào)告，提出投資建議或進(jìn)行風(fēng)險(xiǎn)預(yù)警。ChatGPT還可應(yīng)用于信貸評(píng)估、欺詐檢測(cè)、投資決策輔助等領(lǐng)域。

部分銀行嘗試將ChatGPT技術(shù)融入風(fēng)險(xiǎn)評(píng)估、精準(zhǔn)營(yíng)銷等領(lǐng)域，從而更迅速地滿足客戶在不同場(chǎng)景下的金融需求。如某互聯(lián)網(wǎng)券商推出AI投資助手，將其內(nèi)置于交易平臺(tái)，為用戶提供智能的全球投資決策支持。

3.自動(dòng)化文本及數(shù)據(jù)處理

ChatGPT可識(shí)別多種語(yǔ)言，實(shí)現(xiàn)快速翻譯、語(yǔ)法檢查、文本改進(jìn)等功能，并可根據(jù)指令提示生成表格、圖片。同時(shí)，ChatGPT能根據(jù)要求制作表格，如增加行列、進(jìn)行表內(nèi)計(jì)算等。經(jīng)進(jìn)一步提示后，ChatGPT可給出計(jì)算公式或應(yīng)用程序自動(dòng)化任務(wù)執(zhí)行宏語(yǔ)言（Visual Basic for Applications，VBA）代碼，幫助用戶在表格處理軟件Excel中實(shí)現(xiàn)復(fù)雜的計(jì)算功能。

已有互聯(lián)網(wǎng)公司探索大語(yǔ)言模型在文案自動(dòng)創(chuàng)作與生成、個(gè)人辦公助理、圖文視頻創(chuàng)作，以及音樂(lè)創(chuàng)作、音樂(lè)推薦和搜索等領(lǐng)域的應(yīng)用。目前，OpenAI的投資方微軟（Microsoft）已將ChatGPT內(nèi)嵌到其搜索引擎中，并在瀏覽器整合AI繪圖功能。微軟旗下語(yǔ)音識(shí)別子公司推出AI臨床筆記軟件，用于快速自動(dòng)生成病人臨床筆記草稿。此外，微軟推出人工智能驅(qū)動(dòng)的辦公（Office）助手Microsoft 365 Copilot，以及為網(wǎng)絡(luò)安全專業(yè)人士量身定制的GPT-4 AI助手Security Copilot，助力實(shí)現(xiàn)智能、高效的辦公環(huán)境和網(wǎng)絡(luò)安全管理。國(guó)內(nèi)也有研究團(tuán)隊(duì)推出“職場(chǎng)神器”ChatExcel。

4.輔助編程及代碼管理

ChatGPT可生成代碼框架、編寫(xiě)代碼片段和測(cè)試案例、輔助進(jìn)行代碼調(diào)試。此外，還可輔助生成程序文檔，解釋代碼功能，添加代碼注釋，進(jìn)行代碼語(yǔ)法錯(cuò)誤檢查和智能優(yōu)化，完成代碼審計(jì)等。例如，在智能生成結(jié)構(gòu)化查詢語(yǔ)言（SQL）方面，用戶可使用ChatGPT編寫(xiě)SQL語(yǔ)句、調(diào)試SQL代碼、提供SQL語(yǔ)法信息和優(yōu)化提示等。

部分銀行嘗試運(yùn)用ChatGPT技術(shù)提高軟件開(kāi)發(fā)生產(chǎn)力。銀行科技人員通過(guò)與ChatGPT進(jìn)行交互問(wèn)答，讓ChatGPT給出簡(jiǎn)單的演示模型，并確定代碼的基本編寫(xiě)方案。科技人員還可通過(guò)ChatGPT編寫(xiě)代碼的基本框架，經(jīng)由代碼生成模型Codex2得到代碼，通過(guò)人工潤(rùn)色與審查后，完成整體代碼的編寫(xiě)。

（二）GPT模型有望成為債券領(lǐng)域的科技化賦能工具

國(guó)內(nèi)多家券商嘗試開(kāi)發(fā)類ChatGPT產(chǎn)品，探索相關(guān)技術(shù)在證券業(yè)務(wù)中的應(yīng)用場(chǎng)景。未來(lái)通過(guò)使用債券領(lǐng)域相關(guān)語(yǔ)料庫(kù)對(duì)GPT模型進(jìn)行針對(duì)性訓(xùn)練，有望使GPT模型在智能客服、債券投顧、風(fēng)險(xiǎn)控制、報(bào)告撰寫(xiě)等債券業(yè)務(wù)場(chǎng)景中應(yīng)用落地，推動(dòng)債券業(yè)務(wù)智能化發(fā)展。

1. AI客服

聊天機(jī)器人是金融機(jī)構(gòu)常見(jiàn)的客戶服務(wù)形式，目前通常為基于規(guī)則或預(yù)定義腳本的自動(dòng)化程序，只能執(zhí)行特定的任務(wù)。金融機(jī)構(gòu)結(jié)合專業(yè)、規(guī)范的金融知識(shí)庫(kù)，利用GPT模型優(yōu)秀的自然語(yǔ)言理解能力和連續(xù)對(duì)話功能，可以進(jìn)一步升級(jí)智能客服系統(tǒng)，為客戶提供債券業(yè)務(wù)咨詢服務(wù)，如解答政策法規(guī)、查詢債券信息、問(wèn)詢業(yè)務(wù)流程，還可作為線上路演助理推薦債券產(chǎn)品、解答投資者疑問(wèn)等。

2. AI投資研究及風(fēng)險(xiǎn)控制

通過(guò)插件授予GPT模型訪問(wèn)第三方數(shù)據(jù)庫(kù)及網(wǎng)絡(luò)的權(quán)限，GPT模型可查詢實(shí)時(shí)的債券信息、經(jīng)濟(jì)指標(biāo)、新聞?shì)浨榈葦?shù)據(jù)。在此基礎(chǔ)上，GPT模型可對(duì)所獲取數(shù)據(jù)進(jìn)行分析，提供債券領(lǐng)域的研究參考，通過(guò)人機(jī)合作完成宏觀策略研究、行業(yè)研究、動(dòng)態(tài)追蹤、輿情監(jiān)測(cè)等報(bào)告。此外，GPT模型通過(guò)獲取企業(yè)財(cái)務(wù)信息、資信情況、輿情信息等內(nèi)容，可以進(jìn)一步在債券業(yè)務(wù)的盡職調(diào)查、存續(xù)期管理、風(fēng)險(xiǎn)預(yù)警等環(huán)節(jié)發(fā)揮支持作用，實(shí)現(xiàn)智能化風(fēng)險(xiǎn)識(shí)別與管理。

3.智能化投行業(yè)務(wù)

投行從業(yè)者需要撰寫(xiě)大量固定格式的文檔材料，如債券募集說(shuō)明書(shū)、盡職調(diào)查報(bào)告等，人工撰寫(xiě)往往耗時(shí)費(fèi)力。可利用GPT模型在文本自動(dòng)化生成方面的優(yōu)勢(shì)，訓(xùn)練GPT模型從相關(guān)基礎(chǔ)材料中提取有效信息，并按照固定格式生成所需文檔。在此基礎(chǔ)上，可使用GPT模型對(duì)生成文檔內(nèi)容進(jìn)行校對(duì)檢查，降低人工操作風(fēng)險(xiǎn)，促進(jìn)投行業(yè)務(wù)提質(zhì)增效。

4. AI培訓(xùn)

可以將GPT模型應(yīng)用于債券市場(chǎng)從業(yè)者學(xué)習(xí)培訓(xùn)中，借助GPT模型為不同背景的受訓(xùn)人員定制個(gè)性化課程教案和培訓(xùn)計(jì)劃，解答培訓(xùn)過(guò)程中的問(wèn)題。特別是針對(duì)以網(wǎng)絡(luò)培訓(xùn)為主要形式的債券業(yè)務(wù)培訓(xùn)，可探索增加線上智能互動(dòng)問(wèn)答，通過(guò)互動(dòng)式的學(xué)習(xí)方式實(shí)時(shí)為學(xué)員提供難點(diǎn)分析、問(wèn)題解答等相關(guān)支持。

關(guān)于ChatGPT的思考

以ChatGPT為代表的人工智能技術(shù)的持續(xù)、快速發(fā)展將對(duì)許多領(lǐng)域產(chǎn)生廣泛而深遠(yuǎn)的影響。同時(shí)也應(yīng)意識(shí)到，大語(yǔ)言模型的局限性為ChatGPT等產(chǎn)品的應(yīng)用帶來(lái)潛在風(fēng)險(xiǎn)，相關(guān)技術(shù)的研發(fā)也面臨挑戰(zhàn)。

（一）使用ChatGPT存在潛在風(fēng)險(xiǎn)，需要積極采取應(yīng)對(duì)措施

1.應(yīng)用ChatGPT的潛在風(fēng)險(xiǎn)

因ChatGPT本身的工作原理及程序漏洞，其已在世界范圍內(nèi)曝出多起敏感數(shù)據(jù)泄密事件。美國(guó)技術(shù)倫理組織要求美國(guó)聯(lián)邦貿(mào)易委員會(huì)阻止OpenAI發(fā)布新的GPT商用版本，并對(duì)OpenAI展開(kāi)調(diào)查。意大利、德國(guó)、加拿大、西班牙、法國(guó)等多國(guó)相關(guān)部門(mén)宣布對(duì)OpenAI展開(kāi)調(diào)查，甚至禁止使用ChatGPT。2023年4月5日，OpenAI發(fā)布題為《我們的人工智能安全方法》（Our Approach to AI Safety）的文章，介紹該公司為確保AI模型安全性所進(jìn)行的部署。OpenAI表示，其努力在可行的情況下從訓(xùn)練數(shù)據(jù)集中刪除個(gè)人信息、微調(diào)模型，以拒絕對(duì)私人信息的請(qǐng)求，并且響應(yīng)用戶從OpenAI系統(tǒng)中刪除個(gè)人信息的請(qǐng)求。

在此背景下，本文將應(yīng)用ChatGPT相關(guān)技術(shù)的潛在問(wèn)題與風(fēng)險(xiǎn)總結(jié)如下。

一是ChatGPT相關(guān)應(yīng)用暫未在中國(guó)開(kāi)放。國(guó)內(nèi)用戶須以國(guó)外IP地址訪問(wèn)ChatGPT方可體驗(yàn)相關(guān)服務(wù)。使用未獲合法許可的國(guó)外網(wǎng)絡(luò)服務(wù)將違反《中華人民共和國(guó)計(jì)算機(jī)信息網(wǎng)絡(luò)國(guó)際聯(lián)網(wǎng)管理暫行規(guī)定》。

二是產(chǎn)生誤導(dǎo)性內(nèi)容或不當(dāng)信息。使用ChatGPT生成的內(nèi)容可能不準(zhǔn)確或具有誤導(dǎo)性，或涉及人身攻擊、誹謗、恐嚇等不當(dāng)行為，從而導(dǎo)致使用ChatGPT的服務(wù)提供方承擔(dān)相應(yīng)的法律風(fēng)險(xiǎn)。

三是隱私泄露風(fēng)險(xiǎn)。若用戶輸入了個(gè)人數(shù)據(jù)或商業(yè)秘密等信息，ChatGPT在進(jìn)一步訓(xùn)練和擴(kuò)展模型時(shí)可能將其納入自身語(yǔ)料庫(kù)，從而產(chǎn)生隱私泄露的風(fēng)險(xiǎn)。

四是侵害知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)。ChatGPT的可解釋性較弱，屬于黑箱模型，無(wú)法給出問(wèn)答結(jié)果所依據(jù)的具體知識(shí)和信息來(lái)源，生成的內(nèi)容可能會(huì)產(chǎn)生侵犯商標(biāo)權(quán)、專利權(quán)等知識(shí)產(chǎn)權(quán)的風(fēng)險(xiǎn)。

五是可能面臨監(jiān)管風(fēng)險(xiǎn)。ChatGPT作為新興技術(shù)，在與具體場(chǎng)景結(jié)合的過(guò)程中有可能出現(xiàn)風(fēng)險(xiǎn)事件，進(jìn)而導(dǎo)致監(jiān)管部門(mén)對(duì)技術(shù)應(yīng)用給予關(guān)注，出臺(tái)限制性規(guī)定。

2.應(yīng)對(duì)潛在風(fēng)險(xiǎn)的措施

ChatGPT廣泛的應(yīng)用場(chǎng)景令使用者面臨較大的合規(guī)風(fēng)險(xiǎn)與合規(guī)責(zé)任。對(duì)于金融行業(yè)，ChatGPT可能帶來(lái)的上述風(fēng)險(xiǎn)不容忽視。一旦發(fā)生客戶隱私和數(shù)據(jù)泄露，或傳播誤導(dǎo)性信息，將可能影響金融市場(chǎng)的穩(wěn)健運(yùn)行，危害國(guó)家金融安全。2023年4月10日，中國(guó)支付清算協(xié)會(huì)發(fā)布《關(guān)于支付行業(yè)從業(yè)人員謹(jǐn)慎使用ChatGPT等工具的倡議》，要求支付行業(yè)從業(yè)人員在使用ChatGPT等工具時(shí)，嚴(yán)格遵守國(guó)家及行業(yè)相關(guān)法律法規(guī)要求，不上傳國(guó)家及金融行業(yè)涉密文件及數(shù)據(jù)、本公司非公開(kāi)的材料及數(shù)據(jù)、客戶資料、支付清算基礎(chǔ)設(shè)施或系統(tǒng)核心代碼等。

在開(kāi)展類ChatGPT產(chǎn)品的研究及應(yīng)用時(shí)，建議積極采取風(fēng)險(xiǎn)應(yīng)對(duì)措施。一是充分研究相關(guān)法律法規(guī)，以審慎態(tài)度應(yīng)對(duì)風(fēng)險(xiǎn)。我國(guó)對(duì)于AI的監(jiān)管走在世界前列，于2023年1月10日施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》是對(duì)ChatGPT及類似項(xiàng)目最核心的監(jiān)管法規(guī)。4月11日，《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》向社會(huì)公開(kāi)征求意見(jiàn)。AI產(chǎn)品的研發(fā)應(yīng)用應(yīng)在相關(guān)法律框架下建立數(shù)據(jù)隱私保護(hù)、內(nèi)容過(guò)濾、內(nèi)容審查、知識(shí)產(chǎn)權(quán)保護(hù)、責(zé)任認(rèn)定等方面的實(shí)施規(guī)范。二是需深入AI系統(tǒng)的全生命周期進(jìn)行審查，建立每個(gè)具體環(huán)節(jié)的管理制度，包括制定語(yǔ)料庫(kù)的篩選標(biāo)準(zhǔn)、培訓(xùn)人工標(biāo)注人員、考察開(kāi)發(fā)者價(jià)值觀、教育使用者等。三是探索場(chǎng)景化和精細(xì)化的數(shù)據(jù)及算法治理機(jī)制，充分考慮算法決策的主體類型和作用類別。四是加強(qiáng)對(duì)AI的倫理規(guī)制，將倫理道德納入AI研發(fā)和應(yīng)用的全過(guò)程，增強(qiáng)倫理意識(shí)和行為自覺(jué)，對(duì)參與研發(fā)的人員進(jìn)行規(guī)范性培訓(xùn)和積極引導(dǎo)。

（二）大語(yǔ)言模型在金融領(lǐng)域的應(yīng)用挑戰(zhàn)與機(jī)遇并存

隨著大語(yǔ)言模型在對(duì)話式知識(shí)庫(kù)、智能客服等場(chǎng)景的落地，其在金融領(lǐng)域的應(yīng)用前景愈發(fā)廣闊。如何應(yīng)對(duì)ChatGPT相關(guān)技術(shù)帶來(lái)的機(jī)遇和挑戰(zhàn)是金融機(jī)構(gòu)面臨的重要課題。

1.大語(yǔ)言模型在金融領(lǐng)域的落地仍有諸多挑戰(zhàn)

一是技術(shù)難度大、配套產(chǎn)品要求多。大語(yǔ)言模型涉及深度學(xué)習(xí)框架支撐、模型訓(xùn)練、數(shù)據(jù)收集清洗標(biāo)注、算力調(diào)度、分布式訓(xùn)練等諸多技術(shù)，對(duì)金融機(jī)構(gòu)配套基礎(chǔ)設(shè)施的要求較高。

二是大語(yǔ)言模型技術(shù)選型難。該項(xiàng)技術(shù)發(fā)展迅猛、迭代速度快，短短數(shù)月內(nèi)已有十余款大語(yǔ)言模型發(fā)布，在模型效果評(píng)估、本地化部署運(yùn)行、二次訓(xùn)練效果評(píng)估、對(duì)基礎(chǔ)設(shè)施要求等方面，選型評(píng)估難度較大。

三是合規(guī)使用難。金融行業(yè)對(duì)合規(guī)使用要求高，但大語(yǔ)言模型基于概率推理，難以保證結(jié)果的準(zhǔn)確性，且知識(shí)更新依賴模型訓(xùn)練，成本高、效率低，在模型公平、數(shù)據(jù)安全、隱私保護(hù)等方面的合規(guī)應(yīng)用還需持續(xù)探索。

四是數(shù)據(jù)處理和算力成本高。金融行業(yè)數(shù)據(jù)和場(chǎng)景具有敏感性，使用大語(yǔ)言模型需進(jìn)行本地化部署運(yùn)行，甚至本地化模型訓(xùn)練，以上過(guò)程均需要龐大的圖形處理器（GPU）算力資源作為支撐，并進(jìn)行大量的數(shù)據(jù)收集、清洗、標(biāo)注等工作，資源投入較大。

2.對(duì)應(yīng)用大語(yǔ)言模型的相關(guān)建議

一是加強(qiáng)人才隊(duì)伍建設(shè)。技術(shù)變革促進(jìn)行業(yè)發(fā)展，同時(shí)帶來(lái)對(duì)人才隊(duì)伍補(bǔ)充和新建的需求。金融行業(yè)應(yīng)重視AI人才隊(duì)伍的建設(shè)，補(bǔ)充高水平、高層次、關(guān)鍵崗位人才。

二是夯實(shí)新技術(shù)基礎(chǔ)設(shè)施的建設(shè)，推動(dòng)云平臺(tái)、數(shù)據(jù)采集標(biāo)注、模型訓(xùn)練工具等AI工程化平臺(tái)工具和技術(shù)基礎(chǔ)設(shè)施的搭建與升級(jí)，為大語(yǔ)言模型的訓(xùn)練和運(yùn)行提供基礎(chǔ)支持。

三是保持技術(shù)的開(kāi)放性，吸收商業(yè)模型和開(kāi)源模型相關(guān)經(jīng)驗(yàn)，提升大語(yǔ)言模型的插件化服務(wù)能力，保持技術(shù)架構(gòu)良好的擴(kuò)展性和兼容性。同時(shí)，形成一套大語(yǔ)言模型評(píng)估方法，結(jié)合實(shí)際需求進(jìn)行模型選型評(píng)估。

四是探索增強(qiáng)使用的可信性。金融機(jī)構(gòu)可在預(yù)訓(xùn)練基礎(chǔ)模型的基礎(chǔ)上添加自身數(shù)據(jù)進(jìn)行二次訓(xùn)練，增強(qiáng)模型的可信性。此類探索要求使用高質(zhì)量的金融數(shù)據(jù)，在應(yīng)用場(chǎng)景側(cè)做好風(fēng)險(xiǎn)管控，提升應(yīng)用規(guī)范性及對(duì)大語(yǔ)言模型應(yīng)用的風(fēng)險(xiǎn)認(rèn)知，防控業(yè)務(wù)應(yīng)用風(fēng)險(xiǎn)。