生成式AI在金融行業應用的現狀、挑戰與建議

李振華 宮海韻 唐偉城

摘要：2022年末，以ChatGPT為代表的大語言模型技術橫空出世，顯著提升了人工智能認知力、推理力以及語言力。與此同時，金融行業也在逐步探索生成式AI在金融資訊、投顧、投研等領域的應用。目前，生成式AI應用于金融行業，在技術層面可控性、專業性以及安全性方面仍有待提升，行業層面也面臨著算力、訓練語料不足等制約。為了使生成式AI更有效地服務于金融行業，海內外市場機構積極探索知識增強、工具增強、數據增強等方式，不斷改進生成式AI在金融行業應用的安全可靠性；監管機構亦開展治理規范和行業指引探索，為新技術應用保駕護航。人工智能作為引領新一輪科技革命和產業變革的技術，如何促進其在金融行業釋放價值將成為國內外監管機構和市場主體關注的重點。建議通過建設規模化算力基礎、行業數據集、開放多元的模型生態等舉措支持生成式AI不斷完善，從而推動金融業高質量數智化升級。

關鍵詞：生成式AI；金融行業；數智化轉型；人工智能治理

中圖分類號：F830? ? ? ? ? ? 文獻標識碼：A? ? ? ? ? ? ?文章編號：1007-0753（2024）03-0003-09

金融行業一直是先進技術應用的先行者。過去幾十年，計算機、移動互聯網、云計算、AI等技術推動了金融業從信息化走向數字化。在數字化階段，移動互聯網技術推動了金融服務的線上化、場景化，讓更多的用戶能夠享受到更便捷、多樣化的金融服務。2022年末，以ChatGPT為代表的大語言模型技術顯著提升了人工智能的認知力、推理力、語言力，人工智能將引領新一輪的科技革命和產業變革。展望未來，數字金融作為中央金融工作會議提出的“五篇大文章”之一，人工智能有望推動數字金融跨越式發展，引領金融行業變革，助力實現金融強國戰略。

一、生成式AI在金融行業應用的現狀和特點

（一）生成式AI在金融領域應用日趨活躍

一是全球金融機構積極探索生成式AI在業務場景落地。大模型涌現的語言力和推理力，推動人機交互體驗升級與AI泛化能力躍遷，讓金融機構看到提高工作效率和優化客戶體驗的應用前景，密切跟進技術探索和落地。根據英偉達針對全球近400家金融機構的調研①，有43%的金融機構已經在使用生成式AI，主要將其用于報告生成（37%）、客戶體驗優化（34%）、合成數據生成（33%）和營銷（32%）；另有55%的金融機構正在研究并考慮應用生成式AI。同時，由于金融行業是知識密集型及交互場景豐富的行業，與其他行業相比，其對大模型的需求更高，應用場景更廣。根據麥肯錫調研②，金融行業從業者反饋“在工作中常規使用大模型”和“在工作和生活中均常規使用大模型”的數量占比為24%，僅低于技術傳媒行業（33%），高于法律會計等專業服務（23%）、消費（18%）、醫療（16%）、先進制造業（16%）和能源材料行業（14%）。

二是從金融業務細分場景來看，生成式AI已覆蓋了金融資訊、財富管理、保險、信貸、支付等金融細分領域（見圖1）。例如，富國銀行使用谷歌云的對話式人工智能平臺Dialogflow構建了基于聊天機器人的客戶助理；蘇黎世保險公司正在測試將ChatGPT技術應用于理賠建模，分析公司最近六年的理賠數據，應用生成式AI找出理賠的具體損失原因，進而改善承保，降低理財成本。

三是AI領域投融資活躍，出現深耕金融的AI技術服務“獨角獸”。根據CB Insight統計，2023年前三季度AI融資規模達329億美元，新出現了16家AI“獨角獸”。在金融領域，Quantexa獲得

1.29億美元E輪融資后躍升“獨角獸”，估值達到18億美元。Quantexa打造的生成式AI助手Q Assist，賦能智能數據分析，可用于反欺詐、反洗錢和客戶識別，幫助金融公司規避風險和精準運營。目前，匯豐銀行、渣打銀行、紐約銀行、荷蘭銀行和安聯保險等大型金融機構都是其客戶。

（二）生成式AI在金融領域應用的特點

生成式AI在業務流程中扮演的角色以非決策類為主。在業務簡單且非決策場景，生成式AI可直接服務客戶；在業務復雜或決策場景，生成式AI還是作為助手，賦能內部人員（見圖2）。

第一，生成式AI主要服務于歸集、分析、生成等非決策環節。從生成式AI服務金融機構的角色定位來看，可以分為提取、歸納、分析和決策，對技術的要求由低到高。以投資場景為例，當下生成式AI可以作為市場數據、行研報告信息抓取的“實習生”，或作為歸納生成行業和投資標的價值分析的“研究助理”，但未能成為做出投資決策的“投資經理”。這是因為決策需要綜合事實性信息和經驗式復雜形勢做出判斷，對大模型的技術要求更高，需要長期的迭代演進。例如，在投研領域，Broadridge 子公司LTX打造了Bond GPT。LTX 運用自身整合的Liquidity Cloud中海量的匿名實時交易數據及金融數據，基于GPT-4訓練得到債券垂類大模型Bond GPT。用戶可以通過自然語言與Bond GPT交流，獲得符合需求的公司概況、利率、價格、發布日期、到期日期、債券評級等信息以及可視化圖表，為債券投資提供數據及交易信息支持。

第二，直接對客應用較為審慎。目前生成式AI主要用于不涉及強金融建議的智能對話、信息收集分析，對內部員工賦能（Copilot）的應用更加多樣、更有深度。得益于生成式AI強大的理解和語言能力，對于金融資訊、業務辦理等泛金融知識對話，生成式AI已經可以直接面向客戶進行智能對話，大幅彌補過去智能客服并不“智能”的短板。例如，智能客服支小寶，在螞蟻大模型的賦能下，升級為“支小寶2.0”，將智能對話服務鏈路解構為意圖理解、知識加工、專業工具調用、歸納推理、可控生成、自省等環節。大模型作為交互與認知中樞，其多輪對話的能力大幅提升，并能夠基于用戶需求適時調用專業金融知識和策略工具（如條件選基、保險評測），直接為客戶提供財富管理、保險產品咨詢等服務。生成式AI作為財富管理顧問的助手，如“支小助”賦能螞蟻理財師，能夠提升專業度，實現定制化服務。又如，農業銀行推出大模型應用（ChatABC），該模型擁有百億級參數，在知識問答、智能客服、輔助編程、智能辦公等領域同步進行試點，其中智能問答場景已提供數百萬次問答服務，而輔助編碼場景支持代碼生成、單測生成、代碼翻譯等功能，已超過10萬行代碼投入生產應用。但是，對于更復雜、個性化的對客金融服務，目前仍需要人工參與判斷。

第三，大小模型協作成為AI應用技術范式。生成式AI的優勢在于理解、推理和生成，而傳統判別式AI的優勢在于場景適配性強、可控性強，適用于風險管理等復雜決策場景。目前大模型不能直接用于風險決策，但結合傳統的有監督機器學習的風控決策引擎，通過不斷完善兩者數據及應用交互的技術范式，使得智能風控更加實時和主動。例如，為了解決傳統的風控決策引擎處理非結構化信息能力的不足，以及無法提供差異化額度和利率等問題，度小滿開發了“小滿靈犀”風控決策引擎，充分發揮大模型技術的理解、生成、邏輯能力，通過自然語言的方式與客戶深度交互，并基于對客戶歷史信息的理解和客戶需求的洞察，提升效率，實現精準授信。

第四，海外金融機構云化部署為快速應用大模型奠定了基礎。例如，Morgan Stanley 和Open AI合作推出了基于GPT-4 技術的對話機器人，并利用該機器人管理及調用其龐大的知識庫賦能財務顧問。Morgan Stanley知識庫部署在Azure云端，數十萬頁報告內容涵蓋投資策略、市場研究和評論以及分析師見解，Open AI通過微調和提示詞工程，實現API智能調用知識庫內容，并生成財務顧問所需的專業、定制化的投顧信息。云端部署可以滿足模型快速部署和高并發調用需求。

二、生成式AI在金融行業的應用趨勢和價值

（一）推動金融業的生產力變革

生成式AI全面賦能金融業務各環節及組織前中后臺，極大提升了客戶營銷、運營服務、技術開發以及內部管理效率。人人有助手，生成式AI顯著提升了信息處理及內容生成的效率和多樣性，可以為營銷人員提供豐富的創意文案，為投顧人員提供實時資訊解讀和投資策略分析，為技術人員提供代碼工具；人人是專家，生成式AI降低了知識獲取以及數字化工具應用門檻，秒級完成知識庫檢索生成，自動調用工具，讓每個人快速成為行業專家。據麥肯錫預測③，生成式AI帶來的生產力提升將推動銀行業收入增長3%—5%，合2 000—3 400億美元。據UBS預測④，在樂觀情景下，預計2025年，生成式AI在對內賦能的場景率先實現大規模落地，預計證券行業、保險行業人工成本減少20%，分別提升證券行業、保險行業利潤15%與27%。

（二）重新定義金融服務的用戶體驗

生成式AI帶來客戶交互智能化跨越式提升。更有溫度，生成式AI帶來全新的人機交互體驗，意圖識別更精準，表達更有“人味”，并隨時隨地提供專屬陪伴；更有深度，生成式AI幫助客戶更容易觸達金融機構“最強大腦”，如首席投資策略師或首席分析師的洞見，充分調動積累的知識和策略，更好地為客戶提供高質量、定制化服務；更多樣且易得，以Open AI 推出的GPTs為例，其為開發人員提供了開發工具及市場營銷平臺，打造了生成式AI領域的“iPhone App Store”，將極大豐富應用生態，促進更多樣的智能化金融服務的涌現。

（三）助力金融業務模式跨越式升級

生成式AI將成為“智能引擎”，從信息處理進化到復雜決策，從Copilot跨越到Autopilot，重塑交易決策、產品創設及營銷規劃等業務環節。此外，生成式AI還將推動業務范式升級。如投顧領域，顧問可依托生成式AI提供千人千面資產配置服務，亦可通過對話機器人進行擬人化、實時交互，加深客戶信任，優化投資收益，推動賣方投顧向買方投顧轉變，引導投資者理性投資，助力營造良性資本市場環境。

（四）成為數智化風控技術新起點

風險決策方面，生成式AI的泛化能力使其理解加工海量非結構化數據的能力大幅提升，與傳統判別式AI模型能力形成互補，支持復雜場景下零人工干預、高精度風控決策。風險監測方面，金融領域風險越來越呈現出隱蔽性、交叉性、跨市場特點，如跨國洗錢，風險識別和控制的難度持續增大，而生成式AI特有的認知推理能力，有望助力更廣泛、更敏捷地監測到異常交易，識別數據安全、網絡安全漏洞，并自動調度風險管理工具，在第一時間控制風險發酵及傳導。

三、技術層面生成式AI在金融行業應用的挑戰及應對

生成式AI在金融領域的應用面臨多重挑戰，除技術本身有待進一步完善之外，還需要滿足金融領域的專業性、合規性等要求，主要表現在專業性、可控性、適當性尚有不足，以及存在算法內生性風險。

（一）生成式AI技術在金融行業應用面臨的挑戰

一是專業知識存在短板。大模型通過海量知識的壓縮，積累了廣泛的通用知識，具備較強的泛化能力。金融行業具有知識密度高、時效性強、嚴謹性高等特點，而通用大模型訓練中金融語料占比低、數據滯后、金融專業水平不高，導致通用大模型無法在金融領域直接應用。如保險理賠涉及大量保險條款、疾病和醫藥的關聯性知識，而通用大模型在相關領域存在一定的知識欠缺，難以處理具體某種保險“能不能保”“能不能賠”等專業問題。

二是可控性不足。生成式AI實現了語言力、理解力和創造力的躍遷，但伴隨的“幻覺”問題導致生成結果不可控，影響在嚴謹場景中的應用。大模型是基于條件概率逐字生成內容的，但是訓練數據質量不足、模型過擬合以及知識理解不足等因素，會導致大模型“一本正經地胡說八道”。以訓練數據為例，不準確、不完整的數據或惡意投毒數據，會導致模型在訓練過程中學習到這些錯誤、虛假的數據，并在未來的預測、生成中重現。

三是適當性缺乏保障。金融行業對監管合規性要求高，生成式AI在金融行業的應用也離不開規則的約束和運用，需要其與金融業務相關規范進行價值對齊（Value Alignment），但大模型價值對齊如何充分符合金融安全、投資者適當性、消費者權益保護等金融價值觀仍面臨技術挑戰。

四是算法內生性風險。算法可解釋性方面，大模型在參數規模與復雜度上遠高于傳統AI模型。從參數規模上看，目前主流大模型通常包含百億到千億級別以上的參數，而傳統AI模型的參數規模一般在百萬到千萬級別。因此，大模型輸出結果的邏輯和決策過程更難以解釋。金融領域對決策透明度和可解釋性的要求更高，這對大模型應用于金融業務將構成較大挑戰。算法歧視方面，大模型基于海量數據開展訓練，因此訓練數據中本身存在的偏見可能被算法模型固化，導致生成的決策存在歧視。比如在金融服務可得性方面，算法歧視可能會導致歧視性準入門檻與服務定價等問題。算法一致性方面，如果大量金融機構部署應用相似或者同一大模型，可能會導致基于模型建議的業務決策的一致性，從而形成“羊群效應”。美國證監會主席Gary Gensler在2023年10月提出AI會引發金融行業系統性風險的擔憂。他解釋道，華爾街很多金融機構依賴于少數基礎AI模型，從智能投顧業務到股票開戶業務等，各方基于相同數據模型做出的決策可能導致“羊群效應”，不利于金融穩定。

（二）市場主體推動生成式AI在金融行業應用的積極對策

生成式AI技術在金融領域的應用還處于探索階段。為了使生成式AI更有效地服務于金融行業，克服前述大模型自身存在的技術問題以及在金融業務應用中面臨的專業性問題，各國的科技公司與金融機構都在積極探索對策。

1.提升金融專業性及可控生成

一個可行的大模型應用范式是解構內容生成鏈條，將大模型作為交互與認知中樞，主要負責意圖識別、信息檢索與歸納總結以及內容拼接組合，按需在金融專業領域調用知識引擎以獲取高時效性、高精度的金融知識，以及調用自動化策略工具，如投顧推品、保險配置等。為此，可通過知識增強和專業工具組合增強，確保大模型生成內容的專業性。

一是知識增強。形成專業知識庫+檢索技術組合，將特定金融與相關專業知識庫嵌入生成鏈條，使大模型基于給定的專業知識庫生成答案。知識圖譜的知識專業性和事實可靠性強，鑒于金融領域有大量高頻問題，應用大模型時可深度融合知識圖譜，覆蓋高嚴謹性和高復雜性場景，比如保險產品條款解析、核保核賠問題回復。此外，最新、準確的外部數據可以彌補大模型信息時效性的不足。

二是專業工具組合增強。生成式AI在認知和交互方面具有顯著優勢，而傳統判別式AI模型對特定任務決策的可靠性更強，在運籌、量化、圖算法方面的表現更為優異。因此，在具體業務場景中，大模型可按需調用專業小模型，如投顧推品、保險配置等，共同完成理解、推理和決策任務，使金融服務更專業、更有深度。

2.強化訓練數據質量保障

訓練數據質量是影響大模型性能的關鍵因素之一。目前可用的中文金融語料約有2 000億token，然而通過模型和人工的清洗和篩選，最終能夠達到高質量高標準的語料大約只有10%。在金融領域，數據質量尤為重要，需要從源頭開始保障大模型的訓練質量和價值取向。為此，一方面要持續加強數據清洗與質量管控，通過數據引入初篩、訓練數據去毒、精細化標注，確保模型訓練源頭數據安全、可控、可追溯；另一方面，共同構建金融行業數據集，如Bloomberg GPT的優秀性能很大程度上源于其在通用語料庫之外，構建了一個包含3 635 億token 的高質量金融領域數據集FinPile，其中的7%是彭博專有的金融數據。

3.持續推動模型迭代優化

為了讓大模型的能力與行為和人類的價值、真實意圖及倫理原則一致，確保人類在與AI協作中的安全與信任，核心就是價值對齊。價值對齊可以在一定程度上解決大模型錯誤信息、算法歧視和生成不可控問題。目前在價值對齊的工具開發和工程化建設方面已有許多積極嘗試：一是人類反饋強化學習（RLHF），人類訓練員對模型輸出內容的適當性進行評估，并基于收集到的人類反饋為強化學習構建獎勵信號，以實現對模型性能的改進優化。如Open AI、Anthropic等公司通過加入RLHF方式，緩解大模型的“幻覺”問題，從而提高模型的適應性，減少模型的偏見，增強模型的安全性。二是對抗測試（Adversarial Testing），邀請內部或外部的專業人員（紅隊測試員）對模型發起各種對抗攻擊，以發現潛在問題并予以解決。例如，在GPT-4發布之前，Open AI聘請了50多位各領域學者和專家對其模型進行測試。這些紅隊測試員的任務是向模型提出試探性的或者危險性的問題以測試其反應。通過紅隊測試員的測試，可以幫助發現模型在不準確信息、有害內容、虛假信息、歧視、語言偏見、社會安全等方面的問題。

4.布局全鏈條安全檢測與防御

建立一體化的大模型安全防控體系，從數據輸入、訓練和生成各個環節，對有害、敏感信息進行攔截和糾偏，持續開展安全檢測。例如Open AI專門訓練了一個對有害內容進行過濾的AI模型，用于識別有害的用戶輸入和模型輸出，從而實現對模型的輸入數據和輸出數據的管控。又如，螞蟻基于豐富的安全和合規技術推出“蟻鑒2.0”安全檢測平臺，其由數百個識別模型和數十萬個判別規則組成，提供生成式AI安全性評測、可解釋性評測以及魯棒性檢測，可支持多模態檢測，覆蓋文本、語音、圖像等多種任務類型，檢測標準覆蓋內容安全、數據安全、倫理安全三大類，可對大模型生成的內容完成包含個人隱私、意識形態、違法犯罪、偏見與歧視等數百個維度的風險檢測，并生成檢測報告，通過全方位安全檢測、內容過濾、規則召回等安全策略，持續提升大模型生成的準確率。

5.豐富模型和應用的多樣性，降低算法一致性風險

2022年末以來，眾多科技企業、金融機構積極投入垂直大模型預訓練和應用層微調，豐富的模型生態和開發框架有利于降低算法一致性風險。一是通過不斷豐富模型生態、場景應用解決方案，金融機構能夠選擇出算法邏輯多樣化的模型以及匹配業務需求的豐富的生成式AI應用產品，緩解市場共振風險。二是大模型現在并未直接用于金融決策，豐富的人機交互將逐步塑造個性化的Copilot和AI Agent，這些根據客戶差異化的風險偏好和收益預期等做出的決策建議，有助于避免模型輸出一致性的問題，進而避免出現“羊群效應”。三是大模型基于海量實時信息處理能力，將助力完善監管科技，不斷提高風險檢測靈敏度以及風險應對措施智能化，維護金融穩定。

四、行業層面生成式AI規模化、高質量應用的制約因素和優化展望

中央金融工作會議提出做好科技金融、綠色金融、養老金融、普惠金融、數字金融“五篇大文章”，其中發展數字金融，提升金融機構數字化水平，有助于更好地支持金融強國戰略。人工智能作為引領新一輪科技革命和產業變革的技術，對發展數字金融具有戰略意義。目前，生成式AI在金融領域的應用還處于初級階段，面臨算力、訓練語料不足、技術規范等短板，在推進大模型應用的過程中，不僅需要市場主體的探索和實踐，也需要政府的鼓勵支持與規范引導。

海外監管主體認識到人工智能的重要戰略意義，相繼出臺了AI戰略規劃和監管舉措，致力于平衡促進技術發展及產業應用與防范潛在風險。為了更好地發揮人工智能對我國數字金融的助推力，需創造包容的監管環境，夯實算力、數據、算法和技術規范基礎設施，以促進人工智能可信發展，釋放產業變革價值。

（一）生成式AI在金融行業規模化、高質量落地的制約因素

一是在缺乏行業應用指引和技術標準的情況下，多數金融機構存在“不敢用”“不會用”的情況。目前，生成式AI在金融行業的應用進展緩慢，一項針對300多家金融機構的大模型應用現狀的調研發現⑤，僅有2%的金融機構處于大模型落地應用階段。一方面，當前金融監管部門尚未對大模型在金融行業的應用出臺相應的指導意見以及業務規范，一定程度上影響了金融機構研發應用大模型的意愿，這將進一步降低金融大模型的市場需求，抑制金融機構與科技公司技術投入的動力和金融大模型技術發展的潛力。另一方面，受限于金融大模型缺乏行業統一、公允的評測標準及技術應用規范，金融機構面臨大模型選型難、調試難等“不會用”的問題。

二是多數金融機構存在算力資源約束問題，會限制金融行業大模型的普及應用，加劇行業“馬太效應”。根據相關機構估算，訓練一個千億參數級別的大模型大致需要上千張英偉達的A100高性能顯卡運行3個月以上的時間，需要上千萬美金的投入，對資金與技術的要求很高。從銀行業角度看，國內有4 000多家銀行，如果每家銀行都從0到1自己訓練構建一個大模型是不現實的。這是因為一方面多數銀行本身規模比較小，存在資金、技術短板；另一方面隨著美國對中國芯片出口限制的升級，進一步加劇了國內大模型算力資源緊張。但如果大模型最終只應用于少數具有資金技術實力的大型銀行，可能會進一步加大中小銀行與大型銀行的經營能力差距，強化金融行業的“馬太效應”，不利于整個金融行業的健康發展。

三是金融領域高質量語料缺乏，不利于模型迭代升級，也不利于生成內容的專業性及可控性的提升。金融數據的敏感性、隱私性、商業機密性更高，在數據流轉方面的監管合規要求更嚴，從而導致金融機構缺乏數據共享動力，數據割裂現象嚴重，專業語料的歸集難度大。因此訓練金融垂直領域的大模型存在明顯的金融數據資源約束，有待建立健全跨金融細分領域、時效性強、滿足價值對齊要求的專業數據集。

（二）海外AI產業發展舉措及監管思路

隨著生成式AI的蓬勃發展，AI技術所帶來的戰略價值和潛在風險也越來越受到關注，世界各國監管主體都在密切跟進AI的演化進展。現階段主要發達國家在圍繞促進生成式AI行業發展的同時，持續關注和防范潛在風險，推動建立監管規則體系，主要監管思路和舉措包括“軟法”指引和持續迭代、分類分級監管、政府與企業共治、建立跨國治理生態等。

第一，注重促進人工智能長期發展，統籌安全與發展。美國政府認為人工智能是現階段最具戰略意義的技術之一，為了確保美國在發展可信AI的全球領航員地位，其制定了國家層面AI發展框架。2016年美國的總統行政辦公室（Executive Office of the President）發布了《國家人工智能研究發展戰略規劃》，并于2019年和2023年發布更新版，覆蓋鼓勵AI基礎技術長期投資、發展共享公共數據集、保障AI系統安全性等九項舉措。以數據為例，明確發展用于人工智能訓練和測試的共享公共數據集和環境。具體舉措包括：一是開放并提供滿足多樣化人工智能應用需求的數據集。許多政府數據集已經通過各種網站和平臺向研究人員和學生開放。例如，美國國家航空航天局（NASA）地球科學數據集通過NASA的分布式活躍檔案中心（DAAC）向公眾開放；國家衛生研究院（NIH）的“科技研究基礎設施發現、實驗和可持續性倡議（STRIDES）”使人們能夠訪問豐富的數據集和先進的計算基礎設施，使用相應工具。二是開發共享的大規模和專業化的高級計算和硬件資源。美國國家人工智能計劃（NAIRR）工作組提出建設兼具CPU和GPU的混合算力資源基礎設施（即本地和云端計算資源、專用和共享資源），該設施具備多節點加速器，可提供高速網絡和充足的內存容量。根據CB Insights統計，截至2023年三季度末，美國擁有全球65%的AI“獨角獸”。

第二，政府部門以提示風險和制定標準的“軟法”引導技術發展，不設置準入限制，并基于技術發展敏捷治理。例如，2023年1月，美國國家標準與技術研究院（NIST）制定《人工智能風險管理框架》（RMF），通過建立標準的方式引導AI產業實踐，對市場僅有建議采納的軟性約束作用，產業實踐經驗也通過與監管的多輪互動，實現對“軟法”的迭代完善。2023年10月，美國白宮發布拜登簽署的《關于安全、可靠和可信的AI行政命令》（以下簡稱《行政命令》），提出安全可靠、保障權利、隱私保護等倫理要求，以確保美國在把握AI前景和管理其風險方面處于領先地位。

第三，明確人工智能分類分級監管思路。歐盟《人工智能法案》的修改草案中，重點引入了以風險為導向的AI系統的分類分級監管制度。該法案提出了四種風險類型的AI系統——不可接受的風險、高風險、有限風險和極低風險，并對不可接受的風險以及高風險等級的AI系統提出了嚴格的規制措施，同時為人工智能設計了全生命周期的規制措施，要求人工智能產品入市前評估和入市后監測，以便從事前、事中和事后共同治理。對于通用型人工智能（General Purpose AI，GPAI），強調透明度要求。要求GPAI系統和模型必須保持透明度，包括創建技術文檔、報告有關訓練內容的詳細摘要、遵守歐盟版權法以及報告用于訓練其模型的數據信息。確保自然人在與AI系統互動時，能及時、清晰、可理解地知道自己正在與AI系統互動。此外，對于具有高風險的GPAI，需滿足風險評估、對抗性測試等標準。

第四，政府與企業多元共治成為AI 治理范式。一是美國政府與企業多元共治《行政命令》，促使包括Open AI、谷歌、微軟、英偉達等15家企業就開發避免偏見歧視、保護隱私的人工智能做出承諾，包含建立AI安全的新標準、保護美國民眾的隱私、促進公平和保障公民權利、提升美國在海外的領導力等八個目標。政府與企業多元共治推動了“軟法”主張與產業實踐之間的互相促進，如科技公司在AI產品發布前采用的紅隊測試慣例，成為自愿承諾內容之一。二是歐盟明確政府監管與企業自律相結合的基礎模型⑥監管模式。一方面，每個歐盟成員國都將設立監督機構，由人工智能企業所在國的監管機構確保法案的有效實施。另一方面，人工智能企業需承擔自律責任，對其算法進行人為控制，提供技術文件，并為“高風險”應用建立風險管理系統。三是新加坡金管局（MAS）與企業及行業協會聯盟⑦為金融領域使用生成式AI制定風險框架，確定了包括問責制和治理、監控和穩定性、透明度和可解釋性等七個風險維度。

第五，建立人工智能跨國監管互通生態。大模型開發、訓練及應用需要越來越多的跨國合作，需要相應的跨國共識和監管協同。2023年11月在英國召開AI安全峰會的28個國家發布了《布萊切利宣言》，旨在推動全球在人工智能安全方面的合作，共同識別風險以及制定跨國政策緩解風險。

（三）促進生成式AI推動金融數智化升級的建議

為了更好地統籌發展和安全，做好“五篇大文章”之一的數字金融，支持金融強國戰略落地，建議在監管環境、算力、數據、技術生態等方面，支持金融行業規模化、可持續應用生成式AI。

第一，為生成式AI落地金融行業營造適當包容的監管環境，推動金融機構數智化轉型和技術創新的良性互動，監管機構與市場機構合作構建金融大模型技術規范。一是建議監管部門加大對金融機構技術創新的重視程度與支持力度。充分發揮“科技創新試點”等機制的作用，平衡創新和風險管理，明確監管規則，鼓勵金融場景應用探索。如果缺乏有效的監管預期引導與政策支持，技術創新將面臨巨大的不確定性，不利于引導金融機構技術投入和持續迭代。二是推動政府與企業共同參與AI治理，在監管模式的探索中形成“雙輪驅動”。建立暢通互信的溝通機制，基于人工智能監管理念、技術前沿進展和產業實踐，共同制定技術規范、風險管理框架和產業應用指引；同時，可以建設監管規制、行業自律、科技倫理指引相結合的多層次治理體系。三是構建金融行業權威的金融大模型評測標準。大模型技術風險管理需要監管機構和市場主體共同建立技術標準及評測體系，引導大模型在金融業務中規范應用。組織獨立機構進行技術評測、安全審查、風險監測，多主體參與可為金融大模型的安全應用保駕護航。當前實踐表明，大模型評測集是綜合評估大模型技術能力與安全性的有效工具，可以由監管機構牽頭，組織技術領先的金融大模型金融機構與科技公司，合作構建行業統一的綜合金融大模型評測集，并將其逐步轉化為監管認可的金融大模型技術標準與評測體系。

第二，探索建立人工智能在金融行業應用的分類分級監管機制。由于人工智能技術的應用場景、風險程度和技術成熟度存在差異，需要制定配套的分層監管舉措，進行精細化管理。我國出臺的《生成式人工智能服務管理暫行辦法》確定了“對生成式人工智能服務實行包容審慎和分類分級監管”的基本理念，金融監管部門可以在此方向上進一步探索生成式AI在金融行業應用的分類分級監管體系。建議基于不同的金融業務模式與流程環節的特點、生成式AI對金融業務價值創造與風險生成的影響機制、金融服務的客戶覆蓋面等因素，結合國內外金融行業先進實踐經驗，由監管機構和市場主體共同探索并制定不同金融業務與流程環節中應用生成式AI的風險識別、分類評估、技術規范、差異化流程監測體系、責任認定等配套規則。

第三，加強行業共享的技術基礎設施建設，以行業云或團體云為基礎，建立金融行業基礎大模型，支持各金融機構構建大模型基礎能力。一是建立金融領域大模型訓練和推理平臺試點。由監管機構或政府牽頭協調，聯合科技公司及金融機構，實現資源集中規劃建設、迭代升級，避免行業內“重復造輪子”，造成算力浪費。二是探索建設金融行業云和行業大模型融合的金融機構技術基礎設施平臺。幫助中小金融機構“一站式”夯實科技底座，構建金融大模型基礎能力，加快金融機構從數字化到數智化轉型的進程。

第四，推動公共數據開放，共建金融領域專業數據集，完善數據安全規范。一是推動公共數據開放。公共數據的開放將充實大模型通用語料庫，為大模型語言力及推理力升級奠定基礎。二是建設金融領域專業數據集。建立跨主體數據歸集、共享機制及商業模式，緩解數據割裂，避免數據重復收集處理導致的資源浪費。例如，建議由行業協會或監管下屬機構歸集市場交易數據、研究報告、上市公司公告等行業數據，推動金融語料庫建設。三是完善數據安全規范。避免模型訓練中數據使用不當導致用戶隱私泄露、信息濫用，加強知識產權保護，避免產權不清造成侵權行為和商業糾紛。與此同時，可推行一些數據訓練的版權收費豁免。

第五，構建多元分層的大模型技術生態，降低大模型在金融場景應用的成本，緩解模型輸出一致性問題。一是構建基礎大模型開源技術生態。技術開源可以避免對訓練資源要求最高的基礎大模型的資源重復投入，促進模型快速迭代，防止技術壟斷。二是豐富大模型微調、大小模型交互的金融場景應用技術生態。通過豐富基礎大模型在各類金融場景應用所需的內容標注、提示詞工程、對抗測試等微調服務，以及與大模型配合的判別式AI小模型技術服務的供給生態，讓各類金融機構以較低成本基于自身業務場景特點采購大模型場景落地應用所需的服務，也可以通過多元化差異化的大模型場景應用解決方案降低模型輸出一致性的問題，有效避免模型共振導致的“羊群效應”，維護金融穩定。

注釋：

① 英偉達， State of AI in Financial Services 2024。

② 麥肯錫，The State of AI in 2023： Generative AI's Breakout

Year，此報告基于對全球1 684位參與者的調研。

③ 麥肯錫， The Economic Potential of Generative AI。

④ 《亞太聚焦：生成式AI如何重塑中國非銀金融行業？》。

⑤ 2023年下半年，恒生電子對國內金融機構進行調研走訪，被調研對象涵蓋券商、公募、銀行、三方、保險、信托、期貨和私募等。

⑥ 基礎模型被定義為一種依托大量數據被規模化訓練的AI模型，為確保生成結果之通用性而設計，并能適應廣泛的特定任務。

⑦ 包括星展銀行、華僑銀行、大華銀行、渣打銀行、花旗新加坡、匯豐銀行、谷歌云、微軟、MAS、埃森哲和新加坡銀行協會組成的聯盟。

The Current Status， Challenges， and Recommendations for the Application of Generative AI in the Financial Industry

Abstract： At the end of 2022， large language model technology， exemplified by ChatGPT， emerged dramatically， significantly enhancing artificial intelligence's cognitive， reasoning， and linguistic capabilities. Concurrently， the financial industry is gradually exploring the application of generative AI in areas such as financial information， investment advisory， and investment research. Currently， the application of generative AI in the financial industry still requires improvements in controllability， professionalism， and security at the technical level， and faces constraints such as insufficient computing power and training data at the industry level. To enable generative AI to serve the financial industry more effectively， domestic and international market institutions are actively exploring ways to enhance knowledge， tools， and data， continually improving the safety and reliability of generative AI applications in the financial sector. Regulatory agencies are also developing governance norms and industry guidelines to safeguard the application of new technologies. As artificial intelligence leads a new wave of technological revolution and industrial transformation， how to promote its value in the financial industry will become a focal point for regulatory bodies and market participants worldwide. It is recommended to support the continuous improvement of generative AI by building scalable computing power infrastructure， industry datasets， and an open and diverse model ecosystem， thereby promoting high-quality digital and intelligent upgrades in the financial industry.

Keywords： Generative AI; Financial industry; Digital transformation; AI governance