標準對話：標準化助力人工智能健康發展

于欣麗

中國標準化協會理事長

尊敬的各位專家，大家好！歡迎參加由《中國標準化》雜志社舉辦的標準高端對話活動，我是此次活動的主持人于欣麗。

首先，我介紹一下參加活動的專家，中興通訊標準戰略部部長田力、中科院軟件所副研究員孟令中、螞蟻集團技術戰略發展部總監彭晉、中國電子技術標準化研究院信息技術研究中心人工智能研究室主任/高工徐洋、寶武中央研究院數智中心/寶鋼股份數據AI部主任張偉。

2024年《政府工作報告》指出；“要大力推進現代化產業體系建設，加快發展新質生產力。”在深入推進數字經濟創新發展方面，提到深化大數據、人工智能（AI）等研發應用，開展“人工智能+”行動，打造具有國際競爭力的數字產業集群。這是“人工智能+”首次被寫入《政府工作報告》中。隨著后續 GPT-4 Turbo、Sora等產品的持續推出，人工智能作為新質生產力的典型代表，成了2024年產業政策的聚焦點。為此，《中國標準化》雜志社舉辦了此次主題為“標準化助力人工智能健康發展”的標準對話活動。

1956年夏季，以麥卡賽、明斯基、羅切斯特和申農等為首的一批遠見卓識的年輕科學家在一起聚會，共同研究和探討用機器模擬智能的一系列有關問題，并首次提出了“人工智能（ArtificialIntelligence，簡稱AI）”這一術語，會上提出：人工智能就是要讓機器的行為看起來就像是人所表現出的智能行為一樣。另一個定義認為，人工智能是人造機器所表現出來的智能性。總體來講，人工智能的定義可劃分為四類，即機器“像人一樣思考”“像人一樣行動”“理性地思考”和“理性地行動”。這里“行動”應廣義地理解為采取行動，或制定行動的決策，而不是肢體動作。

“人工智能”是計算機科學的一個分支，它是一門邊緣學科，屬于自然科學、社會科學、技術科學三向交叉學科。專注于研究、開發和應用模擬人類智能的理論、方法、技術和應用系統。它的目的是創造出能夠獨立思考、決策、學習和適應環境變化的智能機器或軟件代理，使之能夠在復雜環境中執行通常需要人類智能才能完成的任務。涉及學科包括：哲學和認知科學、數學、神經生理學、心理學、計算機科學、信息論、控制論、不定性論、仿生學等。

作為21世紀最具顛覆性的技術之一，人工智能已經在各個領域取得了顯著的成果。從自動駕駛汽車到智能家居，從虛擬助手到醫療診斷，人工智能的應用無處不在。

2017年7月，國務院印發《新一代人工智能發展規劃》，推進辦公室由科技部、發改委、工信部、中科院、工程院、軍委科技委、中國科協等15個部門構成，負責推進新一代人工智能發展規劃和重大科技項目的組織實施。該規劃提出了我國人工智能在2020年、2025年、2030年三個階段的發展目標，為后續一系列落地政策提供了依據和指導。同年11月15日，科技部召開新一代人工智能發展規劃暨重大科技項目啟動會，宣布成立新一代人工智能發展規劃推進辦公室，并公布首批國家新一代人工智能開放創新平臺名單。將用13年的時間，將我國打造成世界主要人工智能創新中心。

2023年12月，中央經濟工作會議聚焦“發展新質生產力”和“加快推動人工智能發展”，提出要大力推進新型工業化，發展數字經濟，加快推動人工智能發展。

2024年2月19日，國資委召開央企人工智能專題推進會，要求中央企業把發展人工智能放在全局工作中統籌謀劃，深入推進產業煥新，加快布局和發展人工智能產業，推動央企在AI領域實現更好發展、發揮更大作用。

2024年7月，工業和信息化部聯合中央網信辦、國家發展改革委、國家標準委共同發布《國家人工智能產業綜合標準化體系建設指南（2024版）》，從基礎共性標準、基礎支撐標準、關鍵技術標準、智能產品與服務標準、賦能新型工業化標準、行業應用標準、安全/治理標準七方面明確標準化體系建設的重點方向。

2024年7月4日，國務院總理李強在上海出席2024世界人工智能大會暨人工智能全球治理高級別會議開幕式并致辭。李強指出，中國始終積極擁抱智能變革，大力推進人工智能創新發展，高度重視人工智能安全治理，實施了一系列務實舉措，發布了《全球人工智能治理倡議》，向第78屆聯合國大會提出了加強人工智能能力建設國際合作決議并獲得一致通過，為全球人工智能發展和治理作出積極探索，貢獻了建設性思路和方案。其中，在加強協同共治，確保智能向善方面，李強指出，加強發展戰略、治理規則、技術標準等對接協調，推動建立普遍參與的國際機制，形成具有廣泛共識的治理框架和標準規范，確保人工智能發展安全、可靠、可控，始終符合人類的根本利益和價值標準。

目前，我國已出臺《智慧城市 人工智能技術應用場景分類指南》《信息技術 神經網絡表示與模型壓縮 第1部分：卷積神經網絡》《人工智能大規模預訓練模型 第2部分：評測指標與方法》《人工智能 機器學習系統技術要求》等多項人工智能領域相關標準。

隨著人工智能的快速發展，算法偏見、數據安全、隱私保護等問題日益凸顯，成為其健康發展的瓶頸。此時，標準化便顯得尤為重要。它如同一把尺子，衡量著人工智能技術的成熟度與安全性，確保技術的每一次躍進都能穩健前行。

在今天這次標準對話中，我們首先請田力先生談談我國在人工智能標準化領域的國際地位及未來發展方向；請孟令中先生談一談如何建立靈活、動態的標準化機制以適應人工智能技術的快速發展；請彭晉先生談一談針對數據隱私和安全問題，標準化應如何發揮作用以保障用戶權益；請徐洋女士談談如何通過標準化構建健康、可持續的人工智能產業生態；請張偉先生談一談標準化將如何推動人工智能技術在智慧城市、智慧醫療、智能制造等領域的深度應用。

我國在人工智能標準化領域的國際地位及未來發展方向

田力 中興通訊標準戰略部部長

我將基于中興通訊在人工智能領域的實踐經驗展開分享，為后續嘉賓的深入探討做個鋪墊。當前，人工智能已成為新一輪科技革命與產業變革的核心驅動力，在全球科技競爭中占據關鍵地位。自大模型出現以來，其對全球經濟、社會和治理體系產生了深遠影響。中興通訊積極響應，致力于將自身打造為“極致AI公司”，并將自身在信息通信技術（ICT）行業長期積累的基礎能力進行拓展，秉承開放的理念，與產業伙伴共同推動人工智能技術的標準化和模塊化發展，賦能千行百業。

標準化在人工智能領域的前沿競爭中至關重要，它是推動人工智能技術進步和產業應用落地的關鍵支撐。一方面，通過構建規則與規范，能夠促進人工智能創新與安全的協同發展。另一方面，標準化是技術成果轉化為產業應用的重要橋梁，有助于提升產業效率，為人工智能技術在各產業的有效落地保駕護航。

在國家政策層面，人工智能發展規劃辦公室已經成立，國家經濟規劃中也包含了人工智能相關的部署內容。尤其值得一提的是，2024年7月，四部委聯合發布了《國家人工智能產業綜合標準化體系建設指南》，該指南內容詳盡，涵蓋7個板塊、涉及50個細分領域，充分體現了國家在這方面的頂層規劃與細致部署。同時，國家網信辦很早就開展了人工智能監管立法工作，于2023年7月發布了《生成式人工智能服務管理暫行辦法》，2024年9月又出臺了文件，要求對人工智能生成的信息（如圖片、視頻等）添加標識，以便于監管識別。此外，數據要素與人工智能的發展密不可分，國家專門成立了國家數據局及全國數據標準化委員會，促進國家數據供給、流通、應用、安全保障等制度體系建立，支撐數據基礎設施建設，構建數據產業生態。在行業層面，工信部發起籌備人工智能技術標準化委員會，并于近期召開了成立大會，正式啟動相關的行業標準化工作。

從國際形勢來看，在人工智能技術標準化領域，中美競爭態勢較為突出。歐洲在監管方面走在前面，2024年7月發布了第一份人工智能法案，這是非常有借鑒意義的。我國在國際標準組織貢獻顯著，以ISO（國際標準化組織）、IEC（國際電工委員會）、ITU（國際電信聯盟）為例，在ISO/IEC JTC 1/SC 42 人工智能技術委員會中，中國專家擔任第五工作組的召集人與秘書職位，注冊專家一共55人，各工作組專家覆蓋率達100%，且主導研制了8項人工智能相關標準。在國際電信聯盟（ITU）中，雖沒有專門針對人工智能的研究組，但由于人工智能的高熱度，各個研究組都有所涉及。例如：SG13，它是一個跟未來網絡相關的研究組，中國專家擔任未來網絡與機器學習需求和架構報告人組的報告人，以及人工智能原生網絡（AI-Native Network）焦點組的副主席和4個子組的組長；在多媒體研究組（原SG 16，現SG 21），中國專家擔任人工智能賦能多媒體應用報告人組的組長。在 2022 年至 2024 年的研究周期內，中國牽頭制定了70余項人工智能基礎技術標準和10余項網絡智能化相關標準。同時，中國還在國際電信聯盟理事會層面積極推動成立人工智能專家組，這與在聯合國系統中推行人工智能治理理念相契合。同時，在一些行業組織，如3GPP（第三代合作伙伴計劃），在5G/6G標準制定中，人工智能相關的討論非?；钴S，中興通訊專家擔任R AN3工作組主席，對網絡智能化、智能運維、人工智能數據采集和交互等方面的標準化發揮著重要作用。在 IEEE（電子與電氣工程師協會） 中，涉及人工智能基礎技術治理和行業應用，其中中國一共牽頭制定了 40 多項技術標準。

關于人工智能的未來發展方向，我依據國家發布的《人工智能產業綜合標準化體系建設指南》，從底層到頂層依次分析。其中最關鍵最重要的是基礎設施，在智算基礎設施方面，特別是算力相關領域，雖然GPU 本身側重于性能競爭，但算力互聯標準更為關鍵。構建大規模計算中心需要大量 GPU 卡進行互聯，還有不同算力節點之間的互聯，其互聯性能直接影響推理和訓練效率。在這方面，中美呈現出競爭態勢。美國英偉達構建封閉系統，而AMD、英特爾等企業聯合打造開放生態，如芯片間互聯的UAlink（超高速互聯聯盟），以及服務器間互聯的UEC（超以太網聯盟）。從國際上來看，美國這兩派的陣營是非常明顯的。中國有些類似，多數企業對互聯持開放態度，但目前頭部企業都在各自構建自己的生態，標準不統一，未來需要加強協作，形成合力，以推動智算基礎設施的規模產業化。往上就是大模型和人工智能算法層面，重點在于建立分級分類標準，支撐大模型的推理能力、多模態支持、幻覺、安全等方面的評測和評估，以滿足各類應用需求。在應用層面，標準和產業組織可以匯聚各類優秀實踐案例并進行推廣，如ITU每年舉辦的 AIfor Good（人工智能向善峰會）活動，人工智能產業發展聯盟發布的先鋒案例合集等，通過將實踐經驗應用在各行各業進行規模復制，實現賦能新型工業化的效果。最后，在安全倫理治理方面，考慮新技術的兩面性，需要鼓勵和監管并舉。期望政府、企業、高校和科研機構等各方協同合作，引導人工智能向善發展，推動中國的人工智能治理理念和框架走向國際，形成符合我國價值觀的全球治理規則。

于欣麗點評：

田力先生跟我們分享了我國在國際人工智能標準化領域做出的成就以及發揮的作用，更重要的是，田力先生對我國發布的《人工智能產業綜合標準化體系建設指南》進行了分層的詳細介紹，感謝田力先生。

如何建立靈活、動態的標準化機制以適應人工智能技術的快速發展

孟令中 中科院軟件所副研究員

我們團隊長期參與人工智能標準的制定工作，承擔了一些工信部、科技部及國防的人工智能相關項目，在工作中積累了一定經驗，并形成了建立適應AI技術發展的標準化機制的思考。

在探討如何建立靈活和動態的標準化機制來契合AI技術的發展需求時，需著重考量以下幾個方面：首先，AI技術發展速度超乎尋常。例如，前兩年專注于國標神經網絡算法評估規范的制定，而近兩年間，生成式人工智能以及大模型等新興技術已迅速崛起。其次，AI技術的迅猛發展極大地推動了其在各領域應用的快速拓展。從早期的智能家居和智能網聯汽車領域，延伸至如今新涉足的鋼鐵行業、電力行業等諸多領域，AI解決方案的需求呈井噴式增長，且各類應用場景對相關解決方案的需求極為迫切。

AI技術發展對標準制定的影響就是標準的更新快，這體現在兩個方面。第一，ISO標準工作組的變化。從2018年ISO/IEC JTC1/SC 42成立至2024年，ISO工作組從最初的5個工作組發展到10個左右的工作組和聯合工作組，且工作組涵蓋的標準范圍從基礎共性技術拓展到應用、知識圖譜、大模型、生成式人工智能及算力等方面，發展極為迅速。第二，國標數量與要求的變化。2022年人工智能標準主要集中于術語方面，如今國標數量逐步增多。例如風險管理國標，2023年12月立項時要求18個月完成，今年上半年被要求縮短至12個月，這充分體現了對標準制定的迫切需求。

靈活的標準化機制主要表現在靈活輸入、靈活編制、靈活輸出和靈活展示4個方面。

（1）靈活輸入。國標制定的輸入來源不應局限于ISO/IEC JTC 1/SC 42人工智能標準采標，還應涵蓋美國的ANSI、歐盟等。除ISO/IEC SC 42外，SC 7軟件工程領域、SC 27智能網聯汽車領域以及歐盟智能網聯汽車的SAE標準等都可作為輸入。例如ISO/IEC SC 27在智能網聯汽車的預期功能安全合作及AI安全引入方面的工作，均涉及AI相關內容，均可為我國國標制定提供參考。此外，國內標準輸入最初主要在工作組內論證，今后可擴大范圍，逐步從產業界和學術界廣泛征集標準需求，使標準能更好地反映實際應用中的迫切要求。

（2）靈活編制。標準編制通常由牽頭單位組織、聯合單位參與。建議增加標準應用單位參與編制，在標準發布前開展應用工作，實現邊編制、邊應用、邊反饋、邊落地、邊完善，形成敏捷編制標準的模式，促進標準更好地落地實施。

（3）靈活輸出。輸出內容不應僅面向單一領域標準，應打通團標、行標和國標，同時向AI應用方面傾斜。輸出對象除技術外，更應注重人工智能標準的應用落地。

（4）靈活展示?？梢劳兄袊娮訕藴驶芯吭旱钠脚_，進一步展示標準編制過程與內容，尤其是標準應用情況，包括典型案例與培訓等，使應用單位更好地理解標準，推動標準落地。

動態的標準化編制，主要表現在動態立項和動態參編等兩個方面。

（1）動態立項。我國團標和國標立項可靈活參考ISO的SC 42、SC 7或SC 27等內容同步研究。鑒于知識產權問題，在保障前提下，針對重要標準在國內成立專門對應的工作組，由多位國內專家組成動態工作組，支撐對口專家向國際標準輸入，形成良好的輸入輸出動態，推動立項工作。

（2）動態參編。標準編制過程中，應根據AI技術在不同領域的應用差異進行動態調整，及時引入新技術領域的應用單位和技術單位，以適應AI標準時效性要求。同時，考慮參與國際標準制定的國內專家利用熟悉國際標準的優勢，動態牽頭相關國標落地工作，能提高標準制定效率。

可持續的標準化編制機制，建議包括以下4個方面。

（1）可持續的標準規劃。人工智能分委會的十幾個工作組每年制定標準規劃，規劃應動態調整，工作組間可聯合編制標準。這既能體現國際標準發展趨勢，又能突出各工作組重點，持續輸出標準，確保標準制定工作的可持續性。

（2）國際標準的可持續支撐。在60多位國內專家參與國際標準制定的優勢下，國內應形成動態研究工作組共同支撐。利用秘書長單位角色，持續向國際標準輸出成果，緊跟國際標準發展趨勢，做好相關立項工作。

（3）國內標準框架的持續性演進。AI技術發展迅速，團標內容易過時，需做好團標、行標到國標的持續演進，解決標準更新快的需求，建立可持續發展的方式與途徑。

（4）標準生態的可持續建設。標準工作涉及研制、應用、評估等多單位，是一個生態系統。應明確各角色職責，做好標準共享，通過平臺建設，使更多人使用標準，發揮標準最大作用，形成共享發展、可持續的局面，適應AI技術快速發展。

于欣麗點評：

孟令中先生基于豐富的實踐經驗，在標準化管理體制運行機制方面的認識極具價值，對標準化管理部門意義重大。其涉及靈活輸入、編制、輸出、展示與動態立項等內容，類似英國BSI的flash標準，該標準6個月一版，速度快于我國國標研制目標（24個月縮至18個月），其特點是頒布即修訂且未犧牲程序，靠協商機制，既使未能協商一致也可出臺標準。孟令中先生的觀點與之相似，強調立項、參編、牽頭等工作的動態性。其可持續性觀點包括要有規劃、持續支撐國際標準、推動國內標準框架演進及重視生態建設，以實現標準化工作可持續發展。

人工智能中的隱私保護和安全標準化

彭晉 螞蟻集團技術戰略發展部總監

當我們關注人工智能的隱私保護和安全相關話題時，標準是一個非常重要的框架和工具。標準的作用之一是明確產品服務應當遵從的不同層次的要求。對于數字產品和數字服務，數據安全、網絡安全、系統安全，以及包括隱私保護在內的用戶權益保護，都是各類產品和服務必須要考慮的一個部分。標準在這些方面形成了一個很好的共識機制，提升了公開透明性。安全要求來自多個方面，主要包括國家安全保障的需要，行業與企業健康良性發展的需求，用戶權益保護的需要等，這些需求和實現這些需求的方式也隨著技術的進步和社會的發展不斷演進。不斷演進的標準體系和應時而生的各級標準則將有利于整個行業遵循底線要求，以及不同上下文、不同層次的更高要求。

關于隱私保護和信息安全的標準，并不是人工智能系統特有的。在互聯網發展進程中，各級標準組織已經制定了包括個人信息保護、信息系統安全等級保護等一系列的國家標準。不同的行業，從不同的維度、不同的切入層測和切入點對信息系統、數據安全、網絡安全、云安全、APP安全、應用安全、產品安全、服務安全、開發過程安全、個人信息保護等建立了國標、行標、團標等各級標準，來規范治理要求、技術要求，并提供實施指南等。例如GB/T 35273—2020《信息安全技術 個人信息安全規范》就是個人信息保護的通用基線型國標，GB/T 41817—2022《信息安全技術 個人信息安全工程指南》從產品全生命周期的視角對個人信息保護給出具體指導，GB/T 22239—2019《信息安全技術 網絡安全等級保護基本要求》是關于網絡安全等級保護的一些基本要求等。人工智能、大模型的開發、部署、服務也需要遵循這些標準，對大模型都適用。但是人工智能中所涉及的新的范式，如機器學習、深度學習、大模型等智能體，對標準會有新的要求。

我國于2022年正式實施的《互聯網信息服務算法推薦管理規定》，對算法推薦服務提出向上向善、不得設置誘導用戶過度消費、加強內容管理、建立完善人工干預和用戶自主選擇機制等要求。該規定還特別針對用戶權益保護提出7條要求，包括保障算法知情權、保障算法選擇權、不得利用算法推薦服務誘導未成年人沉迷網絡、便利老年人安全使用算法推薦服務等。又比如國標GB/T 42888—2023《信息安全技術 機器學習算法安全評估規范》，針對機器學習算法從設計開發到退役下線全生命周期，提出了具體的安全要求；并且針對生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類五類算法給出了針對性的安全要求。

在國家新一代的人工智能標準體系里，安全和倫理是八個獨立的部分之一。網絡安全標準化技術委員會正在推進針對這一波大模型浪潮的生成式人工智能的安全治理標準，制定工作包括《網絡安全技術 生成式人工智能服務安全基本要求》，在語料安全、模型安全、數據標注安全等方面提出明確要求，并描述了實施機制和評估方法。《網絡安全技術 生成式人工智能預訓練和優化訓練數據安全規范》則規定了生成式人工智能預訓練和優化訓練數據及其處理活動的安全要求和對應的評價方法?！毒W絡安全技術 生成式人工智能數據標注安全規范》規定了生成式人工智能訓練的數據標注基礎安全要求、數據標注規則安全要求、標注人員要求、數據標注核驗要求和標注安全測試方法；《網絡安全技術 人工智能生成合成內容標識方法》則規定了人工智能生成合成內容顯式標識和隱式標識的方法。

在一些新的場景下，在人工智能具備越來越多的類人特性和能力的時候，其與人交互，以及執行任務的方式會發生改變，比如copilot的形態和Agent的形態。人工智能可以作為人的代理，幫助或者代替用戶完成一系列的人機交互的操作，在自身智能成熟之后，這種操作還將從用戶與APP、小程序之間的操作的基礎上，延伸到與物理世界的互操作。人工智能與用戶之間的交互邊界，決策邊界會涉及用戶的自主權的問題，這個邊界的界定原則，以及實際操作中的約束，溝通，協調等都可能需要新的標準。

另外，因為大模型的系統非常復雜，在各個技術層次上增加了新的風險敞口，從而也面臨很多新的攻擊方式，也需要新的標準來定義系統的安全要求、安全定級、測評測試方法等，這也是后面需要進一步開展的工作。

在美國，N I S T制定了N I S T A I 1 0 0 -1 《A I風險管理框架1.0》（A r tif icial Intelligenc e RiskManagement Framework，AI RMF）。主要是幫助組織去評估和管理人工智能在設計開發，部署和使用過程中面臨的風險。核心的目標是促進負責任的人工智能的開發和使用，確保倫理隱私和安全貫穿于人工智能系統的整個生命周期?；谶@樣的一個頂層設計，針對大模型，NIST又相繼發布了NIST AI 600-1《人工智能風險管理框架：生成式人工智能輪廓》（ArtificialIntelligenc e Risk Management Framewor k：Generative Artificial Intelligence Profile ），包括在知識產權算法偏見誤導性信息、有害信息這方面的一些關注；NIST AI 800-1《管理雙重用途的誤用風險基礎模型》（Managing Misuse Risk for Dual-UseFoundation Models ）：管理雙重用途的誤用風險的基礎模型的一些要求，就是對具有更加強大的算力，達到一定規模的人工智能，對它的安全性、保密性和可信度提出了一些新的指導方針，加強對它的監管。

歐盟則在2024年通過了《人工智能法案》，把人工智能分成四個風險等級，基于不同的風險等級進行監管，進行分類的程序要求，包括對透明度、數據保護等方面都會有一些差異性的要求。

國際標準化組織ISO/IEC JTC1 SC 42是制定人工智能ISO/IEC國際標準的子委員會，在2023年發布了非常重要的42001：2023《信息技術 人工智能 管理體系》，規定了在組織內建立、實施、維護和持續改進人工智能管理系統（AIMS）的要求。此外還有ISO/IEC TR 24028：2020《信息技術 人工智能 人工智能的可信賴性概述》國際標準研究報告，它是對人工智能可信度的一個概述。安全隱私可以看作是更為廣泛的人工智能，因為可信會超越安全和隱私，會引入更多的可用性、彈性、可靠性、準確性這方面的一些要求。作為一個可信的人工系統，至少是安全和可信的。

目前，國際國內政策和技術要求的標準層面，在宏觀和中觀層面相關的文件布局越來越完善，而在微觀的操作層面上，在可操作規范方面急需更多的標準建設，在技術要求類的標準上面可以形成更多可供產業參考實現的一些指南性的標準來更好地支撐大模型的構建和服務拓展。

一是建議在隱私保護和大模型的數據利用之間建立技術指導性的標準，比如針對個人信息保護中提到的匿名化的技術手段，在大模型訓練中如何實現？匿名化是指通過技術處理使得個人信息無法識別特定自然人且不能復原的過程。在大模型訓練這種將海量數據通過巨大算力進行壓縮的場景里面，怎樣才能做到去標識化的數據不能被復原呢？需要采取哪些控制手段把去標識化的個人信息做到匿名化的級別，從而能合規地利用？這個可以有更加細致的標準來進行明確。

二是在安全方面，可以結合針對大模型的安全攻擊的演進變化，進一步完善安全要求，并建立安全分級的標準。所有的安全措施都需要投入成本，也無法在任何環境下做到絕對的安全，那么在到底什么樣的環境下，我們要抵抗什么樣的安全攻擊，是一個安全分級的問題。安全分級的標準是在安全性與可用性以及成本之間的匹配的共識，更有利于在 To B 的生態里面更好地去進行標準的評估和采購，也更有利于保護用戶的信息安全。

三是在大模型的可解釋性和透明度上可以建立可行的、可操作、可度量的標準。針對深度學習的可解釋性仍然是一個學術難題，但做到一定程度的可解釋性和透明性是有可能的，恰當的透明度既有利于保障用戶權益又有利于在To B生態里面的模型產品選型，即使是簡單的模型信息披露也是有所助益的。

四是模型應用結合行業需求所需的標準。包括對垂類模型的專業度評價、倫理評價等方面的標準。從專業度的角度，如果用大模型來寫作文或者畫畫，對它的可信度的要求會相對低一些，甚至有時候我們會利用大模型的幻覺來搞一些新的創作，但是在一些嚴肅的行業應用里面，大模型的輸出是否專業準確就有不同的意義了，應有面向專業應用的度量，比如金融、醫療等應用。而且在不同的行業里面，倫理、合規的范疇也變得專業，需要有專門的標準去規制。

最后，我們剛才談到安全和隱私方面，大部分都是從治理的角度出發的。從發展的角度來看，其實大模型的應用也可以促進用戶權益的保護，比如用人工智能的算法來實現數字應用的普惠，比如通過人工智能應用來做數字應用的適老化以及幫助殘障人士使用數字化應用，消除數字化鴻溝，將來也可以在這些方面推進標準制定來支持業務發展，做到更加廣泛的用戶權益的保障。

于欣麗點評：

彭晉先生為我們分享了數據隱私和安全問題。在隱私保護和大模型的應用語境里，需要標準來指引和推進，還有在安全方面要綜合安全攻擊的演進，要結合安全攻擊的發展，根據不同的演進、不同的環境來進行標準的制定，要分等、分級、分類來要求，才能使標準更加具有適用性、才能更加好用。用戶的隱私保護標準的制定，要與行業實際相結合，要落地，標準的落地能夠引導行業的發展。另外是安全的隱私，從發展的角度看，大模型的應用也可以促進用戶權益的保護。

標準化引領高質量人工智能產業生態建設和發展

徐洋 中國電子技術標準化研究院信息技術研究中心人工智能研究室主任/高工

當前，黨中央、國務院高度重視人工智能發展，圍繞人工智能產業發展、賦能應用、安全治理等方面做出重要部署，推動人工智能與實體經濟深度融合、賦能新型工業化。標準化在人工智能產業發展過程中發揮著基礎性和引領性作用，對推動技術進步、加快產品落地、牽引生態建設、加強行業自律具有重要意義。如何以標準促發展成為各國關注的主題。

一、世界主要國家人工智能標準化建設情況

從國際方面看，各國正以前所未有的速度加緊人工智能政策布局，產業發展熱度空前高漲。與此同時，各國對人工智能標準的重視程度也達到了前所未有的高度。近兩年，美國發布了《關鍵新興技術標準戰略》和《戰略路線圖》《關于安全、可靠、可信賴地開發和使用人工智能的行政命令》《關于提升在標準制定中的參與度和領導力的建議》等4項與AI標準緊密相關的政策文件，著重強調要加強對標準預研的投資，以促進技術創新、前沿科學和轉化研究，從而推動其在國際標準發展中的領導地位。同時，授權國家標準與技術研究所（NIST）等機構開展人工智能風險管理（AI RMF）系列標準研制、建立基準、開發測試環境、制定全球參與計劃，以構建研究—標準—認證生態，為美國人工智能產業引領全球市場做準備。

歐盟今年正式發布《人工智能法案》，基于《人工智能法案》，授權CEN/CENLEC共同開展風險管理、數據質量、透明性等10項協調標準研制，并計劃于2025年12月前交付。通過標準將法案中較為模糊的基本要求轉化為具體的技術要求，推動人工智能產業的健康、有序發展。

由此可以看出，美國和歐盟雖然在標準化工作的方向和手段各有不同，但都是以標準為抓手，來搶占人工智能產業的全球主導地位和話語權。

二、國內產業現狀及存在問題

目前，在國家各相關部門的大力推動下，我國人工智能產業發展成效顯著。技術層面。圍繞算力、算法和數據等關鍵核心技術不斷突破，構建從智能芯片到算法框架到大模型的全棧式產業鏈，大模型技術迭代和產品不斷迭代升級。

產業生態層面，我國人工智能核心產業規模不斷提升，企業數量超過4500家，一批生態主導型龍頭企業和“專精特新”企業茁壯成長。依托人工智能創新應用先導區，形成了上海模速空間、北京全域人工智能之城、深圳人工智能先鋒城市等產業聚集區。

賦能應用層面，智能網聯汽車、人形機器人、醫療裝備等智能產品加速迭代，智能工廠、智能車間等新模式新業態不斷涌現。目前，我國已培育421家國家級智能制造示范工廠、萬余家省級數字化車間和智能工廠，成為推動人工智能賦能新型工業化的關鍵力量。

從全局上看，我國人工智能產業已經取得全面的發展。但同時，還存在產業生態小而散等問題。標準作為各利益相關方協調一致的產物，對整合產業資源，推動技術路線收斂，服務產業生態建設，增強技術和產品的適用性，提高人工智能產業發展質量發揮重要作用。

三、幾點考慮

（一）以標準匯聚產業發展強大合力。據統計，截至2023年底，我國人工智能核心產業規模接近5800億元，同比增速13.9%，核心企業數量超過4400家。解決供給方案不足、各行業智能化升級路徑不清晰等共性問題。從供給側和應用側統籌布局，系統化推進標準研制。聚焦人工智能能力、智能化場景、系統性解決方案等方面，通過標準的研制和應用推廣，規范產業制度、提升供給能力、推動典型應用場景落地。

（二）以標準引領前沿技術創新。目前大模型從單模態向多模態發展，以及向行業大模型發展。圍繞大模型訓練、推理、部署等全流程研制技術要求標準，并面向電力、鋼鐵、教育、醫療、交通等行業布局行業大模型標準，形成全面的大模型標準體系。二是要響應人工智能技術產業化需求，研制智能家居、智能個人計算機（AIPC）等智能產品標準，以及模型即服務（MaaS）、部署工具鏈等智能服務標準，推動大模型產品落地應用。三是積極響應人工智能技術發展趨勢，面向智能體、具身智能、群體智能等下一代人工智能創新技術，適度超前布局相關標準研制工作。

（三）以標準促產業智能化轉型升級。人工智能是發展新質生產力的重要引擎，與傳統產業、新興產業、未來產業深度融合，賦能千行百業數智化轉型。標準通過凝練行業共識，確定通用技術方案、統一接口規范，減少重復研發投入，節約行業智能化升級成本，支撐“人工智能+”高水平賦能。選擇重點工業行業開展標準研制和應用試點，將人工智能標準應用于研發設計、中試驗證、生產制造、運營管理等全流程關鍵環節，以關鍵場景應用為需求，牽引標準研制。通過典型案例的應用和推廣，形成跨行業、跨領域、跨大中小融通發展的人工智能標準推廣模式，高水平賦能工業制造體系。

（四）以標準規范產業發展安全治理和秩序。人工智能技術發展速度快于安全能力和治理機制建設，引發信息泄露、模型漏洞、算法歧視等多重挑戰，恐成為數字世界的“脫韁之馬”。標準對規范行業秩序、設立市場門檻具有重要作用，通過布局人工智能安全規范，能夠劃清技術紅線，保障安全底線。

（五）以標準促進全球國際交流合作。全球主要國家高度重視人工智能產業發展，將標準作為國際交流的通用技術語言、國際貿易的基本規則、國際市場的通行證。人工智能國際標準化促進了人工智能國際交流合作，促進國內先進的人工智能技術、產品走出去，為全球人工智能產業發展貢獻中國智慧。

四、幾點建議

（一）創新標準化組織建設模式。人工智能賦能傳統行業的應用過程中，打破了各行業之間的界限邊界和配套關系。在跨領域的融合過程中，標準化的協作成為關鍵。如何發揮好國家人工智能標準化總體組，統籌好各組織協作，更好發揮作用，成為關鍵。

（二）強化標準鏈和創新鏈協同。一是建立高效聯動機制，促進科技創新與標準創制供需對接，推動將先進適用的技術攻關成果快速轉化成標準。二是編制人工智能領域標準圖譜，開展國內外標準比對分析，明確標準長短板和發展規劃。三是加強全產業鏈標準化協作，推動人工智能技術研發、標準研制與專利布局同部署、同推動，促進產業鏈鍛長補短。

（三）強化重點標準供給保障和宣貫應用。一是瞄準產業急需，面向數據質量、評測基準、互聯互通等重點問題，“急用先行”研制相關標準規范。二是突出應用導向，加強跨行業、跨領域標準化技術組織的協作，協同推進人工智能與重點行業融合應用。三是加強示范推廣，推動行業協會、標準化技術組織等開展人工智能標準體系、重點標準的宣貫。

（四）強化國際交流競合與標準互通。一是支持相關單位積極參與ISO、IEC、ITU等國際標準化活動，貢獻中國方案，傳遞中國理念。二是凝聚產學研合力，組建多元化、高水平的人工智能國際標準專家團隊，不斷提升我國國際標準提案數量和質量。三是通過金磚國家、“一帶一路”倡議等國際合作機制，推動區域內標準互聯互通，提高中國標準影響力。

于欣麗點評：

徐洋主任跟我們分享了很多，我國人工智能發展情況是大模型多而不精，徐洋主任對此給出了非常好的建議，包括標準化組織建設模式創新、標準鏈與技術鏈有效銜接和協同、人工智能與傳統產業融合中體現標準的作用、加強國家標準之間的互聯互通和認證等等，以此來促進人工智能產業的發展。

標準化將如何推動人工智能技術在智慧城市、智慧醫療、智能制造等領域的深度應用

張偉 寶武中央研究院數智中心/寶鋼股份數據AI部主任

一、人工智能應用正在不斷深化，規模正在快速擴大

人工智能是引領新一輪科技革命和產業變革的基礎性和戰略性技術，正成為發展新質生產力的重要引擎。在智慧城市、智慧醫療、智能制造等領域，AI技術的應用已逐步滲透并展現出巨大的經濟貢獻。2017年國務院印發的《新一代人工智能發展規劃》中預測，2025年新一代人工智能在智能制造、智能醫療、智慧城市、智能農業等領域得到廣泛應用，人工智能核心產業規模將超過4000億元。根據《中國新一代人工智能科技產業發展報告2024》的數據，2023年我國人工智能核心產業規模為5784億元，發展速度遠遠超過規劃。這組數據說明人工智能技術在智慧城市、智慧醫療、智能制造等領域的應用正在不斷深入、規模不斷擴大，這是標準化推動深度應用這一話題的前提和基礎。

馬里蘭大學杰出教授、工業人工智能中心主任李杰指出，無論中美，都在加大利用落地的人工智能技術解決疾病治療、交通堵塞、投資決策等實質問題。比如人工智能賦能醫療，在美國一款藥品從開發到最終上市大約要18年時間，最后7年是臨床試驗期，無法縮短。前面11年可以在人工智能的幫助下縮短開發、驗證的過程，幫助很多人更早擺脫對應疾病的威脅。

在智慧城市建設中，推動智能基礎設施和高效治理。AI技術被廣泛應用于交通管理、能源管理、環境監控和公共安全等方面。例如，通過AI分析交通數據，可以智能調控交通信號，緩解城市交通擁堵；通過大數據與AI的結合，可以優化能源使用，提升資源利用效率。然而，智慧城市的構建涉及不同的系統與設備，如何確保數據共享、設備兼容、系統協同工作，是AI技術落地的關鍵問題。標準化在這一過程中發揮著重要作用。統一的數據格式、通信協議、接口標準等能夠確保不同設備與系統的互聯互通，推動智慧城市的高效運營與智能化治理。

在智慧醫療領域，提升醫療服務的質量與效率。AI技術已經在疾病診斷、個性化治療、遠程醫療等方面取得了顯著進展。例如，AI可以通過分析醫學影像輔助醫生診斷，或者通過算法預測疾病風險。然而，醫療行業涉及大量敏感數據和多種技術平臺，AI應用的標準化同樣至關重要。醫療數據的標準化可以確保各醫療機構之間的信息互通與共享，避免數據孤島；而診療算法的標準化能夠保證不同系統中AI模型的有效性與準確性，避免因技術差異導致的診斷誤差。制定統一的標準，將幫助構建一個更加高效、可靠的智慧醫療生態。

在智能制造領域，提升生產效率與智能化水平。通過機器學習和深度學習技術，AI能夠分析生產過程中的大量數據，優化生產線的效率，提升產品的質量。然而，智能制造往往涉及不同類型的設備與技術平臺，如何確保這些設備間的協作與兼容，這就需要依賴于一套清晰的標準化體系。標準化的工作應包括AI應用場景標準、工業數據治理標準、AI算法的驗證標準等，這將提升制造過程中的自動化水平與生產效率。特別是鋼鐵、石化化工、有色金屬、建材等具有流程制造屬性的原材料工業處于既要守住傳統優勢陣地，又要構建新材料等新的增長引擎，加快培育新質生產力的發展新階段。原材料工業流程復雜、工序長、耦合性強，利用人工智能技術解決跨工序、跨界面的應用場景多、潛力大。以鋼鐵行業領軍企業中國寶武鋼鐵集團有限公司為例，作為國資央企，中國寶武對人工智能技術高度重視，在新一輪規劃中明確重點開展人工智能及冶金行業大模型應用，打造一批大數據、人工智能與鋼鐵深度融合的典型示范項目，塑造鋼鐵行業智能化新優勢。

AI賦能行業不斷深化、應用規模不斷擴大，急需標準化的引導與支撐。標準化不僅能夠為AI技術提供統的規范與框架，還能夠促進技術互聯互通、數據共享和系統兼容性，從而推動人工智能技術的應用。

二、標準化推動人工智能深度應用的進展

人工智能技術賦能行業要求新一代信息通信技術與領域技術深度融合，貫穿到業務活動的各個環節，具備感知、學習、決策、執行、適應等新型功能。融合的模式、路徑和應用的場景涉及大量全新實踐和經驗總結，從標準化角度正在開展3方面工作：（1）厘清概念、統一語言、形成共識；（2）頂層設計、構建體系、形成架構；（3）需求驅動、形成標準、推廣應用。

國際標準化組織（ISO）、國際電工委員會（IEC）等標準化組織先后成立智能制造或組建全球先進工業系統組，推進全球智能制造技術體系的統一和協調。國家標準化管理委員會落實《中國制造2025》中明確的制造業標準化提升計劃，推進智能制造技術標準研制。

2024年6月，工業和信息化部等四部門印發《國家人工智能產業綜合標準化體系建設指南（2 0 24版）》。指南從五大方面闡述了人工智能產業標準體系的總體要求、建設思路，特別發布了人工智能標準體系結構圖和框架圖。指南指出，人工智能產業鏈包括基礎層、框架層、模型層、應用層4個部分。其中，基礎層主要包括算力、算法和數據，框架層主要是指用于模型開發的深度學習框架和工具，模型層主要是指大模型等技術和產品，應用層主要是指人工智能技術在行業場景的應用。人工智能標準體系結構包括基礎共性、基礎支撐、關鍵技術、智能產品與服務、賦能新型工業化、行業應用、安全/治理7個部分。這份指南既體現了標準體系建設的重要性，又為后續人工智能標準化提供了總體方向。

另一方面，業務端在人工智能技術應用方面也在快速發展。以中國寶武為例，在制造管理、供應鏈決策、關鍵制造工序等開展了大量人工智能技術研發，開展了較廣泛的人工智能技術應用，包括服務鋼鐵產品質量的機器視覺、深度學習技術應用，服務鋼鐵關鍵工序控制的神經網絡、隨機森林技術應用，服務“一總部、多基地”供應鏈的組合優化、決策樹技術應用，同時開展了一批冶金行業專用機器人系統研發。未來3年全面布局人工智能模型能力，形成決策型、控制型、感知型鋼鐵行業人工智能。這對標準制定提出了緊迫需求，也為標準制定提供海量應用場景。

為此，全國信息技術標準化技術委員會人工智能分委員會創新工作模式，成立鋼鐵、電力、石化等行業應用工作組，從應用端和技術供給端雙向發力，推動標準化。寶鋼股份作為鋼鐵應用工作組組長，推動研制了《人工智能 鋼鐵大模型技術要求》《人工智能 鋼鐵生產過程知識圖譜構建技術要求》和《人工智能 鋼鐵生產冶煉過程智能決策的數據處理與模型構建技術要求》等多項行業標準，已獲立項，正在研制《人工智能鋼鐵大模型數據集》等標準，推動“人工智能+鋼鐵”統一語言，形成架構。同時，開展《人工智能賦能鋼鐵行業典型場景圖譜》《人工智能鋼鐵大模型數據集技術要求》《人工智能 煉鋼生產計劃排程與調度優化系統技術要求》等指導應用的標準研制。

據統計，“十三五”以來，在智能制造領域已累計發布國家標準394項，其中基礎共性標準109項、關鍵技術標準280項、行業應用標準5項，牽頭制定了48項國際標準（歐陽勁松，《從國內外標準化實踐看智能制造技術發展》，中國儀器儀表，2024年）。這些標準為推動智能制造，提升國際影響力起到了重要作用。

三、標準化推動人工智能深度應用的思考與建議

（1）跨界面，體現標準的系統性、融合性。人工智能技術賦能行業的標準對象廣，技術交叉多（劉斕冰，《鋼鐵行業智能制造標準化成效與展望》，工業技術創新，2023年）。需要重點圍繞跨領域、跨層次、跨界面的系統集成開展標準化，形成數據、算力、算法和應用融合的標準體系。首先，數據標準化是AI技術成功應用的基礎，統一的數據格式與交換標準能夠保證數據在不同平臺間的流動與共享。其次，算法標準化也至關重要，特別是AI算法的透明性和可解釋性，以確保AI決策的可信度與公正性。此外，安全性標準是標準化工作中的關鍵內容。隨著AI技術的應用范圍日益擴大，如何確保AI系統的安全性、數據隱私保護以及防止算法濫用，需要制定嚴格的安全標準。以鋼鐵行業為例，具有流程長、工序界面多、生產體系復雜、單/多基地管控模式多樣等特點，跨工序、跨界面的協同管控與優化是人工智能應用的重大場景，也是標準化工作的重大潛力?？梢試@新一代信息技術應用，制定工業大數據平臺、數據治理、檢測方法、評價模型、網絡安全等規范/規程/指南類標準；圍繞鐵鋼軋大工序邊側智能工廠、單基地及企業多基地協同管控等，制定質量、物流、能源環保、安全、設備等分層集成優化管控等規范或規程類標準；圍繞上料、生產、下料等環節，制定鐵鋼軋各工序的生產過程智能化控制、輔助工序智能化、數字孿生及工序銜接等規范或規程類標準；圍繞質量缺陷檢測、性能檢驗及工序界面轉運等場景，制定智能檢測裝備、工業機器人及無人運輸裝備等智能裝備類規范/規程/指南類標準；制定面向行業的智能工廠評價、能力評估等實施指南標準。

（2）強布局，體現標準的時效性、引領性。人工智能、大數據和信息化技術迭代快，發展快，要跟上技術進展的步伐，既避免炒熱點跟熱點影響標準的權威性準確性，又避免過于保守錯失新技術新應用的標準化。提前研究技術成熟度及其與工業要求的適配性，制訂一批新技術應用制造過程的“技術要求”標準，以科學引導和強化新技術對制造業提質增效的“倍增器”作用（歐陽勁松，《從國內外標準化實踐看智能制造技術發展》，中國儀器儀表，2024年）。

（3）重實效，體現標準的實用性和價值性。堅持場景和需求驅動，從應用中來，回到應用中去，讓標準具有生命力。應用場景的標準化，通過制定AI賦能行業場景圖譜相關標準，識別并引導高價值應用場景，提升AI賦能行業質量。2024年，工業和信息化部科技司開展《人工智能賦能新型工業化典型應用》案例征集遴選工作，151項案例入選。工信部電子標準院組提出將這些重點場景優先孵化為國家標準、行業標準，充分體現了需求驅動標準化這一原則。再具體而言，鋼鐵工作組2025年工作計劃中納入了《煉鋼生產計劃排程標準》和《鋼鐵企業轉底爐智能控制系統》兩項具體工作，其原因就是可以幫助鋼鐵企業創造顯著的經濟效益，同時應用了較多的人工智能技術，處于國際領先，未來有望申報國際標準，體現中國的引領地位。

于欣麗點評：

張偉先生從應用層面對人工智能的一些標準進行了評論，提出了需求推動標準這一原則，并且張偉先生也提出了行業應用要與標準的供給端結合起來、融合起來，共同推進人工智能的標準化工作。