我國人工智能倫理治理標(biāo)準(zhǔn)化發(fā)展現(xiàn)狀分析

摘 要：人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動力，正進入飛速發(fā)展期，在給人類帶來積極影響的同時，也帶來了對倫理治理的反思。標(biāo)準(zhǔn)作為行業(yè)發(fā)展的重要牽引，是人工智能治理的關(guān)鍵要素。本文首次對我國人工智能倫理治理標(biāo)準(zhǔn)體系進行了梳理和分析，包括標(biāo)準(zhǔn)化組織、標(biāo)準(zhǔn)內(nèi)容和類型分布、標(biāo)準(zhǔn)起草單位等，明確了我國人工智能倫理治理的標(biāo)準(zhǔn)化現(xiàn)狀以及存在問題，對提升人工智能倫理治理標(biāo)準(zhǔn)化水平、促進人工智能健康發(fā)展具有參考意義。

關(guān)鍵詞：人工智能，倫理治理，標(biāo)準(zhǔn)化

DOI編碼：10.3969/j.issn.1002-5944.2024.23.006

0 引 言

作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動力，我國人工智能（AI）技術(shù)進入飛速發(fā)展期，AI技術(shù)在各個領(lǐng)域的滲透率不斷提升，隨之而來的算法歧視、隱私泄露、偏見和歧視等倫理問題也日益凸顯。人工智能技術(shù)給人類帶來積極影響的同時，也帶來了對倫理治理的反思。

標(biāo)準(zhǔn)是行業(yè)發(fā)展的重要牽引，人工智能產(chǎn)業(yè)的高質(zhì)量發(fā)展離不開標(biāo)準(zhǔn)化支撐，標(biāo)準(zhǔn)也將成為人工智能治理的關(guān)鍵要素[1]。本文將通過統(tǒng)計分析國內(nèi)人工智能倫理治理相關(guān)標(biāo)準(zhǔn)，以明晰我國人工智能倫理治理的標(biāo)準(zhǔn)化現(xiàn)狀及存在問題，為提升人工智能倫理治理標(biāo)準(zhǔn)化水平，促進人工智能健康發(fā)展提供參考。

1 我國人工智能倫理治理發(fā)展現(xiàn)狀

近年來，我國高度重視人工智能的健康發(fā)展和治理，出臺了一系列的戰(zhàn)略和政策。早在2017年，國務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》就提出要制定促進人工智能發(fā)展的法律法規(guī)和倫理規(guī)范。2019年，《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》提出了人工智能治理的框架和行動指南，這是我國在國家層面制定的首個發(fā)展人工智能治理原則[2]。2021年，《新一代人工智能倫理規(guī)范》提出了六項基本倫理規(guī)范：增進人類福祉、促進公平公正、保護隱私安全、確保可控可信、強化責(zé)任擔(dān)當(dāng)、提升倫理素養(yǎng)。2022年，中共中央辦公廳、國務(wù)院辦公廳印發(fā)《關(guān)于加強科技倫理治理的意見》，將“倫理先行”作為科技倫理治理的要求之一[3]。2023年6月發(fā)布的《國務(wù)院2023年度立法工作計劃》中明確將《人工智能法》列入立法規(guī)劃。2023年8月世界上第一個有關(guān)生成式人工智能的成文法《生成式人工智能服務(wù)管理暫行辦法》生效實施。2023年10月，我國發(fā)布《全球人工智能治理倡議》，圍繞人工智能發(fā)展、安全、治理三方面系統(tǒng)闡述了人工智能治理中國方案。2024年，黨的二十屆三中全會也提出“要完善生成式人工智能發(fā)展和管理機制”“加強網(wǎng)絡(luò)安全體制建設(shè)，建立人工智能安全監(jiān)管技術(shù)”。

2 我國人工智能倫理治理標(biāo)準(zhǔn)化發(fā)展現(xiàn)狀

國家標(biāo)準(zhǔn)化管理委員會等五部門于2020年聯(lián)合印發(fā)了《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》，將“安全/倫理”劃分為我國人工智能標(biāo)準(zhǔn)體系的重要組成部分[1]。2024年7月，工業(yè)和信息化部等四部門印發(fā)《國家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南（2024版）》，“安全治理”作為需要成為被重點關(guān)注七個版塊之一。

2.1 我國人工智能倫理治理標(biāo)準(zhǔn)化組織

國內(nèi)負(fù)責(zé)人工智能倫理治理的標(biāo)準(zhǔn)化技術(shù)委員會主要有3個，協(xié)會有2個，分別致力于不同領(lǐng)域的研究。全國信息技術(shù)標(biāo)準(zhǔn)化委員會人工智能分技術(shù)委員會TC 28/SC 42于2020年2月成立，主要負(fù)責(zé)人工智能基礎(chǔ)、技術(shù)、風(fēng)險管理、可信賴、治理、產(chǎn)品及應(yīng)用等人工智能領(lǐng)域國家標(biāo)準(zhǔn)制定與修訂工作。同年8月，TC 28/SC 42下設(shè)可信賴研究組，重點關(guān)注人工智能倫理符合性，開展人工智能系統(tǒng)可信賴要素研究。全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會TC 260負(fù)責(zé)組織開展國內(nèi)信息安全有關(guān)的標(biāo)準(zhǔn)化技術(shù)工作，重點關(guān)注人工智能自身、基礎(chǔ)共性的安全發(fā)展標(biāo)準(zhǔn)等，全國汽車標(biāo)準(zhǔn)化技術(shù)委員會智能網(wǎng)聯(lián)汽車分技術(shù)委員會TC 114/SC 34致力于自動駕駛安全方面的標(biāo)準(zhǔn)研究。兩個協(xié)會分別是中國電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會和中國通信標(biāo)準(zhǔn)化協(xié)會，分別重點研究機器學(xué)習(xí)和可信賴標(biāo)準(zhǔn)，詳見表1。

2.2 人工智能倫理治理標(biāo)準(zhǔn)狀況分析

根據(jù)全國標(biāo)準(zhǔn)信息公共服務(wù)平臺的數(shù)據(jù)統(tǒng)計（截至2024年8月），我國現(xiàn)有人工智能倫理治理相關(guān)標(biāo)準(zhǔn)125項，其中國家標(biāo)準(zhǔn)70項，行業(yè)標(biāo)準(zhǔn)11項，團體標(biāo)準(zhǔn)44項（因我國人工智能倫理治理方面標(biāo)準(zhǔn)團體標(biāo)準(zhǔn)居多，故列入統(tǒng)計），具體分布如圖1所示。

國家標(biāo)準(zhǔn)中，32項由TC 260全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會歸口，標(biāo)準(zhǔn)集中在治理技術(shù)的數(shù)據(jù)清洗和測試評估方面。26項由TC 28全國信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會歸口，其中24項由TC 28/SC 42全國信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會人工智能分技術(shù)委員會執(zhí)行，標(biāo)準(zhǔn)集中在人工智能倫理治理的基礎(chǔ)部分、風(fēng)險管理、可信賴、治理以及行業(yè)應(yīng)用方面。7項由TC 114全國汽車標(biāo)準(zhǔn)化技術(shù)委員會歸口，2項由TC230全國地理信息標(biāo)準(zhǔn)化技術(shù)委員會歸口，1項由TC576全國道路交通管理標(biāo)準(zhǔn)化技術(shù)委員會歸口，標(biāo)準(zhǔn)均集中在自動駕駛方面。剩余2項分別由工業(yè)和信息化部和TC 83全國電子業(yè)務(wù)標(biāo)準(zhǔn)化技術(shù)委員會歸口，研究智能電商方面的標(biāo)準(zhǔn)。

行業(yè)標(biāo)準(zhǔn)中，8項由中國通信標(biāo)準(zhǔn)化協(xié)會（CCSA）歸口，標(biāo)準(zhǔn)集中在隱私保護、數(shù)據(jù)治理方面，3項由中國電子技術(shù)標(biāo)準(zhǔn)化研究院歸口，標(biāo)準(zhǔn)集中在行業(yè)應(yīng)用方面。

團體標(biāo)準(zhǔn)中，18項由中國電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會（CESA）歸口，標(biāo)準(zhǔn)涉及基礎(chǔ)公共性、治理技術(shù)、管理和行業(yè)應(yīng)用方面。4項由中國電子信息行業(yè)聯(lián)合會（CFEII）歸口，標(biāo)準(zhǔn)主要集中在人工智能系統(tǒng)魯棒性研究方面。4項由中關(guān)村視聽產(chǎn)業(yè)技術(shù)創(chuàng)新聯(lián)盟（AITISA）歸口，標(biāo)準(zhǔn)集中在安全隱私保護方面。

2.3 標(biāo)準(zhǔn)內(nèi)容分布

按照人工智能倫理治理標(biāo)準(zhǔn)化指南（2023版）中的《人工智能倫理治理標(biāo)準(zhǔn)體系框架》，人工智能倫理治理標(biāo)準(zhǔn)可以細(xì)化成4個一級分類、16個二級分類[1]。按照標(biāo)準(zhǔn)體系框架劃分，在人工智能倫理治理現(xiàn)行標(biāo)準(zhǔn)中，基礎(chǔ)共性標(biāo)準(zhǔn)28項、治理技術(shù)標(biāo)準(zhǔn)61項、管理標(biāo)準(zhǔn)9項、行業(yè)應(yīng)用標(biāo)準(zhǔn)27項，詳見表2。

治理技術(shù)標(biāo)準(zhǔn)和行業(yè)應(yīng)用標(biāo)準(zhǔn)是占比相對較大的兩個子體系。治理技術(shù)標(biāo)準(zhǔn)占比最高，達48.8%，將近一半。其中數(shù)據(jù)清洗標(biāo)準(zhǔn)22項，倫理符合設(shè)計標(biāo)準(zhǔn)39項，人機價值對齊方面暫未有標(biāo)準(zhǔn)發(fā)布。數(shù)據(jù)清理標(biāo)準(zhǔn)是針對數(shù)據(jù)訓(xùn)練、數(shù)據(jù)測試等關(guān)鍵數(shù)據(jù)處理的環(huán)節(jié)，針對人工智能倫理方面的數(shù)據(jù)集質(zhì)量要求，以及緩解人工智能倫理問題的數(shù)據(jù)處理方法。倫理符合設(shè)計標(biāo)準(zhǔn)則是根據(jù)國務(wù)院《關(guān)于加強科技倫理治理的意見》明確的五項科技倫理原則，梳理出基于標(biāo)準(zhǔn)化視角的人工智能倫理符合設(shè)計的五大重點倫理準(zhǔn)則，包含隱私性（隱私保護設(shè)計、個人數(shù)據(jù)權(quán)力等）、安全性（包括內(nèi)外部完全、風(fēng)險控制等）、魯棒性（主要包括算法安全評估、算法違規(guī)處置及數(shù)據(jù)安全管理）、公平性（公平、公正、包容性、合理分配無歧視和偏見）、透明性（可解釋、可預(yù)測及可溯源等）。倫理符合設(shè)計標(biāo)準(zhǔn)中有24項標(biāo)準(zhǔn)集中在安全性上，包括網(wǎng)絡(luò)、數(shù)據(jù)以及信息安全，6項標(biāo)準(zhǔn)集中在魯棒性方面，表明目前在人工智能安全性以及魯棒性方面引起了足夠的重視。

倫理治理應(yīng)用標(biāo)準(zhǔn)占比24.8%，應(yīng)用集中在自動駕駛和智能機器人方面。人工智能自動駕駛的飛速發(fā)展，其涉及的倫理問題也日益凸顯，包括生命優(yōu)先權(quán)的抉擇、發(fā)生事故時的責(zé)任歸屬問題，以及自動駕駛大模型需要大量的數(shù)據(jù)，數(shù)據(jù)的隱私以及保護。因此，近兩年涌現(xiàn)出一批關(guān)于自動駕駛的安全測試、仿真測試、數(shù)據(jù)安全處理的標(biāo)準(zhǔn)，以此來規(guī)范自動駕駛的倫理問題。智能機器人亦如此，涉及隱私保護、決策權(quán)等，也是屬于倫理高風(fēng)險高敏感的領(lǐng)域。

2.4 標(biāo)準(zhǔn)起草單位

人工智能倫理治理標(biāo)準(zhǔn)起草的單位一共有790家，其中企業(yè)578家，占比74.1%；科研院所66家，占比8.52%；高等院校63家，占比8.1%；標(biāo)準(zhǔn)化研究機構(gòu)5家，占比0.6%；其他機構(gòu)包括公共管理部門、行業(yè)協(xié)會、非研究性事業(yè)單位、技術(shù)聯(lián)盟及1專項委員會等共78家，占比10%。

企業(yè)參與人工智能倫理治理標(biāo)準(zhǔn)起草共1258次，平均每家參與2 . 2次，其中主導(dǎo)4 4次，主導(dǎo)率0.35；科研院所參與起草258次，平均每家參與3.9次，其中主導(dǎo)24次，主導(dǎo)率0.19；高等院校參與起草162次，平均每家參與2.6次，其中主導(dǎo)2次，主導(dǎo)率0.02；標(biāo)準(zhǔn)化研究機構(gòu)參與起草79次，平均每家參與15.8次，其中主導(dǎo)44次，主導(dǎo)率0.35；其他技術(shù)機構(gòu)參與起草161次，平均每家參與2.1次，有11次主導(dǎo)，主導(dǎo)率0.09（詳見圖2）。

整體來看，企業(yè)是參與人工智能倫理治理標(biāo)準(zhǔn)起草的主要力量，但是從參與頻次上來看，標(biāo)準(zhǔn)化機構(gòu)、科研院所以及高等院校的活躍度是遠(yuǎn)遠(yuǎn)高于企業(yè)的，尤其是標(biāo)準(zhǔn)化機構(gòu)起主要作用。

參與人工智能倫理治理標(biāo)準(zhǔn)起草10次以上的機構(gòu)有30家（詳見表3），其中參與和主導(dǎo)次數(shù)最多的是中國電子標(biāo)準(zhǔn)化技術(shù)研究院，它不僅是TC 28/SC 42的秘書處所在單位，也是中國電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會的副理事長單位，自身的標(biāo)準(zhǔn)化活躍度非常高，對同行業(yè)的其他機構(gòu)也有非常好的帶動作用。其參與研制的標(biāo)準(zhǔn)類別較全面，在測試評估、數(shù)據(jù)清洗、倫理符合設(shè)計、管理以及行業(yè)應(yīng)用方面均有涉及。華為技術(shù)有限公司、百度網(wǎng)訊科技有限公司、上海商湯科技開發(fā)有限公司、中國信息通信研究院這幾家單位標(biāo)準(zhǔn)起草次數(shù)都超過20次。它們各有側(cè)重領(lǐng)域，華為技術(shù)有限公司和北京百度網(wǎng)訊科技有限公司側(cè)重于數(shù)據(jù)清洗、可信賴方面，上海商湯科技參與研究的主要是智能媒體、智能機器人以及設(shè)計開發(fā)方面的標(biāo)準(zhǔn)。中國通信研究院參與的則主要是數(shù)據(jù)安全治理方面的標(biāo)準(zhǔn)。

3 結(jié) 論

本文首次對國內(nèi)人工智能倫理治理標(biāo)準(zhǔn)進行了梳理和分析，顯示出我國人工智能倫理治理的一些特點。目前，我國人工智能倫理治理標(biāo)準(zhǔn)還比較少，不夠系統(tǒng)和完善，尚處于起步階段。標(biāo)準(zhǔn)類型以國家標(biāo)準(zhǔn)和團體標(biāo)準(zhǔn)為主，行業(yè)標(biāo)準(zhǔn)只集中在某個方面。大多數(shù)的標(biāo)準(zhǔn)為規(guī)范或者指南，以指導(dǎo)性為主，且標(biāo)準(zhǔn)集中在數(shù)據(jù)治理和應(yīng)用方面，管理方面、設(shè)計方法類和測試類的非常少。標(biāo)準(zhǔn)化機構(gòu)和企業(yè)是人工智能倫理治理標(biāo)準(zhǔn)研究的主力軍，標(biāo)準(zhǔn)化機構(gòu)在參與頻次和主導(dǎo)率方面遠(yuǎn)遠(yuǎn)高于企業(yè)，企業(yè)參與更多的是應(yīng)用方面的標(biāo)準(zhǔn)，針對某個領(lǐng)域，我國人工智能倫理治理的標(biāo)準(zhǔn)發(fā)展尚未跟上產(chǎn)業(yè)和技術(shù)的發(fā)展速度。

標(biāo)準(zhǔn)作為“軟法”其實是一種非常重要的治理工具，應(yīng)當(dāng)進一步完善人工智能倫理治理的標(biāo)準(zhǔn)化體系，在核心技術(shù)、測試方法評估以及管理類完善更多的標(biāo)準(zhǔn)，將標(biāo)準(zhǔn)“軟法”與治理“硬法”有效協(xié)同，促進人工智能產(chǎn)業(yè)的高質(zhì)量健康發(fā)展。

參考文獻

[1]人工智能倫理治理標(biāo)準(zhǔn)化指南（2023版）[Z].2023.

[2]楊婕.推動完善我國新一代人工智能倫理治理體系[J].信息安全與通信保密，2020（1）：93-101.

[3]周燁.加快構(gòu)建特色科技倫理體系不斷推動科技向善造福人類——中辦、國辦印發(fā)《關(guān)于加強科技倫理治理的意見》[J].中國科技產(chǎn)業(yè)期刊，2022（4）：20-21.

作者簡介

季煒煒，通信作者，碩士，高級工程師，研究方向為質(zhì)量管理與標(biāo)準(zhǔn)化。

陳翔，碩士，工程師，研究方向為質(zhì)量管理與標(biāo)準(zhǔn)化。

徐欽，碩士，高級工程師，研究方向為質(zhì)量管理與標(biāo)準(zhǔn)化。

（責(zé)任編輯：張佩玉）