TTC框架下歐盟和美國人工智能標(biāo)準(zhǔn)化合作重點分析

文/張笑雪 戴宇欣

自2021年歐盟和美國成立歐美貿(mào)易技術(shù)理事會（TTC）以來，人工智能已經(jīng)成為其在新興技術(shù)領(lǐng)域?qū)で髽?biāo)準(zhǔn)突破的重點領(lǐng)域。本文分析了歐盟和美國在TTC框架下共同開展人工智能標(biāo)準(zhǔn)化工作的主要行動、趨勢和特點，為我國推動人工智能等新興技術(shù)領(lǐng)域標(biāo)準(zhǔn)化發(fā)展提供參考與借鑒。

一、主要行動

人工智能是TTC技術(shù)標(biāo)準(zhǔn)工作組的重點工作領(lǐng)域，其標(biāo)準(zhǔn)化工作的主要行動包括以下5個方面。

1.統(tǒng)一歐盟和美國標(biāo)準(zhǔn)路線和共識

TTC以可信賴和風(fēng)險評估為核心，建立了歐盟和美國共同的標(biāo)準(zhǔn)路線圖和實施計劃，提出短期和長期目標(biāo)。短期目標(biāo)注重建立合作渠道，分析歐盟、美國和國際標(biāo)準(zhǔn)中的術(shù)語和分類，確定重點標(biāo)準(zhǔn)，開發(fā)評估工具等；長期目標(biāo)是對短期目標(biāo)的深化，包括促進(jìn)國際標(biāo)準(zhǔn)的參與和領(lǐng)導(dǎo)，加強對術(shù)語和分類標(biāo)準(zhǔn)的統(tǒng)一理解，深化標(biāo)準(zhǔn)、工具和合作，監(jiān)測、識別和預(yù)判新的風(fēng)險。

在實施上，歐盟和美國吸收各方經(jīng)驗，廣泛收集國際和民間標(biāo)準(zhǔn)組織、經(jīng)濟合作與發(fā)展組織（OECD）的意見，分析美國《人工智能風(fēng)險管控框架》《人工智能權(quán)利法案藍(lán)圖》和歐盟《歐盟人工智能法案》等政策文件，以平衡各方需求，力求最大程度地獲得共識。

2.推進(jìn)關(guān)鍵標(biāo)準(zhǔn)制定

目前，TTC重點聚焦兩類標(biāo)準(zhǔn)：一類是術(shù)語和分類，另一類是風(fēng)險測量。

① 術(shù)語和分類

2023年5月，TTC發(fā)布了《歐盟—美國人工智能術(shù)語和分類法》（第一版），對人工智能生命周期、測量、技術(shù)系統(tǒng)屬性、治理、可信賴等術(shù)語進(jìn)行定義，并完成了對該術(shù)語清單的首輪意見征集。

② 風(fēng)險測量

圍繞人工智能可信度、風(fēng)險測量指標(biāo)和方法等，歐盟和美國共同開展了評估方法標(biāo)準(zhǔn)研究，啟動搭建包含人工智能可信度測量指標(biāo)、風(fēng)險管理方法等工具的線上公開數(shù)據(jù)庫，對人工智能風(fēng)險進(jìn)行互操作性測試和評估。

3.規(guī)范人工智能企業(yè)行為

針對人工智能企業(yè)行為規(guī)范方面的立法空白，歐盟和美國在TTC合作框架的推動下向七國集團(tuán)（G7）提交了關(guān)于人工智能行為準(zhǔn)則的跨大西洋聯(lián)合提案，制定了適用于人工智能企業(yè)行為的技術(shù)指導(dǎo)標(biāo)準(zhǔn)。

2023年10月，G7發(fā)布了《開發(fā)先進(jìn)人工智能系統(tǒng)組織的國際指導(dǎo)原則》和《開發(fā)先進(jìn)人工智能系統(tǒng)組織的國際行為準(zhǔn)則》，針對人工智能隱私和安全風(fēng)險等提出行為準(zhǔn)則，指導(dǎo)各類組織開發(fā)先進(jìn)的人工智能基礎(chǔ)模型、系統(tǒng)和技術(shù)標(biāo)準(zhǔn)。

4.加強前瞻性聯(lián)合研究

歐盟和美國在TTC框架下建立了“聯(lián)合技術(shù)競爭政策對話”機制，拓展歐盟聯(lián)合研究中心和美國國家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）的合作領(lǐng)域，并聯(lián)合標(biāo)準(zhǔn)制定組織、企業(yè)、學(xué)術(shù)界、政府等相關(guān)方共同開展人工智能標(biāo)準(zhǔn)化預(yù)研究合作，鞏固標(biāo)準(zhǔn)制定的技術(shù)和科學(xué)基礎(chǔ)。

5.開展產(chǎn)業(yè)應(yīng)用研究

針對人工智能技術(shù)在具體產(chǎn)業(yè)領(lǐng)域的應(yīng)用，TTC啟動了在健康醫(yī)療領(lǐng)域應(yīng)用隱私增強技術(shù)的試點項目，明確在氣候變化、應(yīng)急管理、醫(yī)療健康、電網(wǎng)優(yōu)化和農(nóng)業(yè)優(yōu)化等5個領(lǐng)域開展人工智能和計算研究項目。

二、發(fā)展趨勢

根據(jù)TTC標(biāo)準(zhǔn)路線圖的實施計劃以及歐盟和美國近期在人工智能領(lǐng)域的行動，本文預(yù)計歐盟和美國下一階段將加強以下3個方面的工作。

1.進(jìn)一步加強對人工智能安全的研究與投入

美國參議院已經(jīng)要求對美國人工智能安全研究所（USAISI）增加撥款1 000萬美元，將資助與歐盟等研究伙伴的合作研究，加快測試環(huán)境的工作，評估網(wǎng)絡(luò)安全協(xié)議，并成立聯(lián)合研究中心來集成新的人工智能技術(shù)和系統(tǒng)。從目前趨勢來看，隱私增強技術(shù)、人工智能攻擊模擬、人工智能模型開放風(fēng)險等將是近期重點。

2.不斷深化人工智能基礎(chǔ)性和前瞻性研究

大模型和生成式人工智能將是歐盟和美國重點攻關(guān)的人工智能技術(shù)領(lǐng)域。在大模型方面，歐盟和美國已開展對人工智能大模型的研討和調(diào)查，下一步將在調(diào)研基礎(chǔ)上匯集各方專家做深化研究。在生成式人工智能方面，歐盟和美國將在術(shù)語、內(nèi)容風(fēng)險和標(biāo)注等方面開展合作。

3.持續(xù)擴大歐盟和美國人工智能標(biāo)準(zhǔn)的國際應(yīng)用

一方面，TTC技術(shù)標(biāo)準(zhǔn)工作組已經(jīng)成立了數(shù)字身份小組，將在2024年完成歐盟和美國大西洋數(shù)字身份共享術(shù)語，支撐歐盟和美國加強跨境互操作性；另一方面，從2023年中期起，歐盟和美國不斷加強與印度、印度尼西亞、新加坡、越南等國家的人工智能合作，并明確提出將吸納更多國家參與其人工智能標(biāo)準(zhǔn)化研究與應(yīng)用。

三、特點分析

歐盟與美國在TTC框架下持續(xù)推進(jìn)人工智能標(biāo)準(zhǔn)化工作，具有加強系統(tǒng)謀劃、注重基礎(chǔ)和安全標(biāo)準(zhǔn)、強化技術(shù)與標(biāo)準(zhǔn)協(xié)同、加強企業(yè)行為指導(dǎo)等鮮明特點。

1.加強系統(tǒng)謀劃，著力重點領(lǐng)域分步突破

歐盟和美國并未以完整的人工智能標(biāo)準(zhǔn)體系來指導(dǎo)未來的標(biāo)準(zhǔn)化工作，而是通過分階段實現(xiàn)的實施路徑來突出重點，逐步深化各項措施，促進(jìn)預(yù)期目標(biāo)的實現(xiàn)。TTC目前已經(jīng)開展和將要開展的一系列人工智能標(biāo)準(zhǔn)化工作，均體現(xiàn)出其聚焦重點、逐步擴大國際共識、預(yù)判未知風(fēng)險等循序漸進(jìn)的基本思路。

2.注重基礎(chǔ)和安全標(biāo)準(zhǔn)，力求以國際協(xié)同主導(dǎo)發(fā)展方向

TTC將推動可信和風(fēng)險管理作為人工智能標(biāo)準(zhǔn)化工作的共識和愿景，高度重視術(shù)語定義、分類、測試評估等基礎(chǔ)共性標(biāo)準(zhǔn)，在研制路徑上注重與國際標(biāo)準(zhǔn)的協(xié)同，并通過建立可信測量數(shù)據(jù)庫、發(fā)布企業(yè)行為指導(dǎo)準(zhǔn)則、推進(jìn)隱私安全研究等一系列“基于風(fēng)險的方法”，以建立國際共識為目標(biāo)開展標(biāo)準(zhǔn)化活動。這些做法，一方面可以使其人工智能標(biāo)準(zhǔn)框架體系更加完善，另一方面有助于塑造其安全可靠的技術(shù)形象，鞏固人工智能倫理道德領(lǐng)域的國際標(biāo)準(zhǔn)話語權(quán)。

3.強化技術(shù)與標(biāo)準(zhǔn)協(xié)同，推動技術(shù)廣泛應(yīng)用

歐盟和美國人工智能標(biāo)準(zhǔn)化合作遵循新興技術(shù)標(biāo)準(zhǔn)研究的特點，充分利用標(biāo)準(zhǔn)預(yù)研究、技術(shù)調(diào)查、應(yīng)用試點等工具和方法，強化技術(shù)與標(biāo)準(zhǔn)協(xié)同發(fā)展。在應(yīng)用領(lǐng)域，歐盟和美國則關(guān)注氣候變化、應(yīng)急管理、醫(yī)療、電網(wǎng)等可持續(xù)發(fā)展和基礎(chǔ)設(shè)施領(lǐng)域，推動其人工智能技術(shù)的更廣泛使用，謀求在國際范圍內(nèi)的推廣。

4.加強企業(yè)行為指導(dǎo)，謀求以標(biāo)準(zhǔn)填補立法空白

人工智能具有技術(shù)更新速度快、涉及范圍廣、不確定性強的特點，傳統(tǒng)的法律監(jiān)管很難跟上技術(shù)發(fā)展節(jié)奏。在歐盟和美國雙方尚無成熟和一致的監(jiān)管法律情況下，TTC通過制定關(guān)于人工智能行為準(zhǔn)則作為過渡性措施，為企業(yè)開發(fā)和使用人工智能技術(shù)、制定人工智能標(biāo)準(zhǔn)提供指導(dǎo)，并協(xié)調(diào)歐盟和美國雙方的監(jiān)管差異，高效應(yīng)對人工智能快速發(fā)展帶來的挑戰(zhàn)。

四、展望

我國人工智能市場規(guī)模巨大，產(chǎn)業(yè)和標(biāo)準(zhǔn)化發(fā)展成果顯著，在圖像識別、智能語音等領(lǐng)域達(dá)到全球領(lǐng)先水平，并在國際標(biāo)準(zhǔn)化組織/國際電工委員會第一聯(lián)合技術(shù)委員會（ISO/IEC JTC 1）中發(fā)揮著重要作用。但是，我國國家人工智能標(biāo)準(zhǔn)化總體組發(fā)布的《人工智能標(biāo)準(zhǔn)化白皮書》顯示，目前我國人工智能標(biāo)準(zhǔn)化發(fā)展仍存在一定的不足，如：人工智能工具完整性、融合程度、效率等沒有統(tǒng)一的衡量標(biāo)準(zhǔn)；人工智能測試體系不夠完善，尚未形成成熟的功能、性能測試基準(zhǔn)，人工智能測試標(biāo)準(zhǔn)體系還未形成；行業(yè)發(fā)展不均衡突出，在與實體經(jīng)濟融合方面存在結(jié)構(gòu)性失衡，目前主要用于金融、安防、物流等領(lǐng)域，亟待在制造、零售等領(lǐng)域有所創(chuàng)新與突破。

從上海市層面來看，近年的調(diào)查顯示，上海市人工智能企業(yè)主要集中在技術(shù)層（技術(shù)開發(fā)與輸出）和應(yīng)用層（解決方案），在產(chǎn)業(yè)應(yīng)用層具有明顯規(guī)模優(yōu)勢，相關(guān)企業(yè)占比超過90%，且其中70%以上集中于智慧城市領(lǐng)域，主要應(yīng)用于城市公共服務(wù)，如醫(yī)療、環(huán)保、政務(wù)等。調(diào)查同時顯示出當(dāng)前存在的一些不足，如：應(yīng)用賦能還不深入，應(yīng)用場景相對單調(diào)，人工智能在制造業(yè)的應(yīng)用較為分散，與智慧生產(chǎn)和智能生活的融合較少；對人工智能系統(tǒng)及軟件風(fēng)險的認(rèn)識不高；缺少權(quán)威評定和測試服務(wù)機構(gòu)，對良性競爭產(chǎn)生負(fù)面影響；強調(diào)促進(jìn)技術(shù)進(jìn)步和產(chǎn)業(yè)應(yīng)用，但缺乏對倫理道德安全的研究和監(jiān)管，與國際趨勢不夠接軌等。

我國與美國對于人工智能標(biāo)準(zhǔn)化治理的理念相近，傾向于用政策引領(lǐng)人工智能標(biāo)準(zhǔn)的發(fā)展（歐盟相對更為保守，傾向于用標(biāo)準(zhǔn)和法律加強對人工智能的監(jiān)管）。美國在TTC中具有主導(dǎo)地位，它提出的建立人工智能風(fēng)險監(jiān)測和風(fēng)險評估機制與標(biāo)準(zhǔn)、開發(fā)人工智能風(fēng)險管理標(biāo)準(zhǔn)和工具包、建立人工智能標(biāo)準(zhǔn)預(yù)研究的國際合作體系、注重可持續(xù)發(fā)展和基礎(chǔ)設(shè)施領(lǐng)域的人工智能應(yīng)用標(biāo)準(zhǔn)等具體措施，對于我們改進(jìn)當(dāng)前的薄弱環(huán)節(jié)、以標(biāo)準(zhǔn)引領(lǐng)人工智能產(chǎn)業(yè)發(fā)展、加強應(yīng)用落地、完善產(chǎn)業(yè)生態(tài)等具有一定的借鑒意義。