美國發(fā)布人工智能標準制定計劃

編譯 方陵生

美國國家標準與技術(shù)研究院（NIST）于2019年8月發(fā)布了一項聯(lián)邦機構(gòu)參與制定人工智能（AI）標準的計劃。該計劃建議聯(lián)邦政府更深入、持續(xù)、長期地參與其中，幫助美國加快發(fā)展可靠、強大、值得信賴的人工智能技術(shù)的步伐。

為強調(diào)人工智能（AI）對未來美國經(jīng)濟和國家安全的重要性，2019年2月11日，美國總統(tǒng)發(fā)布了一項行政命令（EO 13859），旨在確保美國在人工智能領(lǐng)域保持其領(lǐng)導地位。行政命令要求NIST制定一項計劃，目標之一是“確保技術(shù)標準最大限度地降低受到惡意行為者攻擊的脆弱性，確定在人工智能技術(shù)創(chuàng)新、建立公眾信任和信心方面的優(yōu)先事項，并制定國際標準來促進和保護這些優(yōu)先事項”。這項計劃即《美國在人工智能領(lǐng)域的領(lǐng)導地位：聯(lián)邦政府參與開發(fā)技術(shù)標準和相關(guān)工具的計劃》（U.S. leadership in AI：A Plan for Federal Engagement in Developing Technical Standards and Related Tools）。

NIST在公共和私營部門的廣泛參與下制定了該計劃，包括2019年5月30日的研討會和多個公眾評論活動。NIST收到了40多個工業(yè)、學術(shù)界和政府組織對2019年7月2日發(fā)布的計劃草案的建議和評論，修改完善后形成了本計劃。

美國商務(wù)部副部長兼NIST主管沃爾特·科潘（Walter G.Copan）說：“聯(lián)邦政府可以通過與工業(yè)界和學術(shù)界專家的密切合作，投資于研究，并與國際標準界接觸，幫助美國保持人工智能領(lǐng)域的領(lǐng)導地位。這一計劃提供的途徑可確保聯(lián)邦政府支持制定的標準既有靈活性，又有包容性，且能適應(yīng)人工智能技術(shù)和應(yīng)用領(lǐng)域的快速變化。”

美國在人工智能領(lǐng)域的全球領(lǐng)導地位依賴于聯(lián)邦政府在人工智能標準制定中發(fā)揮的積極和有意義的作用。計劃提出了聯(lián)邦政府參與標準開發(fā)應(yīng)優(yōu)先考慮的原則，包括基于共識、包容性和可及性、公開性和透明性等；提供了標準的重要特征，為機構(gòu)在有關(guān)AI標準的決策中提供指導和幫助；并將參與機構(gòu)根據(jù)參與程度劃分為四類，即監(jiān)控、參與、影響和領(lǐng)導；為決定參與人工智能標準工作的各機構(gòu)提供了切實可行的步驟；最后，對聯(lián)邦政府參與標準制定工作提出了一些建議，如鼓勵與AI標準相關(guān)的知識學習，提高領(lǐng)導力，協(xié)調(diào)開發(fā)或使用AI標準各機構(gòu)之間的關(guān)系；促進對人工智能系統(tǒng)可信度的重點研究；支持和擴大公私合作伙伴關(guān)系；開展與國際各方的合作，以推進可靠、強大和可信的人工智能系統(tǒng)。計劃的附錄中還列出了適用于人工智能的現(xiàn)有標準，以及正在進行的關(guān)于人工智能標準和相關(guān)工具的各項活動。

現(xiàn)有的許多跨部門和特定部門的AI標準正在使用之中，其他一些標準正在由許多標準制定組織（SDO）開發(fā)制定。一些領(lǐng)域，如通信領(lǐng)域，已制定并廣泛使用的一些標準，通常最初是針對其他技術(shù)的。其他方面，如可信度，現(xiàn)在也在考慮之中。所有這些標準的制定，都是為了建立可靠、強大和可信的人工智能系統(tǒng)。

聯(lián)邦政府參與標準開發(fā)的原則

在決定哪些標準制定工作值得聯(lián)邦政府大力參與時，美國政府機構(gòu)應(yīng)該優(yōu)先考慮以下原則：基于共識，即決策基于所有相關(guān)方都理解的明確的條款或協(xié)議，決策基于廣泛認同和共識；包容性和可及性，鼓勵用戶、開發(fā)人員、供應(yīng)商等群體的多元化，并對他們之間的需求進行平衡，利益相關(guān)者還應(yīng)包括來自不同學科的代表，來自對人工智能具有特殊重要性的非傳統(tǒng)學科的專家和從業(yè)者，如倫理學家、經(jīng)濟學家、法律專業(yè)人士和政策制定者，即要盡量能夠滿足所有人的需求；通過多種途徑，包括傳統(tǒng)和創(chuàng)新的標準制定方法和組織機構(gòu)來開發(fā)，以最有效地滿足整個市場和社會中的開發(fā)人員和用戶的需求；開放性和透明度，確保標準的可獲得性，并通過確立容易獲得的操作規(guī)則、程序和政策，為決策過程提供確定性，及時反饋以對標準進行更新，同時為所有受影響的人提供參與機會；制定全球相關(guān)的和非歧視的標準，這些標準要避免成為非關(guān)稅貿(mào)易的壁壘或鎖定在某些特定的技術(shù)和產(chǎn)品上，具有全球通用性。

在人工智能標準制定的優(yōu)先權(quán)方面，該計劃不會選定任何某個標準制定機構(gòu)。聯(lián)邦政策制定了目標，并要求每個機構(gòu)根據(jù)其具體需要來參與標準的制定和使用。新的標準將由現(xiàn)有的和新的標準制定組織共同完成。

對于那些參與人工智能標準開發(fā)的人員來說，意識到并與美國政府的政策和原則保持一致是很重要的，包括那些涉及社會和倫理問題、治理、隱私的政策和原則。然而，盡管人們普遍認為這些問題都必須納入人工智能標準，但目前尚不清楚如何做到這一點，以及是否有足夠的科學和技術(shù)基礎(chǔ)來開發(fā)制定這些標準。

人工智能標準的重要特征

聯(lián)邦政府需優(yōu)先考慮的與人工智能標準相關(guān)的特征包括：應(yīng)以創(chuàng)新為導向跟上技術(shù)的快速變化，包括具有最大的靈活性、技術(shù)和平臺中立性、更偏向基于性能的需求等；既適用于多種行業(yè)（橫向），以在多個行業(yè)、政府和社會進行大規(guī)模部署，又能集中于某個特定領(lǐng)域或?qū)嶋H應(yīng)用（縱向），特別是存在特定風險和重大影響的領(lǐng)域；應(yīng)明確規(guī)定范圍和預(yù)期用途，允許用戶根據(jù)所使用的數(shù)據(jù)或算法來決定一個應(yīng)用程序的AI標準是否適用于其他應(yīng)用程序，或者風險級別是否可以接受；能夠解決整個產(chǎn)品生命周期中監(jiān)督和管理AI系統(tǒng)的需求；能夠反映人工智能的技術(shù)、風險、社會影響等的發(fā)展情況，即標準制定要適當代表人工智能在技術(shù)上的可行性和能被社會理解的狀態(tài)；應(yīng)定期更新，以反映人工智能技術(shù)的快速變化，避免將技術(shù)和社會影響方面的新發(fā)展和新知識排除在外；能有效測量和評估人工智能系統(tǒng)性能，以幫助確定風險程度、效率、是否與目標一致等；以人為本，確保人工智能數(shù)據(jù)收集、模型開發(fā)、測試和部署過程中充分考慮人的交互和價值；使用清晰的語言定義與人工智能相關(guān)的術(shù)語和概念，并進行協(xié)調(diào)，促進互操作性，促進詞匯和術(shù)語的全面統(tǒng)一；倫理道德方面的考量，如識別并減少偏見和歧視、保護隱私和安全可控等。

美國政府的參與程度

參與建立人工智能標準至關(guān)重要，美國不希望被排除在外，這將不利于美國公司及政府機構(gòu)的發(fā)展。此外，由于標準的基礎(chǔ)性，缺乏美國利益相關(guān)者參與人工智能標準的開發(fā)，從長遠來看會降低美國的創(chuàng)新能力和競爭力。聯(lián)邦政府在標準制定過程中的參與類型，根據(jù)參與程度從最低到最高可分為四類。

監(jiān)督遵循特定標準或更廣泛的程序，由標準制定組織制定處理特定問題或解決特定需求的標準。

參與對具有重要戰(zhàn)略意義的標準進行評論并提供有意義的貢獻，包括以委員會觀察員的身份參與。

影響更深入?yún)⑴c，通過正式和非正式的討論以及提供專業(yè)知識直接與行業(yè)和國際參與者合作，并施加影響。

領(lǐng)導通過召集或管理共識小組來領(lǐng)導標準制定工作，擔任標準項目編制或類似的技術(shù)領(lǐng)導角色，或擔任標準小組之間的聯(lián)絡(luò)代表。領(lǐng)導力也可以通過在標準制定組織的董事會或其他職位上任職來實現(xiàn)。

每一種類型的參與都需要美國政府參與者（如政府員工或承辦者）根據(jù)他們的專業(yè)知識、人際關(guān)系和對特定標準開發(fā)的最佳實踐等來發(fā)揮作用。

參與人工智能標準制定的步驟

制定人工智能標準具有挑戰(zhàn)性，可根據(jù)以下步驟進行人工智能標準的制定。首先，確定如何利用人工智能技術(shù)來進一步完成機構(gòu)的任務(wù)，如科學研究、技術(shù)開發(fā)、采購或監(jiān)管。其次，了解與標準制定相關(guān)的現(xiàn)有法規(guī)、政策和資源。第三，進行橫向調(diào)查和差距分析，以確定現(xiàn)有或需要開發(fā)的標準和相關(guān)工具。第四，如有合適的現(xiàn)有標準，則繼續(xù)使用；如沒有現(xiàn)有標準或現(xiàn)有標準不能完全滿足要求，則參與新標準的制定。

參與過程中需要注意：與可能有類似需求的其他聯(lián)邦機構(gòu)進行協(xié)調(diào)配合；確定合適的參與程度；遵循指南，明確在何處以及如何參與；對參與標準制定的員工進行培訓。

與人工智能標準相關(guān)的工作

與人工智能標準相關(guān)的各項工作包括支持和開展人工智能的研究和開發(fā)；積極參與標準開發(fā)；采購基于標準的產(chǎn)品，部署基于標準的服務(wù)；制定和實施支持性政策，包括必要的監(jiān)管政策。

計劃確定了制定人工智能標準的九個重點領(lǐng)域：概念和術(shù)語、數(shù)據(jù)和知識、人工交互、度量標準、網(wǎng)絡(luò)、性能測試和報告方法、安全、風險管理、可信度（可信度標準包括對準確度、可解釋性、彈性、安全性、可靠性和客觀性的指導和要求）。

標準開發(fā)應(yīng)輔以相關(guān)工具，因此計劃同時還強調(diào)要開發(fā)支持人工智能的相關(guān)工具，包括可以推動創(chuàng)造性解決問題的基準、評估和挑戰(zhàn)。這些工具通常有重疊應(yīng)用，包括但不限于：標準化格式的數(shù)據(jù)集，包括用于人工智能系統(tǒng)培訓、驗證和測試的元數(shù)據(jù)；在人工智能系統(tǒng)中用于擷取和表述知識及推導的工具；有完備記錄的使用案例，提供關(guān)于AI技術(shù)的特定應(yīng)用程序的一系列數(shù)據(jù)和信息，以及在決定部署這些應(yīng)用程序時使用的標準或最佳實踐指南；驗證和評估人工智能技術(shù)性能的測試方法；量化衡量和描述人工智能技術(shù)的指標；人工智能測試平臺；問責與審計工具等。

對政府機構(gòu)參與標準制定的建議

計劃就聯(lián)邦政府如何有效參與人工智能標準制定工作，以實現(xiàn)美國保持其在人工智能領(lǐng)域的領(lǐng)導地位的目標提出了相關(guān)建議。

1.激勵與AI標準相關(guān)的知識學習，提高領(lǐng)導力，協(xié)調(diào)好各機構(gòu)之間的關(guān)系，以最大限度提高效率

國家科學技術(shù)委員會（NSTC）機器學習/人工智能（ML/AI）小組委員會應(yīng)指定標準協(xié)調(diào)員負責收集和分享與人工智能標準相關(guān)的需求、戰(zhàn)略、路線圖、術(shù)語、用例和最佳實踐，以支持可靠、強大、值得信賴的AI系統(tǒng)，包括計劃的和正在實行的標準、方法和參與活動，確保與標準制定組織建立健全的反饋循環(huán)；確定橫向或縱向標準的優(yōu)先級；確定擬議標準的要求；分析正在進行的標準活動是否符合聯(lián)邦政府需求，是否需要適當?shù)念~外指導。

最大限度地利用行業(yè)部門廣泛采用的現(xiàn)有標準，這些標準可以在人工智能解決方案的新環(huán)境中使用或得到改進。

各機構(gòu)應(yīng)遵守關(guān)于AI標準和相關(guān)工具的聯(lián)邦政策，如數(shù)據(jù)訪問和數(shù)據(jù)質(zhì)量。

為適應(yīng)人工智能技術(shù)發(fā)展的快速步伐，并反映人們對“人工智能的可信度、可及性和以人為本”的理解，應(yīng)特別注意靈活選擇用于各項行動的AI標準。

培養(yǎng)具有相關(guān)技能的聯(lián)邦政府領(lǐng)導者，制定清晰的職業(yè)發(fā)展和晉升路徑，重視并鼓勵員工參與人工智能標準的制定，并提供相應(yīng)的專業(yè)知識培訓。

2.促進對人工智能系統(tǒng)可信度的重點研究，在標準與可信度結(jié)合方面，推進和加速更廣泛的探索和理解

支持可靠、強大和可信的人工智能計劃并進行研究和評估。開發(fā)度量標準和數(shù)據(jù)集，以評估人工智能系統(tǒng)的可靠性、強大性和可信度，重點關(guān)注那些容易理解的、可用的、并能標準化的方法。建議由商務(wù)部、國家科學基金會和研究資助機構(gòu)領(lǐng)導。

對風險管理策略的標準化進行研究，包括識別、監(jiān)測和降低風險。建議由研究資助機構(gòu)領(lǐng)導。

確定研究需求、要求和方法，幫助推動人工智能的科學突破，讓人們對人工智能技術(shù)有信心，并建立對人工智能設(shè)計、開發(fā)和應(yīng)用的信任。建議由商務(wù)部和研究資助機構(gòu)領(lǐng)導。

3.支持和擴大公私伙伴關(guān)系，促進人工智能標準和相關(guān)工具的開發(fā)和使用

戰(zhàn)略性地增加對AI標準開發(fā)的參與程度，特別是在需要做出重大決策的標準開發(fā)早期階段。

推進非傳統(tǒng)的標準開發(fā)協(xié)作模型，如開放源代碼和聯(lián)邦開放數(shù)據(jù)計劃。

提高數(shù)據(jù)的可搜索性和已被授權(quán)供公眾使用的聯(lián)邦政府數(shù)據(jù)的訪問權(quán)限，以更廣泛地使用人工智能技術(shù)，對人工智能技術(shù)進行培訓，尤其是與標準制定相關(guān)的技術(shù)。

推動基準標桿工作，以評估人工智能系統(tǒng)的可靠性、強大性和可信度，確保這些基準的廣泛可用性，形成最佳實踐，并改進人工智能評估和驗證方法。

創(chuàng)造協(xié)作環(huán)境，通過AI問題挑戰(zhàn)和測試平臺，創(chuàng)造性地解決問題，推進標準開發(fā)。

促進跨學科的研究和合作，增進對相關(guān)社會和倫理問題的理解，促進可靠、強大和可信的人工智能標準的開發(fā)和使用。

4.與國際組織進行戰(zhàn)略合作，促進滿足美國經(jīng)濟和國家安全需求的人工智能標準的開發(fā)

在世界各地的人工智能標準開發(fā)活動中，支持美國的人工智能標準的優(yōu)先事項。

通過人工智能標準和相關(guān)工具開發(fā)方面的合作，加強與盟國之間的信息交流。

跟蹤和了解外國政府和機構(gòu)在人工智能標準開發(fā)方面的戰(zhàn)略和舉措。

“特朗普政府將繼續(xù)實施美國人工智能計劃，即保持美國在人工智能領(lǐng)域領(lǐng)導地位的國家戰(zhàn)略，”美國聯(lián)邦政府首席技術(shù)官邁克爾·克拉齊奧斯（Michael Kratsios）說道，“公眾信任、安全和隱私方面的考慮仍然是我們制定人工智能技術(shù)標準的關(guān)鍵組成部分。正如NIST所提出的，人工智能標準制定將確保人工智能的創(chuàng)建和應(yīng)用造福于美國人民！”