可信賴(lài)的人工智能道德準(zhǔn)則草案

席子祺譯

2018 年 12 月，歐盟委員會(huì)公布了《可信賴(lài)的人工智能道德準(zhǔn)則草案》。草案闡述了人工智能應(yīng)遵循的道德目標(biāo)，包括基本權(quán)利、原則與價(jià)值觀;分析了實(shí)現(xiàn)可信賴(lài)的人工智能的要求;并制定了具體的評(píng)估標(biāo)準(zhǔn)。草案為開(kāi)發(fā)、部署和使用人工智能的政府、社會(huì)組織、研究機(jī)構(gòu)、企業(yè)和個(gè)人提供了一個(gè)人工智能道德準(zhǔn)則框架，以便實(shí)現(xiàn)“以人為本”和可信賴(lài)的人工智能技術(shù)，并創(chuàng)造一種“可信賴(lài)的人工智能源自歐洲”的文化，使歐洲成為引領(lǐng)全球人工智能的創(chuàng)新者。

人工智能（AI）是當(dāng)代最強(qiáng)大的變革力量之一，勢(shì)必會(huì)改變?nèi)藗兊纳鐣?huì)結(jié)構(gòu)。人工智能將帶來(lái)繁榮發(fā)展的巨大機(jī)遇，歐洲絕不能等閑視之。得益于可用數(shù)據(jù)的海量驟增、更強(qiáng)大的計(jì)算結(jié)構(gòu)以及機(jī)器學(xué)習(xí)等人工智能技術(shù)的突飛猛進(jìn)，人工智能在過(guò)去 10年里取得重大進(jìn)步。在人工智能的推動(dòng)下，自動(dòng)駕駛汽車(chē)、醫(yī)療、家用/服務(wù)型機(jī)器人、教育、網(wǎng)絡(luò)安全等領(lǐng)域?qū)崿F(xiàn)重大發(fā)展，人類(lèi)生活水平也隨之不斷提高。此外，人工智能還是解決全球重大挑戰(zhàn)的關(guān)鍵手段，如全球健康與福利、氣候變化、可靠的法律與民主系統(tǒng)以及載入《聯(lián)合國(guó)可持續(xù)發(fā)展目標(biāo)》的其他挑戰(zhàn)。

人工智能擁有造福人類(lèi)與社會(huì)的卓越能力，同時(shí)也會(huì)帶來(lái)風(fēng)險(xiǎn)，必須妥善管理。為確保人工智能的發(fā)展不偏離軌道，就需要堅(jiān)持以人為本，必須始終牢記人工智能的發(fā)展與應(yīng)用本身并不是目的，其目的是造福人類(lèi)。實(shí)現(xiàn)可信賴(lài)的人工智能是本準(zhǔn)則的根本宗旨，因?yàn)閷?duì)于人工智能來(lái)說(shuō)，人類(lèi)只有信其所能，才能用其所及。

歐盟實(shí)現(xiàn)人工智能 道德的權(quán)利型策略

以《歐盟條約》和《基本權(quán)利憲章》中規(guī)定的基本權(quán)利為基石，找出抽象道德原則，確定如何在人工智能的語(yǔ)境中落實(shí)道德價(jià)值，這才是落實(shí)人工智能道德的正道。歐盟的基本義務(wù)，就是通過(guò)憲政保護(hù)不可分割的基本人權(quán)，確保尊重法律規(guī)則，推動(dòng)民主自由，促進(jìn)共同發(fā)展。基本權(quán)利不僅能夠催生新的法律與監(jiān)管規(guī)則，也是指導(dǎo)人工智能系統(tǒng)開(kāi)發(fā)、使用與實(shí)施的依據(jù)。

歐盟條約和憲章規(guī)定了落實(shí)歐盟法律時(shí)所適用的權(quán)利，即：尊嚴(yán)、自由、平等、團(tuán)結(jié)、公民權(quán)利與正義。這些權(quán)利在憲章的后續(xù)章節(jié)中進(jìn)行了闡述，而貫穿其始終的主線(xiàn)，就是歐盟堅(jiān)持以人為本的精神，即公民在政治、經(jīng)濟(jì)與社會(huì)工作中始終占據(jù)特殊的首要位置。

道德領(lǐng)域也是為了保護(hù)個(gè)體權(quán)利和自由，同時(shí)造福社會(huì)與公益。道德視角能夠幫助人們理解技術(shù)如何在人工智能的開(kāi)發(fā)與應(yīng)用中將基本權(quán)利納入考慮因素，以及如何更好地指導(dǎo)人們利用技術(shù)造福公益，而不是（現(xiàn)在）只關(guān)注技術(shù)能夠做什么。在人工智能領(lǐng)域堅(jiān)持基本權(quán)利，重視需要遵循的道德原則。

從基本權(quán)利到原則和價(jià)值觀

要舉例說(shuō)明基本權(quán)利、原則與價(jià)值觀的關(guān)系，就讓人們來(lái)思考一下“尊重人類(lèi)尊嚴(yán)”的基本權(quán)利概念。這種權(quán)利涉及對(duì)人類(lèi)固有價(jià)值的認(rèn)識(shí)，如此又可引出自治的道德原則，即人人都有自由選擇身體、情感或精神等方面生活方式的權(quán)利。繼而，知情同意就是自治原則在實(shí)踐中的具體操作。知情同意要求個(gè)體在決定是否開(kāi)發(fā)、使用或投資實(shí)驗(yàn)或商用人工智能系統(tǒng)時(shí)，要為其提供充分的信息。

簡(jiǎn)而言之，基本權(quán)利是形成道德準(zhǔn)則的基石。這些原則是高級(jí)的抽象標(biāo)準(zhǔn)，開(kāi)發(fā)者、部署者、使用者和監(jiān)管者要奉行以人為本和可信賴(lài)的人工智能的目標(biāo)，就必須遵守。而價(jià)值觀是奉行道德原則的具體指導(dǎo)，同時(shí)也為基本權(quán)利提供支撐。

運(yùn)用基本權(quán)利推導(dǎo)出道德原則和價(jià)值觀的做法，并非人工智能高級(jí)專(zhuān)家組的首創(chuàng)。早在 1997 年，歐洲理事會(huì)就出臺(tái)了名為《在生物學(xué)和醫(yī)學(xué)應(yīng)用領(lǐng)域保護(hù)人權(quán)和人類(lèi)尊嚴(yán)的公約》（簡(jiǎn)稱(chēng)奧維耶多公約）。奧約耶多公約明確規(guī)定，基本權(quán)利是在技術(shù)變革中確?！耙匀藶楸尽钡母舅凇?/p>

尊重并確保人工智能系統(tǒng)遵守基本權(quán)利、原則與價(jià)值觀，就是本文中所述的確保“道德目標(biāo)”，這是實(shí)現(xiàn)可信賴(lài)的人工智能的關(guān)鍵因素。

人工智能領(lǐng)域的道德原則及相關(guān)價(jià)值觀

許多公共、私人與民間組織已經(jīng)在運(yùn)用基本權(quán)利來(lái)構(gòu)建人工智能的道德框架。在歐盟，歐洲科學(xué)與新技術(shù)倫理工作組（EGE）以歐盟條約和歐盟基本權(quán)利憲章中規(guī)定的基本價(jià)值觀為基礎(chǔ)，提出了九大基本原則。近期，AI4People研究項(xiàng)目對(duì)歐洲科學(xué)與新技術(shù)倫理工作組提出的九大原則以及迄今為止提出的其他三十六個(gè)原則進(jìn)行了評(píng)估，并將其歸納為四大總體原則，包括：善行、無(wú)傷害、個(gè)體自主和公正平等。為適應(yīng)人工智能的發(fā)展，專(zhuān)家組還對(duì)上述四大原則進(jìn)行了修正，增加了第五項(xiàng)原則，即：可解讀原則。人工智能高級(jí)專(zhuān)家組相信會(huì)聚的好處，這樣能夠找出迄今為止各種機(jī)構(gòu)提出的大部分原則，同時(shí)澄清這些原則所針對(duì)的目的。最重要的，這些總體原則能夠?yàn)楹诵膬r(jià)值觀提供具有可操作性的指導(dǎo)原則。

同時(shí)還應(yīng)當(dāng)注意，在特殊情況下，個(gè)體與社會(huì)對(duì)這些原則的態(tài)度可能會(huì)出現(xiàn)沖突。這種情況并沒(méi)有特定的解決途徑。在上述情況下，參照歐盟條約和憲章所保護(hù)的原則與總體價(jià)值觀和權(quán)利不無(wú)裨益。鑒于人工智能的未知潛力與意外后果，本文建議要有內(nèi)部與外部（道德）專(zhuān)家參與人工智能的設(shè)計(jì)、開(kāi)發(fā)與應(yīng)用。這些專(zhuān)家有助于人們進(jìn)一步關(guān)注未來(lái)幾年里可能出現(xiàn)的特別道德問(wèn)題。

善行原則。人工智能系統(tǒng)的設(shè)計(jì)與開(kāi)發(fā)應(yīng)當(dāng)有益于個(gè)體與集體。人工智能可促進(jìn)繁榮、創(chuàng)造價(jià)值、增加財(cái)富、促進(jìn)可持續(xù)發(fā)展。同時(shí)，致力于善行的人工智能系統(tǒng)有利于創(chuàng)造公平、包容與和平的社會(huì)，有助于維護(hù)公民的精神自治，促進(jìn)經(jīng)濟(jì)、社會(huì)與政治機(jī)會(huì)的平等分配，從而造福全民。人工智能系統(tǒng)如果用于保護(hù)民主進(jìn)程與法治，保障低成本與高質(zhì)量的公益與服務(wù)，加強(qiáng)數(shù)據(jù)素養(yǎng)與代表性，為使用者減輕傷害及加強(qiáng)信任，從經(jīng)濟(jì)發(fā)展、社會(huì)公平與環(huán)境保護(hù)這三個(gè)方面實(shí)現(xiàn)聯(lián)合國(guó)可持續(xù)發(fā)展目標(biāo)或更廣泛的可持續(xù)發(fā)展。換言之，人工智能是促進(jìn)全球公益和/或應(yīng)對(duì)全球挑戰(zhàn)的有效工具。

無(wú)傷害原則。人工智能系統(tǒng)不得傷害人類(lèi)。人工智能系統(tǒng)的設(shè)計(jì)應(yīng)確保在社會(huì)上和工作中保護(hù)人類(lèi)的尊嚴(yán)、誠(chéng)信、自由、隱私和安全。人工智能系統(tǒng)不得威脅民主進(jìn)程、表達(dá)自由、身份自由以及拒絕人工智能服務(wù)的權(quán)利。人工智能系統(tǒng)至少在設(shè)計(jì)上不能加劇已經(jīng)存在的傷害，也不能導(dǎo)致新的傷害，包括身體、心理、財(cái)務(wù)或社會(huì)等方面的傷害。人工智能領(lǐng)域的傷害可能來(lái)自于對(duì)個(gè)人數(shù)據(jù)的處理（包括數(shù)據(jù)的采集、存儲(chǔ)、使用方式等）。為避免傷害，為用于培訓(xùn)人工智能算法而采集和使用的數(shù)據(jù)必須要避免歧視、操縱或負(fù)面判斷。同時(shí)，人工智能系統(tǒng)的開(kāi)發(fā)與實(shí)施還必須保護(hù)社會(huì)避免意識(shí)形態(tài)的兩極分化和算法決定論。

避免傷害，也包括對(duì)環(huán)境和動(dòng)物的傷害。因此，避免傷害的原則應(yīng)當(dāng)包括開(kāi)發(fā)環(huán)保型的人工智能。地球資源有其本身的價(jià)值，也有著供人類(lèi)消費(fèi)的價(jià)值。無(wú)論是哪一種，人工智能的研究、開(kāi)發(fā)和使用有必要堅(jiān)持環(huán)保意識(shí)。

自主原則：“保留人類(lèi)的能動(dòng)性”。人工智能開(kāi)發(fā)所涉及的人類(lèi)自主性，意味著人類(lèi)自由不從屬于人工智能，也不受其脅迫。在與人工智能系統(tǒng)的交互中，人類(lèi)必須保持完整有效的自決權(quán)。這就要求人工智能的消費(fèi)者或使用者有權(quán)決定是否遵守人工智能的直接或間接決策，有權(quán)知曉與人工智能系統(tǒng)進(jìn)行直接或間接互動(dòng)的知識(shí)，并有權(quán)選擇拒絕或退出。

公正原則。本準(zhǔn)則所提及的公正原則要求人工智能系統(tǒng)的開(kāi)發(fā)、使用與監(jiān)管必須公平。開(kāi)發(fā)者和實(shí)施者需要確保個(gè)體與少數(shù)群體享有不遭受偏見(jiàn)、侮辱和歧視的自由。此外，人工智能的開(kāi)發(fā)應(yīng)當(dāng)平衡利弊，避免加劇弱勢(shì)群體的遭遇，努力為其爭(zhēng)取在教育、商品、服務(wù)和技術(shù)上不受歧視的公平機(jī)會(huì)。公正還意味著人工智能系統(tǒng)必須要提供有效的救濟(jì)措施，以防范意外傷害或者數(shù)據(jù)偏離人類(lèi)個(gè)體或集體偏好。最后，公正原則還要求人工智能的開(kāi)發(fā)者或?qū)嵤┱弑仨殦碛懈邩?biāo)準(zhǔn)的問(wèn)責(zé)機(jī)制。為人工智能的性能制定（道德）標(biāo)準(zhǔn)，將有益于造福人類(lèi)。

可解讀原則：“透明操作”。透明度是人工智能系統(tǒng)及其開(kāi)發(fā)者贏得并維持信任的關(guān)鍵。從道德立場(chǎng)上來(lái)看，技術(shù)和商業(yè)模式的透明度都十分重要。技術(shù)上的透明度，是指人工智能系統(tǒng)要能夠被理解能力和專(zhuān)業(yè)水平各不相同的人士所審查和理解。商業(yè)模式上的透明度，是指人工智能系統(tǒng)開(kāi)發(fā)者與技術(shù)實(shí)施者要明確告知其意圖。

可解讀是個(gè)體在與人工智能交互時(shí)實(shí)現(xiàn)知情同意的前提，而為確保實(shí)現(xiàn)可解讀與無(wú)傷害原則，就應(yīng)當(dāng)保障知情同意的要求?？山庾x還要求必須采取追責(zé)措施。個(gè)體與機(jī)構(gòu)可要求人工智能系統(tǒng)的組織者與開(kāi)發(fā)者、技術(shù)實(shí)施者或供應(yīng)鏈上的第三方基本參數(shù)與說(shuō)明的證據(jù)（人工智能系統(tǒng)的發(fā)現(xiàn)或預(yù)測(cè)，或者發(fā)現(xiàn)和預(yù)測(cè)所涉及的因素），以此為依據(jù)來(lái)分析人工智能的決策。

人工智能引發(fā)的重大關(guān)注

人工智能的具體用途或應(yīng)用以及領(lǐng)域或語(yǔ)境可能會(huì)違背上述的權(quán)利和原則，從而引發(fā)重大關(guān)注。與其他強(qiáng)大的技術(shù)一樣，人工智能雖然有助于實(shí)現(xiàn)歐盟價(jià)值觀，但其兩面性本質(zhì)意味著人工智能也可能會(huì)侵犯這些價(jià)值觀。下面列出了部分重大關(guān)注，在未來(lái)可能會(huì)有所縮減或變動(dòng)。

未經(jīng)同意的身份識(shí)別。公共或私營(yíng)機(jī)構(gòu)都可以運(yùn)用人工智能來(lái)更加高效的識(shí)別個(gè)體身份。人工智能領(lǐng)域的控制技術(shù)必須合情合理，才能保障歐洲民眾的自主權(quán)。在個(gè)體身份識(shí)別與個(gè)體跟蹤之間，以及針對(duì)監(jiān)控與大眾監(jiān)控之間進(jìn)行區(qū)分，是實(shí)現(xiàn)可信賴(lài)的人工智能的關(guān)鍵。

目前互聯(lián)網(wǎng)上也有知情同意的機(jī)制，但消費(fèi)者往往不假思索就點(diǎn)擊同意。這就要求監(jiān)管者必須根據(jù)實(shí)際情況構(gòu)建全新機(jī)制，讓公民能夠給出可驗(yàn)證的同意，讓人工智能或同等技術(shù)能夠自動(dòng)識(shí)別驗(yàn)證。面部識(shí)別或其他使用生物計(jì)量數(shù)據(jù)的非自愿身份識(shí)別手段都屬于可擴(kuò)展人工智能身份識(shí)別技術(shù)（如謊言測(cè)試、通過(guò)微表情進(jìn)行性格評(píng)估、自動(dòng)語(yǔ)音識(shí)別等）。個(gè)體身份識(shí)別有時(shí)也符合道德原則（如發(fā)現(xiàn)欺詐、洗錢(qián)或資助恐怖分子等行為）。在現(xiàn)有法律或者對(duì)核心價(jià)值觀的保護(hù)沒(méi)有明確規(guī)定可以采用此類(lèi)技術(shù)的地方，自動(dòng)身份識(shí)別會(huì)引發(fā)重大的法律與道德關(guān)注，其默認(rèn)條件是用戶(hù)并沒(méi)有給出同意身份驗(yàn)證的意思表示。這同時(shí)也適用于使用能夠進(jìn)行逆向身份驗(yàn)證的“匿名”個(gè)人數(shù)據(jù)。

隱秘的人工智能系統(tǒng)。人工智能的開(kāi)發(fā)者和部署者有責(zé)任讓用戶(hù)知道交互對(duì)象是人類(lèi)還是機(jī)器，這一點(diǎn)必須可靠實(shí)現(xiàn)。此外，掌握人工智能的控制權(quán)，操縱人類(lèi)的能力就可能達(dá)到前所未有的規(guī)模。因此，人工智能開(kāi)發(fā)者和部署者應(yīng)當(dāng)確保人類(lèi)了解交互對(duì)象是人工智能的這一事實(shí)，或者能夠要求并驗(yàn)證這個(gè)事實(shí)。值得注意的是，存在可能讓事態(tài)更加復(fù)雜的邊緣情況，比如用人工智能過(guò)濾人類(lèi)語(yǔ)音。機(jī)器人就可視為是一種隱秘的人工智能系統(tǒng)，因?yàn)闄C(jī)器人在盡量模仿人類(lèi)行為。機(jī)器人進(jìn)入到人類(lèi)社會(huì)有可能改變?nèi)藗儗?duì)人類(lèi)及人性的認(rèn)知。人們必須牢記，人類(lèi)與機(jī)器的混合將導(dǎo)致多重后果，包括歸屬感、影響力，或者降低人類(lèi)的價(jià)值。因此，類(lèi)人與人形機(jī)器人的開(kāi)發(fā)必須要進(jìn)行謹(jǐn)慎的道德評(píng)估。

所有公民的自由與自主都應(yīng)得到尊重。政府機(jī)構(gòu)在各方面進(jìn)行大規(guī)模標(biāo)準(zhǔn)化公民評(píng)分（如“道德人格”或者“道德誠(chéng)實(shí)”方面的總體評(píng)估）將危及這些價(jià)值觀，特別是在不符合基本權(quán)利或者規(guī)模失調(diào)且沒(méi)有明確合法目標(biāo)的情況下。當(dāng)今世界，大小規(guī)模的公民評(píng)分常為具體領(lǐng)域的單純說(shuō)明性評(píng)分（如學(xué)校系統(tǒng)、電子學(xué)習(xí)或駕照）。但是，公民評(píng)分如果要應(yīng)用于有限的社會(huì)領(lǐng)域，就必須要為公民提供透明流程，并提供評(píng)分過(guò)程、目的和方法方面的信息，在理想情況下還要向公民提供退出評(píng)分機(jī)制的選擇權(quán)。在雙方權(quán)利不對(duì)稱(chēng)的情況下，這一點(diǎn)尤為重要。因此，開(kāi)發(fā)者和部署者都應(yīng)當(dāng)在技術(shù)設(shè)計(jì)中保障這種選擇權(quán)，并提供必要的資源予以實(shí)現(xiàn)。

致命自動(dòng)化武器系統(tǒng)（LAWS）。致命自動(dòng)化武器系統(tǒng)可以在沒(méi)有人類(lèi)控制的情況下自動(dòng)執(zhí)行選擇與攻擊個(gè)體目標(biāo)的關(guān)鍵功能。而最終，所有傷亡還是必須要由人類(lèi)負(fù)責(zé)。目前，不明數(shù)量的企業(yè)和國(guó)家正在研究和開(kāi)發(fā)致命自動(dòng)化武器系統(tǒng)。這種情況會(huì)引發(fā)基本的道德關(guān)注，比如會(huì)導(dǎo)致前所未有的軍備競(jìng)賽失控，會(huì)導(dǎo)致人類(lèi)完全放棄控制、故障風(fēng)險(xiǎn)完全無(wú)解的軍事環(huán)境。不過(guò)還有另一方面需要注意，那就是致命自動(dòng)化武器系統(tǒng)能夠在武裝沖突中減少附帶傷害，比如有選擇的解救兒童。歐洲議會(huì)呼吁緊急制定共同遵守的法律，解決人類(lèi)控制、監(jiān)督的道德與法律問(wèn)題，落實(shí)國(guó)際人權(quán)法律、國(guó)際人道主義法律和軍事戰(zhàn)略的問(wèn)責(zé)與落實(shí)機(jī)制。

遠(yuǎn)期關(guān)注。當(dāng)前所有的人工智能仍然僅涉及具體領(lǐng)域，需要訓(xùn)練有素的人類(lèi)科學(xué)家和工程師為其指定準(zhǔn)確目標(biāo)。但是，長(zhǎng)遠(yuǎn)的未來(lái)仍然存在一些重大關(guān)注，雖然這些僅僅是猜測(cè)。盡管以現(xiàn)在的眼光看來(lái)，出現(xiàn)這些情況的可能性并不大，但其潛在危害卻可能十分巨大（比如擁有主觀經(jīng)驗(yàn)的人工意識(shí)、人工道德實(shí)體或者無(wú)監(jiān)督遞歸自我改進(jìn)型人工智能（AGI）等，這些技術(shù)在今天看來(lái)尚遙遙無(wú)期）。因此，人們需要采取風(fēng)險(xiǎn)評(píng)估策略，始終關(guān)注這些領(lǐng)域的發(fā)展，并投入資源減少遠(yuǎn)期風(fēng)險(xiǎn)。

人工智能道德準(zhǔn)則草案結(jié)論

人工智能已給全球商業(yè)和社會(huì)帶來(lái)巨大的積極影響。人工智能是一種變革與顛覆性技術(shù)。過(guò)去幾年，得益于海量數(shù)字化數(shù)據(jù)、計(jì)算能力與存儲(chǔ)能力的重大進(jìn)步以及人工智能方法與工具的重大科研創(chuàng)新，人工智能實(shí)現(xiàn)了跨越式發(fā)展。

人工智能將繼續(xù)給社會(huì)和民眾帶來(lái)難以預(yù)料的影響。這種前景令人振奮，但人們也必須保持警惕，應(yīng)正確認(rèn)識(shí)可信賴(lài)的人工智能，并努力加以踐行，只有贏得人類(lèi)的信任，技術(shù)才能發(fā)揮造福人類(lèi)的巨大作用。因此，實(shí)現(xiàn)可信賴(lài)的人工智能是本文件的根本宗旨。

可信賴(lài)的人工智能包含兩個(gè)方面：第一，應(yīng)尊重基本權(quán)利、相關(guān)規(guī)則和核心原則，確保“道德目標(biāo)”的實(shí)現(xiàn);第二，技術(shù)上必須穩(wěn)健可靠。