人工智能政策研究

產(chǎn)業(yè)政策法規(guī)研究所

人工智能主要政策和制度

人工智能的迅速發(fā)展深刻改變著人類的社會(huì)生活，推動(dòng)經(jīng)濟(jì)社會(huì)各領(lǐng)域從數(shù)字化、網(wǎng)絡(luò)化向智能化加速躍升。習(xí)近平總書(shū)記多次就人工智能做出重要批示，指出人工智能技術(shù)的發(fā)展將深刻改變?nèi)祟惿鐣?huì)生活、改變世界，要求抓住機(jī)遇，在這一高技術(shù)領(lǐng)域搶占先機(jī)，加快部署和實(shí)施。 2017 年 《政府工作報(bào)告》指出，要加快人工智能等技術(shù)研發(fā)和轉(zhuǎn)化，做大做強(qiáng)產(chǎn)業(yè)集群。黨的十九大報(bào)告也提及處理好人工智能等新技術(shù)與實(shí)體經(jīng)濟(jì)的關(guān)系，發(fā)展現(xiàn)代產(chǎn)業(yè)體系。

2017年7月，國(guó)務(wù)院發(fā)布了《新一代人工智能發(fā)展規(guī)劃》，指出新一代人工智能相關(guān)學(xué)科發(fā)展、理論建模、技術(shù)創(chuàng)新、軟硬件升級(jí)等整體推進(jìn)，正在引發(fā)鏈?zhǔn)酵黄疲苿?dòng)經(jīng)濟(jì)社會(huì)各領(lǐng)域從數(shù)字化、網(wǎng)絡(luò)化向智能化加速躍升。面對(duì)新形勢(shì)新需求，必須主動(dòng)求變應(yīng)變，牢牢把握人工智能發(fā)展的重大歷史機(jī)遇，緊扣發(fā)展、研判大勢(shì)、主動(dòng)謀劃、把握方向、搶占先機(jī)，引領(lǐng)世界人工智能發(fā)展新潮流，服務(wù)經(jīng)濟(jì)社會(huì)發(fā)展和支撐國(guó)家安全，帶動(dòng)國(guó)家競(jìng)爭(zhēng)力整體躍升和跨越式發(fā)展。

2017年12月，工業(yè)和信息化部配套印發(fā)《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃（2018-2020年）》，確定以信息技術(shù)與制造技術(shù)深度融合為主線，以新一代人工智能技術(shù)的產(chǎn)業(yè)化和集成應(yīng)用為重點(diǎn)，推進(jìn)人工智能和制造業(yè)深度融合，加快制造強(qiáng)國(guó)和網(wǎng)絡(luò)強(qiáng)國(guó)建設(shè)。力爭(zhēng)到2020年，實(shí)現(xiàn)人工智能重點(diǎn)產(chǎn)品規(guī)模化發(fā)展、人工智能整體核心基礎(chǔ)能力顯著增強(qiáng)、智能制造深化發(fā)展、人工智能產(chǎn)業(yè)支撐體系基本建立的目標(biāo)。

2018年4月，教育部配套出臺(tái)了《高等學(xué)校人工智能創(chuàng)新行動(dòng)計(jì)劃》，強(qiáng)調(diào)要加強(qiáng)人工智能領(lǐng)域?qū)I(yè)建設(shè)，推進(jìn)“新工科”建設(shè)，形成“人工智能+X”復(fù)合專業(yè)培養(yǎng)新模式。到2020年建設(shè)100個(gè)“人工智能+X”復(fù)合特色專業(yè)，推動(dòng)重要方向的教材和在線開(kāi)放課程建設(shè)。到2020年編寫50本具有國(guó)際一流水平的本科生和研究生教材、建設(shè)50門人工智能領(lǐng)域國(guó)家級(jí)精品在線開(kāi)放課程、建立50家人工智能學(xué)院、研究院或交叉研究中心，并引導(dǎo)高校通過(guò)增量支持和存量調(diào)整，加大人工智能領(lǐng)域人才培養(yǎng)力度。在職業(yè)院校大數(shù)據(jù)、信息管理相關(guān)專業(yè)中增加人工智能相關(guān)內(nèi)容，培養(yǎng)人工智能應(yīng)用領(lǐng)域技術(shù)技能人才。

此外，大部分省市也積極出臺(tái)人工智能發(fā)展計(jì)劃等政策，積極謀劃新一代人工智能產(chǎn)業(yè)在時(shí)間和空間上的戰(zhàn)略布局，加快推進(jìn)人工智能與經(jīng)濟(jì)、社會(huì)、產(chǎn)業(yè)的深度融合發(fā)展。

人工智能主要情況

在中央政府的頂層設(shè)計(jì)下，人工智能技術(shù)發(fā)展迅速。百度、阿里、騰訊等互聯(lián)網(wǎng)巨頭已經(jīng)在世界范圍內(nèi)成為人工智能領(lǐng)域最頂尖的一批參與者，數(shù)百個(gè)初創(chuàng)公司在不同的人工智能細(xì)分和應(yīng)用領(lǐng)域建立了服務(wù)模型。首批國(guó)家級(jí)人工智能開(kāi)放創(chuàng)新平臺(tái)已經(jīng)建立。智能物流信息系統(tǒng)出現(xiàn)，使得物流運(yùn)輸變得更加高效、靈活和智能。無(wú)人零售店落地，用戶通過(guò)身份識(shí)別后可以自由購(gòu)物，離店時(shí)實(shí)現(xiàn)無(wú)縫結(jié)算，零售服務(wù)高效便捷。人工智能還在智能可穿戴、智能語(yǔ)音、智能家居、智能金融等很多行業(yè)深度融合，不斷涌現(xiàn)新服務(wù)、新產(chǎn)品。人工智能正在加快推動(dòng)個(gè)性化、多樣化服務(wù)的業(yè)態(tài)升級(jí)。

在智能機(jī)器人領(lǐng)域，工業(yè)機(jī)器人的應(yīng)用領(lǐng)域不斷延伸，從汽車、電子行業(yè)延伸到紡織、物流、國(guó)防軍工、民用爆破、食品、原材料等行業(yè);服務(wù)機(jī)器人在智能家居、娛樂(lè)教育、安全健康、信息服務(wù)等方面應(yīng)用廣泛，一批產(chǎn)研深度結(jié)合的優(yōu)秀企業(yè)不斷涌現(xiàn)。人工智能在改變社會(huì)經(jīng)濟(jì)生活的同時(shí)，不可避免地帶來(lái)一定的法律和倫理問(wèn)題。

一. 人工智能技術(shù)的發(fā)展存在不確定性。人工智能技術(shù)尚處于不斷發(fā)展的過(guò)程中，隱私問(wèn)題是技術(shù)發(fā)展過(guò)程中的主要問(wèn)題之一，在人工智能技術(shù)成熟之前，技術(shù)缺陷極有可能存在侵犯隱私的風(fēng)險(xiǎn)。而且，如果帶有偏見(jiàn)的數(shù)據(jù)進(jìn)入系統(tǒng)，必然會(huì)帶來(lái)歧視性結(jié)果，直接給人類社會(huì)安全帶來(lái)隱患。另外，如果人工智能技術(shù)的創(chuàng)新者罔顧科技倫理的約束，將人工智能技術(shù)進(jìn)行有倫理爭(zhēng)議的或不正當(dāng)?shù)男袨椋厝粫?huì)給社會(huì)公共利益和公共安全帶來(lái)巨大的潛在威脅。這些不確定性都會(huì)使人們對(duì)人工智能產(chǎn)生顧慮。

二.個(gè)人數(shù)據(jù)和生物信息保護(hù)存在風(fēng)險(xiǎn)。人工智能時(shí)代，隨著人工智能技術(shù)大規(guī)模應(yīng)用，智能設(shè)備和算法對(duì)于個(gè)人隱私的發(fā)掘分析能力遠(yuǎn)超以往技術(shù)，隱私所有權(quán)人防范難度大大增加。在不需要權(quán)利人主動(dòng)透露任何涉及隱私信息內(nèi)容的情況下，智能算法擁有者就已精準(zhǔn)的掌握了權(quán)利人的隱私。權(quán)利人不但在無(wú)意識(shí)的情況下可能透露出自己的隱私，在有意識(shí)的隱私防護(hù)判斷中，權(quán)利人理解的情況也與真實(shí)情況相差甚遠(yuǎn)。主要表現(xiàn)在三方面：一是智能設(shè)備和算法對(duì)于個(gè)人隱私的發(fā)掘分析能力遠(yuǎn)超以往技術(shù)，隱私所有權(quán)人防范的難度大大增加。二是用于身份識(shí)別驗(yàn)證的生物信息具有較強(qiáng)的穩(wěn)定性，一旦發(fā)生泄露無(wú)法找回或重置，生物信息的價(jià)值大大減損，且與個(gè)人生物信息綁定的相關(guān)安全驗(yàn)證都將面臨很高的安全風(fēng)險(xiǎn)，目前對(duì)生物信息安全問(wèn)題關(guān)注遠(yuǎn)遠(yuǎn)不夠。三是個(gè)人行為數(shù)據(jù)被智能設(shè)備和定位系統(tǒng)記錄、存儲(chǔ)和分析后會(huì)全面呈現(xiàn)個(gè)人的行為偏好、習(xí)慣和生活狀態(tài)，目前只規(guī)制“出售或提供行蹤軌跡信息，被他人用于犯罪的”情形，其它領(lǐng)域行為數(shù)據(jù)如何保護(hù)尚缺少相應(yīng)規(guī)定。

《最高人民法院、最高人民檢察院關(guān)于辦理侵犯公民個(gè)人信息刑事案件適用法律若干問(wèn)題的解釋》（以下簡(jiǎn)稱為《解釋》）中將“公民個(gè)人信息”定義為以電子或者其他方式記錄的能夠單獨(dú)或者與其他信息結(jié)合識(shí)別特定自然人身份或者反映特定自然人活動(dòng)情況的各種信息，其中包括了行蹤軌跡。行蹤軌跡等個(gè)人行為數(shù)據(jù)的價(jià)值和意義不易被權(quán)利人感知，因此大多數(shù)人不會(huì)像保護(hù)個(gè)人隱私信息一樣保護(hù)個(gè)人行為數(shù)據(jù)。《解釋》將行蹤軌跡與各類身份信息、賬號(hào)密碼進(jìn)行基本同等保護(hù)，但是對(duì)于“出售或提供行蹤軌跡信息，被他人用于犯罪的”情形是出于刑事審判的需要，在其它領(lǐng)域行為數(shù)據(jù)如何保護(hù)的問(wèn)題，尚缺少相應(yīng)規(guī)定。人工智能技術(shù)對(duì)于人類生物信息的識(shí)別能力越來(lái)越強(qiáng)，指紋、面部、視網(wǎng)膜識(shí)別技術(shù)應(yīng)用日益廣泛，應(yīng)用場(chǎng)景越來(lái)越多，但是這些生物信息的信息安全狀況堪憂。我國(guó)尚缺少法規(guī)和標(biāo)準(zhǔn)規(guī)范生物信息的采集、存儲(chǔ)、使用和監(jiān)管等問(wèn)題，在大量生物信息被使用、傳輸?shù)膱?chǎng)景缺乏足夠的安全保護(hù)，識(shí)別和存儲(chǔ)設(shè)備安全等級(jí)低，易發(fā)生生物信息泄露。而且目前尚缺少生物信息侵權(quán)規(guī)范和權(quán)利救濟(jì)途徑，生物信息濫用問(wèn)題隱患頗多。

三.人工智能創(chuàng)造物權(quán)屬不明。以微軟小冰為代表的人工智能程序已經(jīng)創(chuàng)造了大量作品，包括文學(xué)作品、音樂(lè)作品、美術(shù)作品等，這些作品在不考慮創(chuàng)造者因素的情況下，完全符合著作權(quán)法規(guī)定的“作品”的形式和實(shí)質(zhì)要求。人工智能創(chuàng)造的一些作品從質(zhì)量上看，堪比人類作品，而從數(shù)量和創(chuàng)作速度來(lái)看又遠(yuǎn)超人類水平，這些作品已造成了一定的社會(huì)影響，且會(huì)隨著人工智能技術(shù)的發(fā)展產(chǎn)生更多的影響，需要法律進(jìn)行規(guī)范。在人工智能作品影響日益擴(kuò)大的今天，此類作品權(quán)屬不明會(huì)帶來(lái)一系列問(wèn)題。在權(quán)利配置方面，權(quán)屬不明就無(wú)法確定發(fā)表權(quán)、署名權(quán)、修改權(quán)、保護(hù)作品完整權(quán)等人身權(quán)利的所有者，“作品”無(wú)法得到充分的法律保護(hù)，相應(yīng)的人工智能創(chuàng)造者、所有者等人類主體的權(quán)益也可能受到損害;作品的使用權(quán)、許可使用權(quán)、轉(zhuǎn)讓權(quán)、獲得報(bào)酬權(quán)等財(cái)產(chǎn)權(quán)利無(wú)人行使或者會(huì)因權(quán)利歸屬不明產(chǎn)生糾紛，一部分社會(huì)財(cái)富的歸屬會(huì)處于不確定狀態(tài)。在侵權(quán)責(zé)任方面，由于權(quán)屬不明，如果人工智能作品被他人侵權(quán)，會(huì)面臨受害者不明的情況;如果人工智能作品侵犯了他人的著作權(quán)，也會(huì)出現(xiàn)承擔(dān)侵權(quán)責(zé)任的主體不明的情況。這些情況都不利于相關(guān)權(quán)利主體的權(quán)益保護(hù)，一定程度上會(huì)增加著作權(quán)糾紛的風(fēng)險(xiǎn)。根據(jù)現(xiàn)行著作權(quán)法的規(guī)定，作品的構(gòu)成要件主要有四個(gè)：一是要求該作品為文學(xué)、藝術(shù)和自然科學(xué)、社會(huì)科學(xué)、工程技術(shù)領(lǐng)域相關(guān);二是可復(fù)制性，即具有某種有形形式可以復(fù)制;三是獨(dú)創(chuàng)性，亦稱為原創(chuàng)性;四是智力成果。現(xiàn)在人工智能創(chuàng)作的詩(shī)作等作品，已經(jīng)滿足著作權(quán)法上關(guān)于作品的要求。由于智能機(jī)器人不具有法律人格，因此智能機(jī)器人的作品不能擁有著作權(quán)。

人工智能政策需求分析

一.制定算法法律法規(guī)，搶占人工智能戰(zhàn)略制高點(diǎn)。算法是人工智能的核心，決定人工智能的決策程序、價(jià)值取向和發(fā)展方向，我國(guó)應(yīng)盡快制定算法法律法規(guī)，搶占人工智能發(fā)展的戰(zhàn)略制高點(diǎn)。以算法為規(guī)制對(duì)象制定法律法規(guī)，約束和規(guī)范算法設(shè)計(jì)及決策等行為。包括制定對(duì)算法的審查規(guī)則以及把部分倫理規(guī)范融入法律規(guī)則，強(qiáng)化對(duì)算法設(shè)計(jì)者遵循社會(huì)倫理道德的法律約束力。加快推動(dòng)算法倫理道德規(guī)范出臺(tái)，厘清算法倫理道德規(guī)范和算法法律的界限。

二.制定標(biāo)準(zhǔn)，強(qiáng)化人工智能系統(tǒng)安全。可靠的人工智能系統(tǒng)應(yīng)具有強(qiáng)大的安全性能，能夠有效應(yīng)對(duì)各類惡意攻擊，法律可以考慮通過(guò)安全標(biāo)準(zhǔn)、安全評(píng)估義務(wù)等規(guī)范達(dá)到強(qiáng)化系統(tǒng)安全的目的。一是提高人工智能產(chǎn)品研發(fā)的安全標(biāo)準(zhǔn)，從技術(shù)上增強(qiáng)智能系統(tǒng)的安全性和強(qiáng)健性。二是推行智能系統(tǒng)安全認(rèn)證制度，對(duì)人工智能技術(shù)和產(chǎn)品進(jìn)行嚴(yán)格測(cè)試，增強(qiáng)社會(huì)公眾信任。三是強(qiáng)化安全評(píng)估義務(wù)主體責(zé)任，針對(duì)人工智能應(yīng)用場(chǎng)景和應(yīng)用重要程度的不同，有針對(duì)性地制定技術(shù)標(biāo)準(zhǔn)和評(píng)估方案，滿足不同系統(tǒng)安全風(fēng)險(xiǎn)與保障的差異化需求。

三.制定人工智能倫理準(zhǔn)則，把控技術(shù)發(fā)展方向。建立人工智能技術(shù)發(fā)展的倫理準(zhǔn)則，有助于指導(dǎo)機(jī)器人設(shè)計(jì)研究者和制造商對(duì)機(jī)器人做出道德風(fēng)險(xiǎn)評(píng)估，并形成完善的人工智能技術(shù)研發(fā)規(guī)范，確保人工智能系統(tǒng)的行為符合社會(huì)倫理道德標(biāo)準(zhǔn)。

系統(tǒng)設(shè)計(jì)者的道德責(zé)任觀，決定著人工智能技術(shù)的發(fā)展方向和應(yīng)用效果。正如愛(ài)因斯坦對(duì)科學(xué)技術(shù)的評(píng)價(jià)：科學(xué)技術(shù)究竟是給人類帶來(lái)幸福還是帶來(lái)災(zāi)難，全取決于人自己，而不取決于工具。所以，要幫助系統(tǒng)設(shè)計(jì)者樹(shù)立正確的倫理道德觀，在算法和設(shè)計(jì)源頭加固道德性，避免算法歧視，更客觀、積極地影響人工智能判斷道德上的對(duì)錯(cuò)和是否應(yīng)當(dāng)。

人工智能技術(shù)發(fā)展的初衷是造福人類，必然要求人工智能系統(tǒng)的行為能夠符合人類社會(huì)的倫理價(jià)值觀念。一是，在系統(tǒng)設(shè)計(jì)和研發(fā)階段，企業(yè)將人工智能倫理價(jià)值算法嵌入編程語(yǔ)言，讓程序語(yǔ)言融入倫理規(guī)范，實(shí)現(xiàn)人工智能人性化、理性化的服務(wù)。二是，對(duì)技術(shù)創(chuàng)新者進(jìn)行嚴(yán)格的規(guī)范約束，避免設(shè)計(jì)出不符合人工智能倫理的產(chǎn)品，及所帶來(lái)的負(fù)面社會(huì)影響。三是，定時(shí)評(píng)估系統(tǒng)的規(guī)范和價(jià)值的有效性，即是否和現(xiàn)實(shí)的規(guī)范與價(jià)值相一致。這樣，不僅使系統(tǒng)的設(shè)計(jì)符合人工智能倫理規(guī)范，更讓創(chuàng)新者主動(dòng)承擔(dān)起相應(yīng)的倫理責(zé)任。

盡快把人工智能倫理規(guī)范教育引入人才培養(yǎng)體系。統(tǒng)籌整合人、財(cái)、物各種資源，依托智能設(shè)備平臺(tái)，圍繞智能服務(wù)內(nèi)容，加快建立健全人工智能倫理規(guī)范體系。開(kāi)設(shè)跨學(xué)科、跨領(lǐng)域的人工智能倫理課程，把倫理規(guī)范教育作為人才培養(yǎng)體系的重要內(nèi)容。

四.加快個(gè)人信息保護(hù)立法，確保個(gè)人隱私安全。目前，我國(guó)的個(gè)人信息保護(hù)法還在制定過(guò)程中，尚未出臺(tái)。有關(guān)個(gè)人信息保護(hù)的法律條文散見(jiàn)于民事、刑事等諸法律中。要加快個(gè)人信息保護(hù)法的立法進(jìn)程，在該法中用條文明確宣示個(gè)人信息的人格屬性和財(cái)產(chǎn)屬性。同時(shí)，利用侵權(quán)責(zé)任法向侵犯?jìng)€(gè)人信息者提起民事賠償，利用刑法對(duì)不法分子提起刑事制裁。從立法和執(zhí)法兩個(gè)方向著手，增強(qiáng)對(duì)個(gè)人信息的保護(hù)。

針對(duì)人工智能技術(shù)應(yīng)用的不同領(lǐng)域，收集個(gè)人信息的來(lái)源，構(gòu)架出一套自下而上、逐層具體、全面完善的隱私權(quán)保護(hù)的法律。一是對(duì)于個(gè)人敏感信息，明確列舉哪些信息屬于個(gè)人敏感信息，需要采取特殊的保護(hù)手段和使用限制予以保護(hù)。二是對(duì)于需要采集和存儲(chǔ)個(gè)人信息和數(shù)據(jù)隱私的單位和個(gè)人，在采集和存儲(chǔ)前應(yīng)當(dāng)明確告知信息主體，特定范圍的信息需要取得信息主體的明示同意。三是明確規(guī)定可能會(huì)給信息主體造成一定風(fēng)險(xiǎn)的個(gè)人信息和數(shù)據(jù)的獲取的正當(dāng)性和必要性條件，規(guī)范信息獲取行為，降低信息和數(shù)據(jù)被非法獲取和使用的風(fēng)險(xiǎn)。

五.通過(guò)調(diào)整作品的含義，保護(hù)人工智能創(chuàng)作物。《計(jì)算機(jī)軟件保護(hù)條例》中的創(chuàng)作指獨(dú)立開(kāi)發(fā)，包括實(shí)際組織、進(jìn)行開(kāi)發(fā)和提供工作條件。這并不完全是智力活動(dòng)，還包括與程序開(kāi)發(fā)有關(guān)的組織、管理和提供工作條件等輔助性活動(dòng)。版權(quán)法中獨(dú)創(chuàng)性的認(rèn)定，應(yīng)當(dāng)以客觀化為判斷標(biāo)準(zhǔn)，通過(guò)調(diào)整作品的含義，將人工智能創(chuàng)作物納入作品的范疇。以作品是否具有“足夠可區(qū)分的變化”為標(biāo)準(zhǔn)來(lái)判斷其獨(dú)創(chuàng)性，如果人工智能創(chuàng)作物符合作品獨(dú)創(chuàng)性要求，應(yīng)該賦予其作品的法律性質(zhì)。第一，從思想表達(dá)的角度，人工智能創(chuàng)作物所要表達(dá)的來(lái)自編程者所賦予的數(shù)據(jù)類型和模型算法。第二，雖然人工智能作為編程者的創(chuàng)作物，其本身屬于權(quán)利客體和權(quán)利支配的對(duì)象，如果不賦予人工智能創(chuàng)作物作品的法律性質(zhì)，社會(huì)將產(chǎn)生大量的“無(wú)主作品”，既不利于激勵(lì)新作品的創(chuàng)作和人工智能技術(shù)的發(fā)展，也無(wú)益于著作權(quán)市場(chǎng)的合規(guī)性和穩(wěn)定性。