謀定而動：布局AI產(chǎn)業(yè)法治重點領(lǐng)域

文/王樺宇 智惠

人工智能（AI）不僅僅是一項技術(shù)，也是全面數(shù)字時代到來的重要標(biāo)志。《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》（以下簡稱《條例》）的立法，是上海市人工智能產(chǎn)業(yè)迅速發(fā)展的客觀寫照和必然要求，也是上海市人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展的催化劑和穩(wěn)定器。為了使數(shù)字時代的經(jīng)濟(jì)社會保持健康穩(wěn)定發(fā)展，有必要對人工智能行業(yè)標(biāo)準(zhǔn)、隱私權(quán)保護(hù)和主體責(zé)任等重點領(lǐng)域法律問題做進(jìn)一步研究，推動人工智能在“以人為本，科技向善”的原則基礎(chǔ)上高質(zhì)量發(fā)展，從而最終建成具有國際影響力的人工智能“上海高地”。

AI行業(yè)標(biāo)準(zhǔn)的法律問題

根據(jù)《條例》第37條規(guī)定，上海市政府應(yīng)當(dāng)支持本市人工智能企業(yè)與相關(guān)行業(yè)組織在人工智能國家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)、地方標(biāo)準(zhǔn)制定中發(fā)揮引領(lǐng)作用，參與算法性能、數(shù)據(jù)安全、隱私保護(hù)、產(chǎn)品兼容性、性能測試等方面技術(shù)標(biāo)準(zhǔn)的制定。上海市市場監(jiān)管部門是人工智能地方標(biāo)準(zhǔn)的制定主體，指導(dǎo)上海市人工智能標(biāo)準(zhǔn)化技術(shù)委員會加強(qiáng)相關(guān)地方標(biāo)準(zhǔn)技術(shù)歸口工作；同時，上海市市場監(jiān)管、上海市經(jīng)濟(jì)和信息化委員會（以下簡稱“市經(jīng)信委”）等部門應(yīng)當(dāng)引導(dǎo)人工智能企業(yè)與相關(guān)行業(yè)組織先行研究制定與人工智能相關(guān)的企業(yè)標(biāo)準(zhǔn)、團(tuán)體標(biāo)準(zhǔn)。經(jīng)自愿申請和第三方機(jī)構(gòu)評價，符合國內(nèi)領(lǐng)先、國際先進(jìn)要求的，可以在標(biāo)準(zhǔn)文本上使用人工智能“上海標(biāo)準(zhǔn)”的專門標(biāo)識。從上述立法內(nèi)容來看，《條例》中的人工智能標(biāo)準(zhǔn)涉及國家、地方、行業(yè)、技術(shù)標(biāo)準(zhǔn)等多維度且涉及職能部門、行業(yè)組織等多方面主體，對上海市人工智能產(chǎn)業(yè)發(fā)展有著較為深入且長遠(yuǎn)的規(guī)劃：一方面，人工智能作為國家重點推動的新興產(chǎn)業(yè)，國家、行業(yè)標(biāo)準(zhǔn)的制定是產(chǎn)業(yè)健康發(fā)展不可或缺的基礎(chǔ)性因素，也是我國科技創(chuàng)新和體制機(jī)制創(chuàng)新的重要突破口，需要加快推進(jìn)不同層次相關(guān)標(biāo)準(zhǔn)的制定；另一方面，集成電路、生物醫(yī)藥、人工智能，是上海正在著力打造的三大先導(dǎo)產(chǎn)業(yè)，上海作為全國科技產(chǎn)業(yè)前沿的先行示范區(qū)，可根據(jù)本市人工智能產(chǎn)業(yè)發(fā)展實際，先行制定人工智能行業(yè)的地方性標(biāo)準(zhǔn)。

人工智能產(chǎn)業(yè)仍然處于“摸著石頭過河”的探索階段 （圖/IC photos）

筆者認(rèn)為，在行業(yè)標(biāo)準(zhǔn)制定過程中，需要重點把握幾個方面的關(guān)系：一是中央與地方政府權(quán)限的關(guān)系。《條例》是針對人工智能產(chǎn)業(yè)發(fā)展的地方性立法，地方政府可以支持企業(yè)與行業(yè)組織參與國家和行業(yè)標(biāo)準(zhǔn)制定過程并發(fā)揮引領(lǐng)作用，但國家和行業(yè)標(biāo)準(zhǔn)制定仍屬于中央事權(quán)。二是創(chuàng)新發(fā)展與規(guī)范引領(lǐng)的關(guān)系。上海市市場監(jiān)管部門可以制定人工智能的地方標(biāo)準(zhǔn)，同時需要對人工智能的創(chuàng)新發(fā)展進(jìn)行有效監(jiān)管；既要鼓勵“先行先試”允許“容錯免責(zé)”，也要堅決制止“風(fēng)險失控”。三是市場主導(dǎo)和政府促進(jìn)的關(guān)系。人工智能產(chǎn)業(yè)的發(fā)展在本質(zhì)上仍是由作為市場主體的企業(yè)在自我創(chuàng)新中加以推動，得找符合先進(jìn)性要求的企業(yè)在適格第三方機(jī)構(gòu)認(rèn)可下自主選擇“上海標(biāo)準(zhǔn)”的專門標(biāo)識（政府對此予以認(rèn)可、鼓勵和保障）。

AI的社會應(yīng)用與數(shù)據(jù)權(quán)益保護(hù)

人工智能的發(fā)展與數(shù)字經(jīng)濟(jì)息息相關(guān)，涉及大量數(shù)據(jù)的存儲與運(yùn)用。人工智能在經(jīng)濟(jì)發(fā)展、民生服務(wù)和城市治理等多個方面發(fā)揮著重要作用，人工智能處理的數(shù)據(jù)顯現(xiàn)出很強(qiáng)的社會應(yīng)用價值，人們享受著信息數(shù)字化帶來的諸多便利。《條例》在第4章“應(yīng)有賦能”中分“一般規(guī)定”“經(jīng)濟(jì)應(yīng)用”“生活應(yīng)用”“城市治理應(yīng)用”對人工智能的應(yīng)用做了較為具體的規(guī)定，明確提出建立人工智能應(yīng)用場景開發(fā)制度，促進(jìn)場景培育、發(fā)現(xiàn)、實施和示范性場景推廣，并對人工智能的商業(yè)應(yīng)用和公共應(yīng)用進(jìn)行了區(qū)分規(guī)范和分類治理。同時，《條例》在第5章“產(chǎn)業(yè)治理與安全”對人工智能的安全性做了較為具體的規(guī)定，并明確提出設(shè)立人工智能倫理專家委員會。

從《條例》第4章規(guī)定的內(nèi)容來看，上海市正推動人工智能在經(jīng)濟(jì)、生活、城市治理等領(lǐng)域的規(guī)模化應(yīng)用，加快數(shù)字化轉(zhuǎn)型——要求市經(jīng)信委會同相關(guān)部門制定并定期更新人工智能示范應(yīng)用清單，指導(dǎo)有關(guān)方面加強(qiáng)人工智能在經(jīng)濟(jì)、生活、城市治理等領(lǐng)域的應(yīng)用。這也說明，在人工智能的社會應(yīng)用和示范使用中，上海市對公共數(shù)據(jù)的開放使用持積極態(tài)度，既包括主動公開數(shù)據(jù)，也包括申請數(shù)據(jù)公開的公平使用制度。《上海市數(shù)據(jù)條例》第38條規(guī)定了對公共數(shù)據(jù)的管理以共享為原則，以不共享為例外的指導(dǎo)原則。從人工智能的產(chǎn)業(yè)發(fā)展來看，所涉及的數(shù)據(jù)除了公共數(shù)據(jù)以外還有自然人的個人信息人格權(quán)益，以及自然人、法人和非法人組織在使用、加工等數(shù)據(jù)處理活動和進(jìn)行數(shù)據(jù)創(chuàng)新中形成的法定或者約定的財產(chǎn)權(quán)益。這些數(shù)據(jù)權(quán)益需要在人工智能產(chǎn)業(yè)發(fā)展過程中得到充分有效的保障。

《上海市數(shù)據(jù)條例》第17條規(guī)定，自然人、法人和非法人組織開展數(shù)據(jù)處理活動、行使相關(guān)數(shù)據(jù)權(quán)益，應(yīng)當(dāng)遵守法律、法規(guī)，尊重社會公德和倫理，遵守商業(yè)道德，誠實守信，不得危害國家安全和公共利益，不得損害他人的合法權(quán)益。這與《條例》第67條規(guī)定的相關(guān)主體開展人工智能研發(fā)和應(yīng)用應(yīng)當(dāng)遵循法律法規(guī)規(guī)定，不得從事侵犯國家安全、社會公共安全以及侵害用戶數(shù)據(jù)財產(chǎn)權(quán)益和個人隱私的規(guī)定高度一致。在推動經(jīng)濟(jì)社會法治化治理進(jìn)程中，在促進(jìn)人工智能產(chǎn)業(yè)發(fā)展的同時，尤其需要注意數(shù)據(jù)權(quán)益的充分有效保護(hù)：要制定人工智能領(lǐng)域的數(shù)據(jù)權(quán)益保護(hù)示范規(guī)則，在人工智能發(fā)展初始階段就制定人工智能領(lǐng)域特別是示范場景下的具體數(shù)據(jù)使用和權(quán)益保護(hù)規(guī)范，制定具體的數(shù)據(jù)資源開發(fā)和權(quán)益保障實施細(xì)則。加強(qiáng)人工智能場景下個人信息特別是隱私權(quán)保護(hù)的執(zhí)行力度。在各類各項數(shù)據(jù)中，個人信息是更為重要的數(shù)據(jù)財產(chǎn)，其具有人格權(quán)的基本屬性，在法律法規(guī)保護(hù)位階上需要更加重視，落實對個人信息數(shù)據(jù)更為嚴(yán)格的管理。

AI法律主體及責(zé)任研究

人工智能的產(chǎn)業(yè)發(fā)展需要注重針對潛在危險的防范和控制，相關(guān)部門需要依法對人工智能應(yīng)用開展安全檢查和監(jiān)管，并依照法律法規(guī)的規(guī)定追究相應(yīng)主體的法律責(zé)任。《條例》設(shè)立“產(chǎn)業(yè)治理與安全”專章，在堅持總體國家安全觀的基礎(chǔ)上，統(tǒng)籌人工智能產(chǎn)業(yè)發(fā)展與安全，保障產(chǎn)業(yè)鏈、供應(yīng)鏈安全。《條例》第65條還明確規(guī)定，上海市人民政府及有關(guān)部門應(yīng)當(dāng)順應(yīng)人工智能快速迭代的特點，積極探索分級治理和沙盒監(jiān)管的新模式……

需要特別指出的是，在現(xiàn)有法律法規(guī)框架下，人工智能的法律主體和法律責(zé)任制度及其適用還存在一些爭議。在學(xué)理上，人工智能主體是否具有法律上的主體地位亦不存在定論，人工智能產(chǎn)業(yè)發(fā)展過程中的責(zé)任承擔(dān)主體和責(zé)任追究機(jī)制可以由各地探索在合理權(quán)限內(nèi)、因地制宜地加以制定。《條例》第67條規(guī)定了相關(guān)主體開展人工智能研發(fā)和應(yīng)用過程中禁止從事的事項，從側(cè)面可以推知《條例》本身不認(rèn)可人工智能在法律上的主體地位，人工智能產(chǎn)業(yè)造成損害后責(zé)任的承擔(dān)應(yīng)當(dāng)歸于從事人工智能研發(fā)和應(yīng)用的主體。在此前提下，人工智能的侵權(quán)責(zé)任分為人工智能本身的設(shè)計缺陷或者是管理人員自身的故意或者過失造成的損害。另外，倘若是第三人操控人工智能造成損害，則應(yīng)當(dāng)界定這一操控是否非法，即是否存在授權(quán)行為，以此確定最終責(zé)任承擔(dān)的主體。

當(dāng)然，由于人工智能產(chǎn)業(yè)仍然處于“摸著石頭過河”的探索階段，基于促進(jìn)發(fā)展與法治規(guī)范并行的指導(dǎo)原則，地方政府在執(zhí)行地方性法規(guī)和追究相關(guān)主體責(zé)任方面可以采取適當(dāng)寬容的態(tài)度，建立與實際情況相匹配的容錯機(jī)制。這是一種產(chǎn)業(yè)法治化治理的新路徑。除去高風(fēng)險領(lǐng)域設(shè)置嚴(yán)格的清單式管理和嚴(yán)格責(zé)任外，對于人工智能產(chǎn)業(yè)的發(fā)展應(yīng)當(dāng)在分級治理和沙盒監(jiān)管等制度上加大執(zhí)法力度，在確保相關(guān)主體權(quán)益和社會倫理的基礎(chǔ)上，最大程度激發(fā)市場主體活力，以促進(jìn)人工智能產(chǎn)業(yè)健康有序地創(chuàng)新發(fā)展。