頂層設計：AI牽動全球法治高地排位戰

文/吳玄 圖/曉野

當前，人類社會已經由信息化、數字化步入了智能化時代。作為引領未來的戰略性技術，人工智能（AI）及產業的發展不僅影響著未來國家間的競爭，也正深深改變著人們的日常生活。

人工智能已成為數字經濟發展的新引擎

近年來，伴隨著高性能計算機、云計算、大數據、傳感器的普及以及計算成本的下降，人工智能技術已經步入第三次高速發展時期。人工智能正成為數字經濟的新引擎和國際競爭的新焦點。目前，世界主要發達國家均將人工智能產業發展作為提升國家競爭力、維護國家安全的重大戰略——

2016年，美國出臺了《國家人工智能研究與發展戰略規劃》，明確將下一代人工智能視為國家競爭的戰略高地。美國于2019年更新后的規劃正力圖進一步推動人工智能領域前沿技術研究，以確保其優勢地位。此外，2020年美國國會通過了《國家人工智能計劃法案》，要求在國家層面實施發展計劃，解決人工智能產業技術發展的相關問題。

2018年4月，歐盟委員會發布政策文件《歐盟人工智能》，提出了以基本權利保障為基礎的人工智能發展路線，努力確保歐洲在人工智能領域的國際競爭力。2020年歐盟出臺的《歐洲人工智能白皮書》明確提出，歐盟人工智能產業發展的目標是“成為全球可信賴人工智能的領導者”。

同樣，我國對人工智能領域關注已久。在國家層面，2015年國務院出臺的《中國制造2025》首次提出發展智能裝備、智能產品和生產智能化。2017年7月，國務院發布了《新一代人工智能發展規劃》，確定我國人工智能發展三步走的目標；同年10月，黨的十九大報告提出推動互聯網、大數據、人工智能和實體經濟的深度融合。隨后，國家各部委開始密集出臺人工智能相關政策。2019年9月，我國科技部印發了《國家新一代人工智能創新發展試驗區建設工作指引》：強調充分發揮地方主體作用，在體制機制、政策法規等方面先行先試，形成促進人工智能與經濟社會發展深度融合的新路徑；計劃至2023年，全國布局建設20個左右人工智能創新發展試驗區。據此，北京、上海、深圳、杭州等地相繼展開了新一代人工智能創新試驗區的建設工作。

據了解，上海在信息化與數字化方面具有扎實的基礎，在人工智能產業發展上起步較早。2017年11月，上海市人民政府辦公廳印發的《關于本市推動新一代人工智能發展的實施意見》中，提出了上海市人工智能的發展目標。隨后，上海市推出了系列政策文件，著力將上海打造成我國人工智能產業發展的高地——其中包括全國首個地方性的人工智能5年規劃、首個地方性人工智能標準體系、首個人工智能地方標準化技術委員會、首個算法創新行動計劃等。

2022年10月1日起正式實施的《上海市促進人工智能產業發展條例》（以下簡稱《條例》），是全國首部促進人工智能發展的省級地方性法規。《條例》不僅通過地方立法的方式將行之有效的創新舉措系統地固定下來，同時為上海市人工智能產業未來的發展提供了法治保障。

人工智能的發展離不開法律的規制

眾所周知，人工智能在推動人類社會高速發展的同時，因技術發展的不確定性等原因蘊含著諸多挑戰。當前人類已經步入了“風險社會”，科學技術一方面提高了人們感知和化解風險的能力；另一方面其自身也是風險的來源，兩者相互促進、彼此轉化。盡管人工智能代表著未來先進發展方向，但對技術的盲目屈從很可能引發社會系統性風險。如今，越來越多的專業人士開始關注人工智能可能給社會帶來的負面效應，如：技術和機器對人類的控制、個人對自身隱私與個人信息失去控制、算法黑箱及偏見引發的社會不信任等。

上海浦東張江人工智能島AI體驗中心展示的人工智能機器人：1.智能餐飲機器人2.全天候智能無人機3.達芬奇Xi手術系統

法律作為社會發展的壓艙石，在技術進步的過程中發揮了重要的指引作用。目前，人工智能創新發展的法律框架尚未成形，全球范圍內人工智能技術適用的基本規范和技術標準尚不成熟。規則制定的先機很可能轉化為影響全球人工智能產業布局和技術創新走向的推力。因此，相關規則也成為各國博弈的場域，如：歐盟于2021年4月發布《人工智能法》提案，提出規避化解人工智能風險，發展可信賴的人工智能技術，以引領人工智能規則的發展。

在此背景下，滬上《條例》的出臺，承載了為國家層面的制度設計積累經驗的先行先試功能。縱覽《條例》全文，不僅涉及人工智能科技創新、產業培育、應用場景建設和產業生態建設，還包括統籌人工智能產業發展與安全內容。筆者認為《條例》具有以下特點：

首先，堅持“以人為本、科技向善”為人工智能發展的基本原則。習近平總書記在2018年10月主持十九屆中央政治局第9次集體學習時強調：“要加強人工智能發展的潛在風險研判和防范，維護人民利益和國家安全，確保人工智能安全、可靠、可控。”2019年6月，二十國集團提出“G20人工智能原則”，將“以人為本、可信人工智能”列為人工智能技術發展的基本原則。《條例》延續了上述原則，明確在上海人工智能創新、應用及發展中尊重人的主體地位。

其次，創新監管模式，審慎包容人工智能的社會應用。簡單來說，人工智能是將物理世界數字化后進行演算預測。在此過程中，為了確保算法的準確性，需要不斷糾正偏差。這預示著百分百正確的理想型人工智能并不存在。有學者甚至提出應放棄設計無差錯的人工智能，轉而發展容錯機制強的人工智能。在人工智能創新監管中，對技術施以過于嚴苛的責任很可能適得其反。為此，《條例》首創“容錯機制”，提出就人工智能產業發展過程中的輕微違法行為等制定依法不予行政處罰清單，通過批評教育、指導約談等措施促進公民、法定代表人和其他組織依法合規開展生產經營活動，為人工智能產業的發展提供較為寬容的監管環境。

再次，以分級治理制度為保障，平衡人工智能應用的風險與創新。隨著人工智能技術的推廣和普及，其應用場景、影響范圍、風險大小都存在著很大區別。面對如此復雜、智能的情形，不能施以簡單的“一刀切”式監管，分級治理勢在必行。2020年歐盟的《人工智能白皮書》即提出對高風險人工智能系統的強制性監管要求。為此，《條例》予以吸納改進，建立了較為完善的分級治理體系。對于低風險、低致害的人工智能，采用事前披露和事后控制的常規治理模式，鼓勵先行先試，完善技術；對于高風險、高致害的人工智能，實施清單式管理，在開發和應用層面予以嚴格的監管并賦予較高的技術標準，確保人工智能的安全性。

4.康復機器人

5.AI選股、盯盤、SaaS量化交易平臺

實現人工智能產業的健康發展應將《條例》落在實處

借助上述措施，《條例》較好地平衡了人工智能創新發展與應用安全風險的關系。然而，徒法不足以自行，要將法律規定真正發揮作用，在實施中應當注意以下問題：

首先，強化人工智能倫理委員會的實質作用。人工智能創新應當服務于人民，遵循人類社會的基本準則。將抽象的倫理規則適用于復雜多元的人工智能應用場景中是人工智能法律規制的首要問題。在此，《條例》提出的人工智能倫理委員會或可以成為該問題的解決方案。在人工智能創新、應用和產業化全過程中，應當發揮人工智能倫理委員會的監督指導作用。在某些重大應用場景，針對高風險的人工智能，倫理委員會甚至應當具備一票否決權。

其次，注重與已有網絡安全與數據類法律法規的銜接。一般認為，人工智能是數據、算力和算法的技術集群。人工智能的發展離不開大數據的支撐，其創新和應用也涉及大量的數據與個人信息處理活動。人工智能是一個復雜的系統工程，其法律規制也應當借助法律法規體系來完成。一方面，應關注現行法律中關于數據安全和個人信息保護的規定，如《數據安全法》《上海市數據條例》；另一方面，應將現行法律中關于人工智能的規定與《條例》加以整合，如《個人信息保護法》。

最后，在人工智能責任分配中，應靈活運用不同部門法手段。《條例》雖然是產業促進法，但同時也包含了大量行政監管內容。人工智能產業發展中，既有平等民事主體之間的私法活動，也涉及國家權力機關的行政監管、行政執法活動。同一個人工智能創新，很可能同時符合“輕微違法行為”和民事侵權行為的構成要件。在此情形下，行政機關的“不予處罰”并不代表著侵權責任的免除。

綜上，人工智能產業應當堅持安全與發展并重。一方面，應給予人工智能產業創新必要的支持，提供有利的監管環境；另一方面，需要識別人工智能創新可能帶來的風險，對技術發展的方向加以引導，確保技術有益于人類社會的發展。