法治助力人工智能“上海高地”建設

文/丁 賢

人工智能是習近平總書記要求上海“集中精銳力量、加快發展突破”的三大先導產業之一，是引領未來發展的戰略性技術，具有溢出帶動性很強的“頭雁”效應，也是新一輪科技革命和產業變革的重要驅動力量。9月22日，《上海市促進人工智能產業發展條例》（以下簡稱《條例》）經市十五屆人大常委會第四十四次會議表決通過，并于10月1日起施行。這是全國首部人工智能領域省級地方性法規，將為構建本市新一代人工智能產業體系、打造世界級產業集群、建設更具國際影響力的人工智能“上海高地”提供有力的法治保障。

《條例》共6章72條，根據本市人工智能產業發展特點和本市實際，立足于促進法的基本定位，注重創新性和引領性，充分發揮有效市場和有為政府的作用，既強調人工智能領域科技創新和產業發展，重點挖掘人工智能應用賦能潛力，又注重研究人工智能帶來的法律和倫理挑戰，力求讓智能時代的美好圖景在上海得到充分演繹和生動展現。

優化要素資源配置 夯實產業發展基礎

算力、算法和數據是新一代人工智能快速發展的三大要素，一直被業界認為是人工智能發展的三駕馬車。數據是人工智能發展的基礎，圖像識別、視頻監控等技術都需要龐大的數據支撐；算法是人工智能發展的框架，能夠極大地提高人工智能學習效率；算力是算法和數據的基礎設施，支撐著算法和數據。三大要素相互影響、缺一不可，推動人類社會從信息化邁入智能化。

算力、算法和數據這三大要素在《條例》立法過程中始終被高度關注。不少委員坦言，算力不足是很多研發機構和中小企業在現實中遇到的瓶頸問題，政府應當花大力氣布局公共算力資源。企業也直擊痛點，迫切希望地方立法促進算法模型開發和推廣，加快公共數據開放，降低企業開發成本。

《條例》緊緊圍繞算法、算力、數據謀篇布局，致力于三大要素融合促進，合理規劃和保障算力資源，推動建設公共算力基礎設施，加強算力資源科學調度，保障中小企業獲得普惠公共算力；積極推動算法創新行動，要求促進算法模型開發和推廣，加強對算法模型的保護?！稐l例》還聚焦人工智能領域獨特數據需求，將行業知識與數據深度融合，推動數據集建設，擴大面向人工智能產業的公共數據供給范圍；依托上海數據交易所，加強人工智能數據品牌建設，釋放數據紅利。

激發市場主體創新活力 全面提升創新策源能力

創新是人工智能的突出特點。多年來，上海著力構建從基礎理論到行業應用的人工智能創新體系，創新成果持續涌現。在取得顯著成效的同時，上海人工智能領域科技創新也面臨一些亟需研究和破解的瓶頸問題，例如市場主體創新動力仍顯不足、基礎研究較為薄弱、關鍵核心技術依賴國外、產學研“散而不強”等。

在立法調研中，市人大常委會組成人員與科研工作者面對面深入交流?？蒲泄ぷ髡呒娂娞岢?，“立法要鼓勵科技創新，給予市場主體充分的創新空間”“立法要明確人工智能領域哪些事可以做、哪些事不可以做”“希望采取更加積極的創新創業激勵政策”“立法要推動政府加大對基礎研究的投入”等?！稐l例》對此一一作出回應。

除法律、法規以及國家和本市相關規定明確禁止事項外，《條例》鼓勵市場主體積極創新，并要求經濟信息化部門探索建立人工智能科研、應用等領域負面清單，體現“法無禁止皆可為”的立法理念。

對于人工智能等處于探索發展階段尚未定型的新業態新模式，《條例》允許一定的制度探索和試錯空間，要求有關部門根據人工智能快速迭代的特點制定、修改或廢止相關的監管規則、標準，探索分級治理和沙盒監管，建立人工智能領域輕微違法行為依法不予行政處罰清單。

《條例》明確推動人工智能領域重大科學前沿問題的基礎理論研究和關鍵共性技術研發，加大對人工智能重大科技基礎設施、重大科研平臺和新型研發機構等支持力度，增強原始創新能力。

在人工智能領域，《條例》明確推進科技體制改革，賦予人工智能創新團隊和領軍人才更大技術路線決定權和經費使用權，探索賦予科研人員人工智能領域職務科技成果所有權或者長期使用權。

同時，《條例》明確建立有利于促進人工智能領域科技成果轉化的激勵機制，推動相關主體開展科技成果轉化合作，打通科技創新活動全過程的“最后一公里”。

加快核心產業培育 引領新賽道壯大新動能

數字經濟的發展加速人工智能全面產業化的到來，上海目前已構建較完備的人工智能產業生態，產業鏈覆蓋基礎層、技術層、應用層及各細分領域，形成智能芯片、智能傳感、計算機視覺、生物特征識別、智能機器人等細分優勢領域。

產業發展離不開產業環境的有力支撐及政策的持續浸潤，《條例》在制度設計上著力解決機制性瓶頸問題，鞏固產業鏈基礎優勢，發揮企業主體作用，為人工智能產業營造良好的發展環境。《條例》突出人工智能軟硬一體化生態建設，加強龍頭企業、創業企業培育，依托龍頭企業帶動產業鏈上下游協同發展，構建人工智能產業生態；通過加大資金支持、強化人才激勵與保障、加強知識產權保護等，積極營造加快人工智能產業發展的良好生態；注重發揮企業和行業組織在相關標準制定中的作用，推動使用“人工智能上海標準”的專門標識；突出重點方向，著力促進人工智能基礎硬件、關鍵軟件、智能產品等高質量發展。

推動場景應用賦能 融合經濟社會發展

在2022年世界人工智能大會上，燈塔工廠、無人船、AI下棋、手術機器人等諸多人工智能創新產品奪人眼球。應用場景是發揮人工智能技術應用賦能效應的落腳點，只有實現更廣泛的工業化、商業化應用落地，人工智能產業才能實現可持續發展。當前，在人工智能技術應用落地過程中，依然存在著“不會用、不想用、不能用、不敢用”的“四不”問題。

《條例》緊抓應用場景創新這一“牛鼻子”，深入傳統行業痛點，構建人工智能與實體經濟融合的新模式、新方法，推動人工智能賦能千行百業?！稐l例》明確經濟信息化部門組織制定并督促落實人工智能示范應用清單，在此基礎上深化人工智能在制造、金融、商務、物流等經濟領域的應用，促進智能經濟高端高效發展；深化人工智能在互聯網、教育、醫療、養老等生活領域的應用，服務市民高品質生活；深化人工智能在城市治理領域的應用，加強智能感知、智能中樞和智慧司法建設，提升城市整體運行和決策效率。

構建體系化治理框架 維護產業發展與安全

人工智能具有技術屬性和社會屬性高度融合的特征，在賦能發展的同時，也帶來了法律和倫理等方面的新挑戰。從AlphaGo擊敗人類圍棋世界冠軍，到人臉識別帶來隱私安全問題，再到特斯拉自動駕駛事故頻發問責難，以及虛擬人引發就業和職場焦慮，這些問題引起全社會密切關注。來自市人大常委會委員和社會各界的意見中，“科技倫理”“安全”“法律規范”“隱私保護”等關鍵詞頻頻出現。

美國、歐洲、日本等國家和地區已將人工智能治理列為國家重要戰略目標，遵循發展與倫理安全并重的基本原則。我國高度重視人工智能治理問題，習近平總書記在中共中央政治局第九次集體學習時強調，要加強人工智能相關法律、倫理、社會問題研究，建立健全保障人工智能健康發展的法律法規、制度體系、倫理道德。今年3月，中共中央辦公廳、國務院辦公廳印發《關于加強科技倫理治理的意見》，強調要加強人工智能等重點領域科技倫理治理工作。

《條例》堅持促進創新與防范風險相統一、制度規范與自我約束相結合，構建具有上海特色的人工智能體系化治理框架，營造良好的倫理和法治生態，保障人工智能產業發展安全可控：堅持總體國家安全觀，保障產業鏈供應鏈安全；要求政府及有關部門對高風險和中低風險人工智能產品和服務采取不同的治理模式；明確人工智能倫理專家委員會職責，發揮其在人工智能領域倫理規范方面的作用；規定相關主體開展人工智能研發和應用，應當遵守法律、法規規定，增強倫理意識，并不得從事相關禁止行為；最后，還注重對勞動者、老年人、殘疾人、婦女、未成年人等群體的保護。