加強人工智能時代網絡風險的智能化防控

肖薇

快速發展的大數據、云計算、物聯網、人工智能等新技術、新產業給人們生活帶來便利，提高了人類福利，但同時也在悄悄地重塑社會規則跟生活方式。因此，必然會對現有法律體系帶來沖擊跟挑戰。

空間概念的延展。正在發生的信息革命不僅極大擴展了人在物理空間的活動能力和范圍，還創設出了一個無限延展的虛擬空間，使得人類可以實現即時連接的工作、娛樂、消費、社交、生活服務等。“物理—數字世界”“現實—虛擬生活”“物理—電子空間”的雙重架構得以形成，深刻改變了人們的生產、生活、行為方式和社會關系，給經濟發展、公共治理和社會秩序帶來新機遇和新挑戰。

人機共處的關系。智能化程度越來越高的甚至擬人化的機器開始逐漸走進人類的生活，人機之間不再是簡單的“人與工具”的關系，而是伴有智慧化的互動情境。盡管目前還處于弱人工智能階段，但在可見的未來，醫療機器人、陪伴機器人、導游機器人等角色會大量涌現，人機共處將成為生產生活關系的常態，這必然會引發關于主體身份、法律關系、責任體系等重大法律秩序的變革。

新價值衍生新權利。智能互聯的時代，以網絡為基礎、以數據為資源、以算法為核心的全新的經濟形態，呈爆發式增長。數據和信息成為重要的新型資產，形成了涵攝政治、經濟、文化與社會發展的數字化生態，塑造了以數據和算法為基礎的新型法權關系，實現對人類社會秩序的深度變革與重構。

在充分認識和擁抱科技對社會生產、生活帶來的結構性、革命性影響后，應立足人工智能時代的客觀要求，確立新型正義觀，架構新型權利義務關系，促進權益的平衡共享發展，推動法治轉型升級。

構建一體融合的法律體系。一方面按照現有法律理念和規則邏輯補充立法、擴展司法解釋，以盡量適用于人工智能網絡時代的新問題；另一方面充分尊重新興權利和法益訴求，探索建立專門法律體系和司法機構，內在地反映時代行為規律、社會發展趨勢和新型法律關系，共同促進科學技術與法治社會健康、有序發展。

促進執法司法的智能化發展。新時代的法律變革，要求執法司法方式進行與其相適應的轉型升級。當前我們也會通過技術手段開發一些自動化系統，但它們都是按照預先設計的程序進行簡單機械作業。隨著人工智能的飛速發展，基于數據和算法、反映智能互聯發展規律的智能化執法司法方式，會成為社會治理的一種變革趨勢。一是智能輔助，自主進行的圖像識別、身份識別、證據認定、資料檢索、瑕疵審查、流程監督等；二是智能服務，如智能化的大數據分析、政策咨詢服務、電子查詢系統等；三是智能執行，如智能化電子警察、完善的社會征信系統等。

探索設置風險防控的機制。物聯網、云計算、人工智能等一系列新技術除了帶來更具想象力的生活方式，也天生攜帶著神秘感和不明確性。除了人們普遍所擔心的被取代和被反控制，實際上還存在著一些更為現實的安全威脅——來自高度自動化操作和交錯龐雜的網絡連接的系統安全風險；來自算法歧視和算法黑箱的公平性風險；來自信息繭房、深度偽造制造的信息安全風險；來自數據收集、使用、跨境流動與隱私保護層面的風險。因此人工智能程序設計必須進行必要的事先審查，有效防止人工智能可能引發的異化影響，對于重要的高風險領域甚至提前實行法益保護。

防范文化價值的流失。互聯網和大數據數字化地解構了人們的生活交往方式，智能算法替代了人類的決策。如何在數字時代保持人性？蘋果公司CEO庫克在麻省理工學院的一次演講中說過：“我不擔心人工智能讓計算機像人類一樣思考問題，我更擔心的是人類像計算機那樣思考問題，摒棄同情心和價值觀，并且不計后果。”簡而言之，這意味著科技必須與價值觀相融合，才能給人類社會帶來積極的進展。因此我們需要通過法律和制度設計對數據使用、算法審計、權利義務和法律責任等作出合理安排，更好地促進人工智能時代的法律變革與轉型升級，塑造人類社會的美好未來。