關于加快開展人工智能領域立法工作的建議

◎ 全國人大代表、湖北得偉君尚律師事務所首席執行合伙人 蔡學恩

一、加快人工智能領域立法的必要性

（一）人工智能技術的快速發展

2017年7月，國務院印發了《新一代人工智能發展規劃》（簡稱“規劃”），《規劃》指出，當下人工智能的發展進入了新的階段，人工智能也成為國際競爭的新焦點，人工智能將為經濟發展提供新引擎并為社會建設帶來新機遇。《規劃》同時還提出了三部走的戰略構想，并將最終目標確立為：2030年我國在人工智能理論、技術與應用總體達到世界領先水平，成為世界主要人工智能創新中心，人工智能核心產業規模超過1萬億元，帶動相關產業規模超過10萬億元。

截止目前，經過多年的持續積累，我國在人工智能領域及相關領域已取得重要進展，國際科技論文發表量和發明專利授權量已居世界第二，語音識別、視覺識別技術世界領先，自適應自主學習、直覺感知、綜合推理、混合智能和群體智能等初步具備跨越發展的能力，無人駕駛汽車已開始測試，商業化應用的步伐在不斷加快，同時中文信息處理、智能監控、生物特征識別、工業機器人、服務機器人逐步進入實際應用，人工智能創新創業日益活躍。

（二）歐美國家在人工智能領域的立法進展

在人工智能成為國際競爭焦點的背景下，歐美各國政府以及一些社會公共機構已開始積極關注人工智能的法律和倫理問題。

早在2015年1月，歐盟議會法律事務委員會（JURI）就決定成立一個工作小組，專門研究與機器人和人工智能發展相關的法律問題。2016年5月，法律事務委員會（JURI）發布《就機器人民事法律規則向歐盟委員會提出立法建議的報告草案》（Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics， 簡稱《報告草案》）； 2017年 2月 16日，歐盟議會通過了法律事務委員會（JURI)要求歐盟委員會就機器人和人工智能開展立法的提案。自此，推進人工智能法律和倫理研究，包括可能的立法和監管措施，未來將成為歐盟立法議程的一個核心。

2017年12月12日，美國國會提出兩黨法案——《人工智能未來法案》（FUTURE of Artificial Intelligence Act of 2017），這是美國提出的首個針對人工智能的第一個聯邦法案，該法案的核心內容是要求商務部設立聯邦人工智能發展與應用咨詢委員會，并要求該委員會應于該法案頒布后540天內向商務部和國會提交人工智能相關事項的研究報告，并對出臺人工智能相關立法或行政措施提出建議。

（三）國內人工智能立法的相對滯后

面對飛速發展的人工智能技術，相較于歐美日趨清晰明確的立法規劃，我國目前在人工智能立法方面則稍顯滯后，在人工智能行為倫理道德框架、人工智能應用相關的民事與刑事責任確認、隱私和產權保護、信息安全利用等問題上的研究均需要加強，自動駕駛、服務機器人、無人機等應用基礎較好的細分領域，由于產業實踐已走在前面，且行業發展日新月異，客觀上也需要加快制定相關安全管理法規，為新技術的快速應用奠定法律基礎。

二、人工智能領域立法的具體建議

（一）盡早成立國家層面的專門工作組，落實人工智能立法的預備和研究論證工作。

如前所述，人工智能領域發展快、問題新、涉及面廣，建立完善的一整套法律制度不可能一蹴而就，人工智能領域的立法研究工作不同于其他傳統行業，它不僅會涉及到傳統法律法規，更會涉及到倫理道德層面，因此，我們應在國家層面成立專門的人工智能立法工作組，召集行業專家、法學專家和社會學專家對人工智能領域的新問題、新挑戰進行集中研究論證，既要保障國家安全，也要促進行業發展，同時應盡量避免嚴重社會倫理沖突，只有這樣我國才能在人工智能這一領域與歐美國家開展競爭，如果在配套制度上僅是等等看的亦步亦趨，則將難以實現《規則》制定的戰略目標。

（二）重點研究人工智能倫理準則在內的頂層制度設計問題

倫理問題是人工智能亟待解決的最為核心的問題，人工智能算法的核心原則需要法律和倫理的介入，惟其如此，人工智能才能不脫離人類為其預定的發展軌道。在人工智能倫理準則問題上，已經有 70多年的“機器人三原則”雖然仍有指導意義，但顯然需要再進一步的進行發展。例如歐盟法律事務委員會在其《報告草案》中，就提出了所謂的“機器人憲章”（Charter on Robotics）。這一憲章針對人工智能科研人員和研究倫理委員會（REC），提出了在機器人設計和研發階段需要遵守的基本倫理原則。對機器人科研人員而言，諸如人類利益、不作惡、正義、基本權利、警惕性、包容性、可責性、安全性、可逆性、隱私等都是需要認真對待的事項。

人工智能是技術推動的行業，但在其算法的原點上，即人工智能的頂層設計上法律和倫理不應缺失，而且這是產業良性長遠發展的根本，應當優先解決。

（三）立法應促進培育人工智能發展和創新的有利環境，不宜過早對人工智能領域進行全行業的過度法律干預

雖然人工智能領域立法活動需要加速開展，但就目前而言，我們更需要人工智能發展和創新的有利環境，考慮到行業的發展，以及人工智能領域的復雜性和專業性對產業政策及相關立法提出的更高要求，人工智能領域立法必須綜合考慮公眾、社會團體、產業界、政府機構等可能受人工智能影響的群體的利益關切，謹慎出臺規制措施，避免過度干預，從而體現信息時代對監管的專業性、謙抑性要求，在培育創新的同時確保技術不會危及社會安全，避免公權力過早介入而對技術及產業發展造成阻礙。

（四）適時對無人駕駛、無人機等人工智能具體應用領域出臺統一性的法律法規或政策

在無人駕駛、無人機等已經商業化或將要商業化的人工智能具體應用領域，建議應當著手準備出臺統一性的法律法規或政策，尤其是無人駕駛，其面臨的新問題多，與現有法律規則難以協調的地方也多，雖然目前北京、上海、深圳等地都在各自出臺一些臨時性的應對政策，但這只是應急之策，國家層面應盡快開展研究準備工作，適時出臺統一法規。

三、總結

人工智能行業是國家未來10年的戰略發展行業，不僅僅關系到我們國家經濟的長久發展，也關系到我們國家的長治久安。作為新技術的典型代表的人工智能，它同時也是一把雙刃劍，它在極大地提高了我們的工作效率和服務質量的同時，也在對我們傳統的法律制度甚至是倫理道德觀念提出了嚴峻的考驗，由于技術快速迭代，法律和監管的滯后現象進一步凸顯，人工智能某些領域已走入法律的無人區，甚至還出現了挑戰我們傳統倫理的現象，技術的發展和制度、倫理的沖突愈加劇烈，因此，加快人工智能相關行業的立法研究，制定符合我國基本國情的法律法規是當務之急。