人工智能之于現行法律體系之風險與挑戰

何長春

摘 要：經過60余載的發展，人工智能已經成為人類生活中不可替代的一部分，改善了普通大眾的生活方式，方便了人們的生活。與此同時，人工智能的開發水平越來越高，具有獨立行為能力的趨勢越來越明顯，其對現行社會法則造成的影響越來越明顯，到底人工智能是為我們敲開一扇新世界大門的引路人還是撬開現行社會體系的強盜，還仍需我們去探討去管控。人工智能就如同未來時代的超強x因子，它的出現給人類社會帶來了機遇與挑戰，我們應該借鑒國外經驗，立足本土需要，抓住機遇，加快發展人工智能，同時進行風險應對，提高國家層面的立法活動對相關問題進行規制，使人工智能向利于人類進步，利于人們生活的方向發展。

關鍵詞：人工智能；機遇與挑戰；風險應對；立法活動

1 人工智能——智能時代的X因子

人工智能，一門新興的現代科學技術，在短暫的60余載取得了豐碩的成果，得到了全面的發展。人工智能也在從專業性較強的領域向全領域、全方位拓展，形成“萬物皆互聯，無處不計算”的大格局，在不斷發展過程中，為人類提供了便利，創造了巨大的財富。在傳統的工具只能解放人們雙手的基礎上，人類希望通過人工智能來解放人的大腦。也正因與此，人工智能被授予越來越大的自主權，將逐漸脫離人類的控制，隨之作為一類新型的社會群體存在，對傳統的社會體系和法律體系均產生了巨大的沖擊，其是否應當被授予“人”這一稱呼、是否應當被賦予人權、其對現行法律體系造成多大的沖擊等問題，政界與學界一直未給出明晰的答案。

歐盟委員會法律事務委員會首個發聲，于2016年5月31日提交一項動議，要求歐盟委員會把正在增長的最先進的自動化機器“工人”的身份定位為“電子人”，并賦予這些機器人依法享有著作權、勞動權等“特定的權利和義務”。美國白宮總統辦公室緊隨其后，于2016年10月發布了《為人工智能的未來做好準備》和《美國國家人工智能研究與發展策略規劃》兩份重要報告。與此同時，學界對于人工智能的思考也在持續發酵，2017年1月在加利福尼亞州召開的阿西洛馬Beneficial AI會議上，844名人工智能領域的專家學者聯名簽署了23條AI發展原則。我國國務院也于2017年7月20日印發了《關于新一代人工智能發展規劃的通知》，明確把人工智能這一新興技術放在國家戰略格局中，牢牢把握主動權，以應對人工智能技術快速發展所帶來的挑戰。

2 人工智能——敲開智能時代大門的引路人抑或是撬開現行法律體系大門的強盜

人工智能的快速發展，將各項科學技術從理論變為實踐。但任何東西都是具有兩面性的，人工智能技術也是如此。正如著名作家狄更斯在其著作《雙城記》中所說的：“這是最好的時代，也是最壞的時代”，這句話也完美闡釋了人工智能的現狀和未來。一方面，人工智能給我們的生活帶來了巨大的便利，給我們帶來了“職業道德更強”、“工作精度更優”以及“工作效率更高”的人工智能產品，但另一方面，隨著科學技術的發展，人工智能技術已經深度介入到社會生活的各個方面，甚至對原有的社會體系以及人類生活方式帶來了影響。

任何事物的產生都有其賴以生存的社會經濟條件，人工智能作為人類文明發展的新文明、新事物，有其存在的客觀基礎，人工智能在給我們帶來巨大利益的同時，必然會帶來一定的風險和挑戰。“智能時代，未來己來”[1]，人類已經來不及對人工智能發出驚嘆了，它已經如強盜一般撬開了現行法律體系的大門，我們轉而應做的是應對人工智能所帶來的風險與挑戰。

2.1安全問題

筆者認為人工智能帶來的首要問題是安全問題。2014年年底，BBC報道，著名的物理學家霍金表示：“人工智能的全面發展可能導致人類的滅絕。”雖然擔憂人工智能會終結人類還為時尚早，但不可否認的是許多年前針對人工智能的預言正在慢慢實現，誠如上文所說，人工智能最可怕之處在于其模擬人類思維的深度學習能力，美國學者瓦拉赫（WendellWallach）和艾倫（Colin Allen）認為，將來，人工智能系統必定會獨立于人類的監管，自主作出決定[2]。例如2016年5月發生在日本的一起美女機器人殺人案，據鄰居介紹，事發前一天晚上，男子房間發出一聲巨響，第二天，發現男子全身赤裸慘死在家中，美女機器人則不知所蹤。而新聞媒體披露出來的有關人工智能殺人的例子更是比比皆是，因此，研究人工智能的安全問題是極其必要的。德國著名社會科學家烏爾里希·貝克于1986年指出：“風險概念表明人們創造了一種文明，以便使自己的決定將會造成的不可預見的后果具備可預見性，從而控制不可控制的事情，通過有意采取的預防性行動及相應的制度化的措施戰勝種種副作用。”[3]人工智能作為人類創造的一類現代文明，從一出現就帶有現代性的風險，因此有必要對其采取風險防控措施進行規避，讓“隱身”的風險“現身”，在人工智能安全問題爆發之前做好充足的準備。

2.2倫理問題

正如歐盟委員會法律事務委員會給“自動機器人”定位為“電子人”所做的那樣，可能會有越來越多的國家和政府給予人工智能“人”的身份，進而可能會出現機器人結婚、人與機器人結婚等的情況出現，所以針對人工智能之于倫理的問題主要是要不要賦予其人這一稱呼、是否享有人權的問題。隨著人工智能技術的不斷進步，其類似人類獨立思考和深度學習能力也在逐漸增強，隨之而來的就是越來越大的主觀能動性，屆時人工智能可能超出“客體”的概念。在婚姻制度方面，出現機器人與機器人結婚甚至人與機器人結婚的情況，這將對原有的婚姻制度產生影響，對人類原有的認知產生沖擊。同時，人工智能將會自成一派，形成新的格局，打破人們原有對主客體定義的理解，打破原有的生產方式和社會體系，所以是否賦予人工智能“人”的稱呼是我們現在最難邁出的一步。

2.3人權問題

正如馬克思強調的那樣：“一切人，作為人來說，都有某些共同點，在這些共同點所能觸及的范圍內，他們是平等的。”[4]人工智能技術的發展使之前只是做算法驅動的機器人進入數據驅動階段，通過模擬人類思維的能力逐漸具有感知能力，并同時具有人的一些屬性，接下來人工智能向我們拋出的問題就是否應賦予其“人權”的問題。美國未來學家雷.庫茲韋爾曾作出預言，2045年是極具深刻性和分裂性的轉變時間，非生物智能即人工智能將在這一年以10億倍于今天所有人的智慧[5]。人工智能正在向著全領域、全方位拓展，做著許多人類沒做過或者沒做到的事情，為人類帶來了巨大的便利和財富，但與此同時也帶來了人權倫理這一根本問題。有反對者說如果我們讓人工智能擁有了所謂的“人權”，這就違背了“機器人三大法則”[6]， 就如同搬起石頭砸自己腳一樣，勢必會威脅到人類的主體地位。但也有贊成者說，隨著法律制度體系的完善，人工智能可以很好地遵守地球的“游戲規則”，擁有道德素養，和人類互通有無，此時則完全可以賦予其人權。

2.4人工智能著作權及侵權問題

人工智能現如今己具有獨立獲得新創意、作出新設計的能力，例如阿里AI推出的“魯班”人工智能在2017年“雙十一”期間設計出將近4億張宣傳海報，英邁思研究院推出的“云詞”、“天工”人工智能產品也都可以達到自主設計廣告條、海報的能力。隨著智能時代的到來，人工智能獨立自主作出的作品著作權怎么歸屬是我們應該思考的一個問題，但還沒有具體法案的出臺對其進行詳細規定，著作權問題仍較突出，亟待解決。

3 人工智能問題的風險與挑戰應對

人工智能在60余年間內飛速崛起，給我們帶來風險和挑戰，但我們要做的不是去消滅帶來風險的本源，而是應思考怎么去規避風險、怎么去迎接挑戰。面對智能時代的制度構成，應借鑒國外經驗，立足本土需要，以人工智能的技術發展與規制為主題，構建內外雙引導機制，形成包含法律規則、政策規定和倫理規范的社會治理體系。

3.1應對人工智能法律挑戰的內部機制

3.1.1構建人工智能倫理準則，確立“以人為本”的監管體系

人工智能在其發展過程中一直影響著我們的生活，倫理問題逐漸凸顯，給我們的生活帶來了很多負面影響，因此構建一套合理的人工智能倫理準則就顯得尤為必要。法律是對人的行為規范的最低要求，比法律層次要求更高的是倫理道德規范[7]，倫理準則可以在人工智能研究人員和使用人心中形成一道無法逾越的屏障，所有人都能在準則內使用人工智能技術，因此構建人工智能技術倫理規則是十分必要的。在構建倫理準則的同時也應當把人類利益、人權等人類共同的價值觀考慮進去，進而確立“以人為本”的監管體系。愛因斯坦曾經說過，人類的福利必須置于一切之上，科技是為人服務的，人類賦予了它生命，人工智能不能侵犯人類的利益以及主體地位，正如歐盟所做的那樣，在國家層面設立人工智能審查委員會，對人工智能的研發、設計、生產、使用等階段進行不間斷的監管，謹慎到每一個細節，確保人工智能產品符合人類的利益。

3.1.2限定人工智能的應用范圍，限制人工智能的自主權

從社會大眾的角度看，人們更多的只是想將人工智能當成一種工具，而不希望人工智能在整體上超過人類，而且人類發展人工智能的最終目標就是為了人類服務，所以無論再智能的工具，人類要限制其自主權，對其有絕對的控制權，可以允許其在一定領域有超過人類的能力，如無人偵察機、火星探測器等，但在控制權的問題上絕對不放手，比如人類應用于醫療、食用等日常領域，可以利用人工智能更科學地為人類制定飲食計劃以及醫療方案，可以極大地改善人類的生活水平，但如果失去對人工智能的控制權，可能會將人類自己的命運交到人工智能的手中，因此在限制人工智能的應用范圍的同時，還要限定其自主權。

總的來說，人工智能在未來是否會對人類帶來致命的威脅，其根源還是看人類能否解決人工智能的內部問題，即人類創造的人工智能是否安全的問題。要做到這一點，就勢必要在危機來臨之前制定嚴格的倫理準則體系，把握“以人為本”的原則，把人類利益放在首位，促使人工智能在正確的軌道上發展，同時，在人工智能設計研發層面，限制其應用范圍及自主權，掌握絕對的控制權，兩方面相輔相成，才能促進人工智能的健康發展。根據以往實踐來看，任何科學技術都有不確定性，內部解決機制必然重要也最有效。但解決科技產生的問題通常不能僅依靠科技本身[8]，所以，解決人工智能帶來的問題還需要制定相應的外部監管機制，內外結合，才能更大程度地解決人工智能帶來的挑戰。

3.2應對人工智能法律挑戰的外部機制

3.2.1成立安全監管機構，對人工智能產品進行全程監督

人工智能的發展帶來了許多安全問題，借鑒歐盟經驗，歐盟委員會法律事務委員會建議成立專門負責人工智能的監管機構，對技術、安全等問題提出專業知識。隨著智能時代的到來，人工智能產品的智能水平日益提高，對每個人工智能產品實施安全評估，全程監管是有必要的。從設計、研發到生產、使用等各個階段，均進行安全問題概率評估，具化到數量指標，并建立強大的數據庫，智能分析、綜合評價，用人工智能的方式去解決人工智能的問題，將事故發生的可能性降到最低。對人工智能的監管尤為重要，但也不要太過嚴格，而應秉著“鼓勵、支持為主，監管為輔”的原則，給予人工智能充足的預算，配備專業的技術人員，制定專業的監管機制，進行全方位的監管，以更好地抓住人工智能的發展機遇，迎接其帶來的挑戰。

3.2.2進行立法活動，規范引導人工智能發展

用法律手段調節社會關系，是最有力、最有效，也是最穩定的[9]。人工智能在60多年間飛速發展，但縱觀國際社會，沒有一部有關人工智能的成文法律，有也只是零星半點的提及。無規矩不成方圓，這急需各國共同努力，出臺相應政策和法律來規范引導人工智能技術的發展。

首先，重構歸責原則，強制保險機制和賠償基金。智能時代人工智能與人類傳統的工具最大的區別就是，人工智能具有一定的自主權，但也正因與此，人工智能將會給人類帶來傷害，機器人因機器故障、操作不當等原因殺人的例子比比皆是，但適用傳統的歸責原則很顯然己不適宜，具體怎么歸責的問題亟待我們重構原則。聯合國教科文組織《關于機器人倫理的初步草案報告》提出對人工智能的責任采取分擔解決途徑，凡是“觸碰”到人工智能的主體均承擔責任。這種依托于侵權責任法的構思思路，是迫使參與到人工智能研發、設計以及生產、使用的人員均履行安全防范義務，將侵權責任內部化，有一定的現實意義，但對于具有高度自主權的人工智能產品也適用責任分擔原則顯然是不合適的，這將極大打擊人工智能研發人員的積極性，不利于人工智能的發展。對此，可以借鑒歐盟法律事務委員會的做法，即對高級人工智能使用強制投保機制，如同汽車交強險一樣，由人工智能的所有者對其進行購買，以較小的經濟付出，獲得共擔風險的機會，大大減少經濟賠償糾紛。二是政府劃撥資金，設立賠償基金，對強制險未覆蓋的部分進行賠償，讓研發者、生產者、消費者等多方主體共同參與進來，形成完善的賠償體系。

其次，明確人工智能的著作權問題。針對人工智能著作權的問題，就看其是否為獨立完成，即是否具有獨創性。人工智能創造的作品有兩種類型，一是人類利用人工智能產品創造的作品，此時，人工智能只是人類的工具，毫無疑問，其著作權是歸屬于人類的。另一種就是人工智能不受人類意志干擾，獨立完成的作品。這種情況下就容易造成分歧，到底著作權歸屬于誰的問題，筆者認為，依據世界知識產權組織的解釋，作品必須是自身獨立創造的，不是從別處抄襲來的，因此，當人工智能能夠獨立完成開發、創造出新作品時，其作品應當享有著作權，但人工智能依然是人類的工具，其工具屬性也就決定了其有限的法律人格，人工智能不能像人一樣行使權利，因此應采用控制人理論來認定，即其著作權享有者應是人工智能背后的實際控制者。采用控制人理論解決人工智能著作權問題將大大提升開發者或者所有者的積極性，促進人工智能產業的發展。

4 結語

短短60余載，人工智能已經得到飛速發展，智能產品也從專業領域向全方位拓展，在給人類生活帶來巨大便利的同時，也給人類帶來了巨大的風險和挑戰，但人類從不懼怕挑戰，在歷史的長河中，面對問題，人類總是能攜起手來，巧妙地化解危險。我們有理由相信，智能時代是更好的時代，而人類也能以更好地社會形態迎接智能時代的到來。人工智能就如同未來時代的超強x因子，它的出現給人類社會帶來了機遇與挑戰，我們應該借鑒國外經驗，立足本土需要，抓住機遇，加快發展人工智能，同時進行風險應對，提高國家層面的立法活動對相關問題進行規制，進而使人工智能向利于人類進步，利于人們生活的方向發展。

[參考文獻]

[1]吳軍.智能時代[M].北京：中信出版社，2016.

[2]杜嚴勇.人工智能安全問題及其解決進路[J].哲學動態，2016 （9）：99-104.

[3]烏爾里希，貝克·威爾姆斯自由與資本主義[M].路國林，譯杭州：浙江人民出版社，2001.

[4]馬克思，恩格斯馬克思恩格斯全集[M].北京：人民出版社，2006.

[5]雷·庫茲韋爾.奇點臨近[M].李慶誠，董振，田源，譯北京：機械工業出版社.2011.

[6]陳 晉.人工智能技術發展的倫理困境研究[D].長春：吉林大學，2016.

[7]李俊平.人工智能技術的倫理問題及其對策研究[D].武漢：武漢理工大學，2013.

[8]唐小波.生命法學理論研討會綜述[J].中國法學，1997 （5）：124-126.

[9]曹建峰.10大建議看歐盟如何預測AI立法新趨勢[J].機器人產業，2017（2）：16-20.