人工智能風險的刑法思考

張子奕

［摘 要］在全球科技迅猛發展的新時代，人工智能的發展與應用普及是社會與時俱進的表現。智能設備與機器人為人類帶來了高效便捷的生活方式，同時也給社會增添了相應的風險。面對人工智能所涉及的社會風險，筆者認為應當完善刑法體系，增設對人工智能監督與管理的相關規定，在研發和利用方面加強刑法規制，及時普及防范人工智能的法律規定，提高人們的法律意識，從而降低人工智能的社會風險，維護社會的穩定發展，做到防患于未然。

［關鍵詞］人工智能；社會風險；刑法應對

［中圖分類號］DF6文獻標志碼：A

隨著科技的不斷發展，人工智能在社會生活中發揮著越來越重要的作用，逐漸走入大眾的視野。它可以增加人們生活的層次感，還能夠有效地輔助人們完成更多復雜的任務。例如，在醫療領域中，人工智能可以輔助醫生完成更加精密的手術任務，縮短病人的治療風險；在金融領域中，可以幫助金融機構更好地預測投資機會和風險；在法律領域中，可以為人工智能法庭的建設創造技術條件。總而言之，人工智能正在從方方面面滲透進我們的生活，并且深刻地改變著我們的生活。

1 人工智能的含義

1.1 人工智能的概念

人工智能是科學技術發展的產物，將計算機科學與機器模擬技術相結合，通過模擬人類的思維活動與實踐活動智能化地服務于社會。簡單來說，人工智能就是研究、開發用于模擬、延伸和擴展人的智能的理論、方法、技術及應用系統的一門新的技術科學，將人類的智慧通過計算的方式投入電子計算機，讓原本沒有意識的機器設備模仿人腦智能化。

1.2 人工智能的階段

人工智能根據發展的程度可分為三個階段。

第一，現階段我國科技正處于弱人工智能階段，只能達到單個方面的智能，它們在某一個領域很擅長，但是對這個領域之外的事物一無所知，同時其智能水平還比較低，發展尚不充分，在所擅長的領域也無法做到極致，只能進行一些常規操作，無法應對特殊情形。例如，會下棋的阿爾法狗與世界圍棋冠軍進行了轟動世界的圍棋大戰，并以四比一的成績完勝世界圍棋冠軍李世石，這代表著人工智能的進步與發展，但同時也可以意識到阿爾法狗作為人工智能雖然在圍棋方面戰勝了人類，但仍然只擅長一件事，在其他社會領域存在一定的局限性。

第二，強人工智能時代的人工智能在各個方面幾乎與人類齊平。人工智能的運算和推導過程漸漸趨向于人類的思維方式，無論是腦力勞動還是體力勞動，強人工智能都能勝任，可以獨自應對一些特殊情況，目前人類的智能發展水平還達不到強人工智能的要求。

第三，超人工智能時代指的是人工智能全方位趕超人類。在各個方面都比人類強大，在這種情況下，人類想要利用人工智能，就要穩妥地駕馭人工智能，在可控范圍內讓人工智能為人類服務，否則超人工智能時代可能就會成為人類的終結時代。

2 人工智能產生的風險以及刑法所面臨的現實挑戰

2.1 人工智能現階段的潛在風險

由于人工智能在社會生活中的廣泛應用，在給人們的日常生活提供便利的同時，也可能會帶來前所未有的隱患。人工智能的應用導致的不確定性使得社會產生了許多風險，這些社會風險引發了相關的法律問題。第一，信息犯罪越來越普遍。人工智能可以收集大數據信息進行工作，人工智能的發展使得社會數據信息保護機制變得尤為重要，由此不僅可能導致信息壟斷風險，還有可能出現泄露信息犯罪等刑事問題［1］。第二，隱私權的泄露風險。大數據下的人工智能使得信息收集無處不在，信息收集使得泄露隱私權的相關風險提高，因此，我國刑法應該加強對隱私權方面的保護。第三，智能機器人進入社會的犯罪后果如何承擔。由于人工智能與虛擬網絡的盛行，人們過度依賴人工智能，大量機器人作為社會工具應用到各個領域，在一些崗位不需要人的介入，這固然為社會提供了便利，但同時機器人犯罪也使人們開始思考誰來承擔人工智能犯罪的后果，人工智能能否成為犯罪主體，是否應該賦予人工智能法律人格。第四，自主權的喪失。人工智能通過日常搜索判斷我們想看且常看的信息，這被稱為過濾氣泡現象，這種現象固然可以幫我們在節省時間的基礎上獲取有效信息，然而過濾氣泡現象會導致我們接收到的信息越來越單一化，會使我們的信息越來越閉塞，不利于社會的長遠發展。同時，我們也應當思考，大數據通過日常搜索排除與其不相關的信息是否屬于侵犯我們的個人權利，大數據是否有權過濾我們的閱讀信息。

2.2 人工智能未來發展的危害性難以預測

無論是人類利用人工智能犯罪或者未來人工智能擁有自主意識犯罪，其犯罪的復雜程度和危害性都將是難以預測的。例如，現階段的人臉識別智能技術尚不完善，如果人臉識別防盜技術投入社會使用，用于手機開鎖和家庭防盜門開鎖中，很有可能會發生手機重要信息泄露和入室盜竊等問題，在公司甚至會導致商業秘密的泄露。與傳統形式上的犯罪相比，人工智能犯罪所造成的社會危害是更加嚴重的［2］。傳統形式上的犯罪通常是一個犯罪主體或者多個犯罪主體借助傳統意義上的犯罪工具運用傳統的犯罪手段實施犯罪，其社會危害性是有限的；而利用人工智能進行犯罪，其作案的效率可能會更高，手段可能更便捷，犯罪的完成度整體提升，其所造成的后果也將更嚴重。人工智能精確的數據極大地排除了人類可能會犯的失誤，人工智能也不會受到情緒的影響，如果人類不加以預防和控制，未來人工智能犯罪所造成的危害將是不可預測的。

2.3 人工智能風險的刑罰理念

目前，人工智能在刑法中的主體地位尚不明確，人工智能是否可以成為刑事主體，是否可以被刑法所規制，這些問題不解決，人工智能的應用與發展就會給社會帶來不穩定的風險。試想一下，面對人工智能犯罪，法律無法確定人工智能是否適罰，不知如何懲戒，那么這一刑法漏洞就會被不法分子利用，大量人工智能犯罪出現，社會將陷入混亂之中。

時代的進步同時也需要刑罰理念的轉變，應當打破傳統的人類中心主義，重新定義人工智能的法律人格。自動駕駛是目前人工智能的重要應用領域，但是機器視覺并沒有人們想象中的那么可靠，調查顯示，僅僅通過貼紙就能讓機器視覺分辨不出“停車標志”。如果說人臉智能識別的破解是對人類財產權的威脅，那么自動駕駛技術則影響到了人類的生命健康權，自動駕駛技術的廣泛應用，推動了機動車的全面革新，一旦自動駕駛的機器識別出現差錯，那么很有可能造成非常嚴重的交通事故，對社會造成危害。同時，對于此項事故造成的危害，我們應當追究的犯罪主體該怎樣明確？是無人駕駛汽車的所有者，還是無人駕駛汽車的生產商和銷售商，抑或是無人駕駛汽車本車擁有獨立的犯罪主體資格。人工智能能否受到人類社會法律的管理將是未來刑法革新的重點方向，現階段我國刑法規定的犯罪主體只有自然人和單位，人工智能機器人不屬于犯罪主體，不適用于我國的犯罪刑罰，不能對其進行規制。隨著時代的進步和科技的發展，人工智能逐漸融入人們日常生活中的各個方面，其在社會中發揮的作用越來越突出，同時給社會帶來的隱患也漸漸凸顯出來，利用人工智能方式犯罪的案例層出不窮，目前刑法正在填補以人工智能為工具犯罪的漏洞。更值得我們思考的是，在不久的將來，人工智能發展到強人工智能階段，人工智能有能力自主犯罪時，對于其法律主體人格應如何定義。因此，應該轉變刑罰理念，承認人工智能的刑罰主體資格，完善我國司法體系。

3 人工智能風險的刑法應對

3.1 在刑法體系內設置命令禁區，杜絕刑事案件

在未來強人工智能時期的人工智能可以做到在聽取人類的命令下代替人類進行各種實踐活動。在這種情況下，為了防止人工智能被不法分子利用，被命令從事一些違法犯罪行為，我國法律可以設置一些命令禁區，例如，任何人不得下達可能危害到個人的生命健康、社會公共安全甚至國家利益等方面的命令，任何人不得要求人工智能在公共場合從事放火或其他投放危險物品行為，任何人不得要求人工智能傷害或殺害人類，等等。一旦有人向人工智能提出這些要求對社會或他人造成損害的，視為違反刑法相關規定。同時，為了防止人工智能在非人類授權下自主進行一些不當活動，刑法可以在人工智能的數據開發時期設置不可執行的命令禁區，以保證人工智能不會在失控的情況下危害社會，將人工智能可能產生刑事案件的風險降至最低［3］。

3.2 確立智能機器人的刑事責任主體地位

現階段人工智能可能在人類的故意操縱或者過失操縱下產生違法犯罪后果，犯罪主體是人工智能背后實施操縱的人，對于犯罪主體自然人定罪量刑即可。但是隨著未來科技推動人工智能發展，使其擁有自主意識，在強人工智能時代人工智能脫離了人類的操縱，通過自主行為實施犯罪時，其責任主體就不再是傳統意義上簡單的自然人和單位。

機器學習型的人工智能以大數據為基礎，按照設定的基礎規則從事活動，在這一過程中，學習和總結規律，形成自己對外在客觀事實及規律的認識，產生基礎大數據以外的思考，處理相關事物時，不再根據大數據下的代碼循規蹈矩，而是更加靈活地依據自身經驗和意識等自主支配活動。在此基礎上發展，互聯網大數據時代以后將會成為人工智能時代，為了防止人工智能機器人危害公共安全、擾亂市場秩序甚至侵犯他人權利，就需要明確人工智能刑事責任的主體地位。

人工智能成為犯罪主體的一個重要前提就是需要具備刑事責任能力，承擔刑事責任能力的基礎就是要擁有認識能力和控制能力。首先，人工智能通過高新技術研發，通過深度的自主學習可以生成獨立的思想意識。其次，人工智能具有機械裝置的外在實體，能夠從事一些自主的行為和活動，同時也就具備了控制能力，而且人工智能還有超強的儲存能力，這會使人工智能的認識能力和控制能力遠遠超過人類。所以，必須明確人工智能的刑事責任能力和刑事責任主體地位，從而對其進行合理有效的規制，以此對人工智能進行定罪處罰。

3.3 增設新罪，嚴密刑事法網

法律的完善應當緊隨時代的進步，人工智能的日益發展要求刑法嚴防人工智能的風險把控。根據人工智能的廣泛應用，增設相關罪名，防止人們利用人工智能尋找法律的漏洞從事犯罪活動。例如，由于生產或銷售劣質人工智能產品所導致的后果可能比生產銷售一般的偽劣產品所造成的后果要嚴重許多，甚至還可能危害到人的生命健康，所以可以將劣質人工智能作為一種特定的偽劣產品，在破壞社會主義市場經濟秩序罪中單獨定罪生產或銷售劣質人工智能罪。對于劣質的人工智能的定義，筆者認為有兩種。首先，人工智能產品制作過程中偷工減料，制作材料用量不足導致成品不符合國家規定標準的；其次，在人工智能產品制作過程中，制作材料以次充好，原材料本身質量就不合格的或者用二手人工智能產品在改造加工的基礎上制作生產的。人工智能產品的生產者、銷售者故意生產或者銷售以上兩類人工智能的，可以根據生產或銷售偽劣人工智能罪定罪量刑。

犯罪入刑也會提高相關人員的警惕，當人們在利用人工智能時，就會小心謹慎，降低濫用或者違法運用人工智能的概率；生產商在制作過程中就會嚴格把控人工智能的生產質量，爭取使流入市場的人工智能產品保質保量；銷售商在進貨時仔細檢驗貨物，在銷售時向購買者展示產品完好并告知相關權益。爭取在各個環節防控人工智能風險。

3.4 完善刑罰體系

目前我國刑法規定的刑罰有四種：財產刑、自由刑、資格刑和生命刑。這四種刑罰適用于自然人犯罪和單位犯罪的處罰，但是并不適用以人工智能為責任主體的犯罪。首先，人工智能并沒有私有財產，無法通過沒收財產和罰金兩種途徑實施處罰；其次，人工智能所擁有的自由也不同等于自然人的自由，人工智能的自由是在法律認可的范圍內以及其所有者允許的范圍內的自由，對于人工智能進行管制和拘役是毫無意義的；最后，具有學習型的人工智能在未來通過技術的發展與自主學習和總結的能力形成獨立的思想意識，但是人工智能不可能擁有政治權利，所以對于人工智能的處罰也不存在剝奪政治權利。對于刑罰體系的完善，可以針對人工智能增設刪除數據信息刑、格式化刑或者永久銷毀刑等。

3.5 加大刑法管制力度，實時監督

可以在刑法中明確規定人工智能出廠的質量標準與技術水平，不達標者禁止出廠，同時情節嚴重的應當明確規定其相關負責人承擔相應的刑事處罰。對于劣質的人工智能和超出刑法規定標準的人工智能（沒有設置命令禁區的人工智能），銷毀不合格的人工智能產品，對生產者及其負責人進行刑事處罰。規定人工智能的銷售主體，如果沒有國家批準的機構銷售人工智能，對其機構進行查封處理。確保在具體實踐活動中，有明確的法律條文貫穿人工智能的發展。完善相關司法解釋，必須在司法解釋中明確對人工智能的態度，為司法實踐提供依據，以便對于人工智能相關案件做出準確判決。

4 結語

科技社會高速發展至今，法律在時代的進步下一次又一次地完成了制度革新，面對人工智能逐漸進入社會生活，在社會生活中的地位與作用越來越突出，人工智能可能存在的刑事問題將是刑法所面臨的又一挑戰。面對當前人工智能可能存在的風險，筆者認為應將形式措施和實質措施相結合。充實刑法的內容，完善刑罰手段，加強制度層面監督，對于人工智能的研發和市場流通進行嚴格把控，保障人工智能產品質量，及時向公眾科普人工智能的相關法律知識，提升公民的自我保護意識和司法意識，最大限度地降低人工智能的風險，讓人工智能真正做到服務于民。

參考文獻

［1］彭文華. 人工智能的刑法規制［J］. 現代法學，2019，41（5）：135-151.

［2］舒易求. 人工智能的刑法學問題分析［J］. 環球市場，2020（7）：254.

［3］石經海，唐渠渠. 恐懼抑或不知：人工智能刑法規制爭議的數學考察［J］. 法治社會，2020（1）：82-90.