無人智能產品的日常監管與融入生活

李竺袁，李廷元

（中國民用航空飛行學院 計算機學院，四川 廣漢 618307）

0 引言

自動控制、人工智能、計算視覺、導航、機器學習等技術的迅猛發展，促進了學術研究的進步，也促進了融合了這些技術的無人智能產品的發展。無人駕駛汽車、無人機、機器人等產品的相關創新型企業越來越多，銷售商、終端用戶也在增多，相關產業鏈正在逐漸形成，公眾的接受度也在提高，無人智能產品的數量和種類日益豐富，正在逐漸融入人們的生活。此外，這也是科幻思維、人類想象力可以恣意馳騁的地方，可能未來會有更多的科幻文學、電影，與學術界的哲學研究一道，共同探討著無人智能產品和人類共存的未來。然而，監管方式還不能適應這種變化，在保證原有系統安全運行與無人智能產品發展需要的平衡上遇到難題，如多次發生無人機干擾民航飛行安全的事件，使得無人機飛行受到了嚴苛的限制。本文對無人智能產品的日常監管與融入生活進行討論。

1 無人智能產品特性分析

本文所述無人智能產品，是指人工智能的實體產品，是具有一定智能的無人系統，如機器人、無人機、無人駕駛汽車、無人潛艇等，具有獨立完成任務的能力，已具有或者未來會具有根據環境靈活自主的完成任務的能力，其智能來源主要是人工智能，并結合了傳感器、信息處理與融合、計算等技術。

1.1 技術特性

其基本性能依賴于導航定位，電源容量；其智能表現依賴于算法、數據；從計算角度來說，有些問題是無法計算的[1]，也就是說，無人智能產品對有些任務是不可能完成的；帶來新的出錯方式：程序的特點決定了程序出錯是必然的，而一旦程序出錯，機器的行為就會出錯，而且出錯時其行為可能與人不同，無法確定是否會造成破壞及預測破壞程度。

1.2 爭論性

因其技術基礎人工智能的爭論性，無人智能產品也內在的帶有一定的爭論性，同時存在兩種不同的聲音。一種預計人工智能會掀起下一次的工業革命[2]，另一種擔憂未來強人工智能的發展會是人類的災難，這兩種觀點在科幻電影里得到了較為極致的表現。

1.2.1 巨大的潛力

代替人類完成危險、臟亂、枯燥（Dangerous,Dirty，Demeaning）的任務[3]；擴展人類的感知范圍；顯著提高生產效率，提升資源利用率；跨行業應用，打破行業壁壘；應用前景廣闊，未來發展的無限可能：提供更為豐富的信息，如無人機可用于為研究提供真實可靠數據、采集交通實時情況[4]；其巨大的技術潛力可為目前困擾人類的難題提供新的思路。

1.2.2 潛在弊端

生產方式的無人化，使得生產率大幅提高的同時對低端勞動力的需求大幅減少，而對高技術人才的需求漲幅相比較小，有可能造成失業；人們過度依賴智能產品，剝奪探索發現以及思考的樂趣、減少戶外運動時間；其智能程度是否會超越人類，甚至控制人類；人工智能又稱為“類腦智能”，其遠期目標是用自動機模仿人類的思維活動和智力功能[5]，研究人腦的結構和功能的過程中是否會有非法的、非人道主義的人腦實驗。

1.3 監管難題

觀測難題：無人智能產品類型多樣，如無人機，傳統探測方式無法準確觀測和追蹤；有些難以分辨是有人系統還是無人系統，如無人駕駛汽車；有些無管控的必要，如家政機器人、掃地機器人；有些是個人組裝產品，未加裝相應設備；管控難題：行業應用跨度大，而各行業的管理方式存在差異；人的因素，使用逃避管控的技術，如人為改變無人機 GPS信息實現“黑飛”；無人智能產品的通信、行為方式與人類不同，且無法為自己的行為負責，例如智能機器人、無人駕駛汽車和無人機，管控者無法像對待有人系統那樣中途干預指揮或正常攔截；嚴禁的可能：若對現有系統的安全造成干擾，會受到嚴苛的限制，如無人機擾航事件后，大面積的禁飛；若發生了或預測會發生嚴重違背人類倫理、道德或威脅社會安全的事件，會遭到世界各國的嚴禁，如非人道的腦部實驗。

1.4 結論

無人智能產品內在的爭議性，需要強有力的監管體系，以引導這個產業形成良好的運作模式和市場，有足夠多的有利于人類和自然的應用和公共服務事業，如應急救援，來形成可以盈利的模式，充分發揮市場經濟的作用。無人智能產品雖類型多樣，但其內在的共性使技術與管理上可以互為類比和借鑒。此外，人的因素不可忽視，監管同時需提供服務。

2 無人智能產品日常監管方式討論

就無人智能產品目前的智能程度看，還是將其可以看成一種工具或商品，而不是類人的智能體或生命。在此前提下，本部分討論了它的日常監管問題。

2.1 監管主體

監管主體是運營人還是智能機器，是制定相關法律規章首先要明確的問題。對于有人駕駛汽車、民航飛機，交通管理部門可以通過與駕駛員溝通，管控其在本地域的交通行為，管控對象是交通工具的交通行為，而責任主體是駕駛員。

對于無人智能產品，目前技術水平下監管者無法指揮它們，甚至無法與之進行基本的通信，它們“無辜的不聽指揮”；而且經歷了設計者、組裝者、銷售者、使用者，各方都有責任，責任主體也難以確定。監管難題也由此產生。而觀察目前生活中對無人智能產品的監管，似乎將智能產品本身作為了監管對象和責任承擔者，管控并不高效，各方權益無法保證。

本部分考慮類比有人系統，將智能產品的行業行為作為管控對象，而主要責任人是造成這種行業行為的運營人，相關責任人是設計銷售方。

2.2 監管目標

滿足現階段技術發展要求并考慮未來一段時間內發展的可能性；不會對原有系統造成不利影響，有助形成良好的市場氛圍；管理的同時需提供服務，如平時的數據支持、危險情況下的應急救援等；此外，需兼顧市場環境和人們的接受程度。

2.3 一種監管方法

根據前面所述的監管需求，總結運行現狀，提出一種“入鄉隨俗”融入的監管方式，或者說“日常托管，中心監控，中心緊急處理”，這種方法較現行的各個行業各自尋求解決方法的方式相比，從一個更為宏觀的視角總結歸納，看到智能產品不同行業的內在聯系，提出無人系統管理中心來提供日常服務，日常運行托管。

具體實現方式如下：建立無人系統管理中心，為各種無人智能產品的日常運行提供服務和技術支持，在原有各領域設立一個類似無人項目部的部門，來負責這個此領域的特殊成員的按照此行業規范的日常運行管理，記錄運行情況和問題，并與無人系統管理中心通信。這樣，無人智能產品的日常管理托管給各行業領域的無人部門，而運行數據作為反饋信息上傳至管理中心，管理中心負責日常進行監控和提供日常運行技術服務，特殊、緊急、突發情況時作為主要的技術支持提供方，協助相應的部門。系統架構如圖1所示：

圖1 無人智能產品管理系統架構圖Fig.1 Architecture diagram: the management system of unmaned smart products

由圖可以看出無人智能產品的應用跨越多個行業領域，可見智能技術打破了行業壁壘，尤其以無人機的應用最為明顯。另外，圖中很多“其他”，是因為這是一個新興的產業，很多應用形式還未確定或尚未產生，或者說未知大于已知，系統設計需具有包容性和前瞻性。

這是一個過渡期的方法，即在無人智能系統還未完善時，使無人智能產品在不影響原有行業運行的情況下投入實踐應用，通過應用中的反饋來不斷完善，最終目標是建立長期的完善的獨立的無人智能產品運行體系，因此在應用中不斷收集反饋信息、運行記錄、與無人系統管理中心有效的通信是非常重要的。這種方法的優點：符合相應的行業運行規范，減少智能產品的進入對相應行業造成未知的不利影響；運行可以參照相應領域原有的法規方式，減少工作量，可以使智能產品快速投入使用；符合人們認知，容易接受；可以針對無人智能產品的行業領域制定相應的管理規范。缺點：權責問題，是系統管理中心權限最高還是行業無人項目部，如何劃分權責也是個問題，何種權限的托管也需綜合考量；信息互通是否可行，如警務應用、商業應用，是否會有信息需保密或涉及隱私，跨行業應用，跨越行業壁壘的同時也面臨著問題和挑戰。

2.4 類比概念的應用

無人機的監管上，類比公路交通系統，建設低空中的“公路系統”，劃分車道、設置交通規則和交通信號燈。已有研究如：美國航空局開發的無人機交通管理系統（UTM）[6]；新加坡南洋理工大學的無人機管理系統，參考陸地交通系統，將天空劃分成一條條“車道”，并制定相應的交通規則，保證無人機相互之間的安全間隔[7]；我國中國科學院廖小罕團隊提出未來建設無人機低空路網的理念，提出基于地理信息的低空空域精細化分類和三維路網規劃構建是無人機低空飛行的關鍵，而且我國首個無人機公路已在規劃當中。

2.5 結論

無人智能產品的監管是跨行業的，現階段無人智能產品可以看成本領域傳統工具的輔助或替代，因此可以參照已有規范，但這并不是長期的。此外，由于技術核心的相似性，類比的方法可能提供新的解決思路。

3 無人智能產品融入生活

3.1 融入生活方式

人們生活中智能產品可以分為虛擬服務、傳統工具的替代品、傳統領域不曾有的新型產品幾大類，按照影響程度，總結出現階段無人智能產品融入生活順序，如圖2所示。

首先，虛擬產品逐步融入現有設備終端，在無形中提升智能水平，如智能輸入法、語言識別、面部識別、導航軟件、基于位置服務等將智能服務逐步融入人們日常生活，現階段已取得良好進展，普及度較高，人們逐漸接受智能服務帶來的便利。

圖2 融入生活順序示意圖Fig.2 Schematic drawing: the sequence of integrating into life

然后，是可視為傳統工具的替代或補充的智能產品，其中針對個人用戶的產品，如掃地機器人、智能家居，價格還較為昂貴，目前只有經濟條件非常好、且接受新事物快的家庭才可會使用。關乎公共資源的無人智能產品如無人駕駛汽車、無人機、無人超市等，在融入現有系統遇到了難題，一方面是公共資源有限，如公路資源、空域資源，滿足原有需求已日益困難，一時難以為新的產品提供資源；另一方面，還缺乏關于日常運行安全的證實，以及對突發情況和復雜情況的靈活、合理的反應的證實；此外，對無人超市等產品人們的接受度還不高。但在某些領域，作為輔助的智能產品已得到重要應用，如先進設備、圖像識別等智能技術對醫療的重要輔助。

最后，傳統領域不曾有的產品，甚至未來的強人工智能產品，留給未來無限想象，也許最先會從文學電影等領域逐漸走近生活。

3.2 人與智能產品的和諧關系

人們在享受智能技術帶來便利的同時，在日常生活中有過度依賴智能服務的趨勢。技術為人類過度服務，會使人類懶于勞動、思考、探索和發現，在科幻文學和電影里夸張地展現了這種擔憂；此外，也會造成資源浪費。

人與電子產品、網絡以及無人智能產品和諧相處的方式，應當是它們幫助人們更好的行使勞動、思考、探索和發現的權利，或者說，因為它們的幫助，勞動變得更快樂，人們更加熱愛勞動，思考、探索和發現變得更有樂趣、更加震撼，人們更加喜歡思考、探索和發現。相信這也是科技最初的信念，就如諾貝爾發明炸藥、愛迪生發明電燈的初衷。

3.3 未來的可能性

人與智能產品的合作可能會產生超人類的智能[8]，未來可能會出現人腦與計算機的結合。如人機結合技術將人腦移植到機器人身上或者將機器植入人的身上；谷歌公司專家雷-庫茲韋爾指出，2029年將出現人機完美結合的“超人”，人類大腦將逐漸與計算機系統融合，使人類變得更聰明[9]。此外，還有目前只存在于科幻文學和電影里的有意識和情感的智能機器人，引發了人們對技術未來的擔憂和科學探討。

4 結論

本文分析了無人智能產品的特性，提出了“日常托管，中心監控，中心緊急處理”的監管方式，討論了無人智能科技融入人們日常生活以及與之和諧相處的方式。其中，人的因素不可忽視，目前監管難題的重要原因就是掌握技術和產品的人不愿被監管，因此監管的同時需提供服務，以吸引被監管者；還需認識到市場的重要性，通過監管引導良好市場環境的形成。此外，有時候，真正值得恐慌的并不是技術，而是掌握技術的人以及日常中人們的處理方式。若意識到智能產品是用來幫助我們更好的勞動、思考、探索和發現的，則無論是未來的強人工智能，還是目前的弱人工智能，人們都能坦然的與之和諧相處。這是一場需要一代甚至幾代不同領域、不同行業、不同階層的人，花費十幾年或幾十年時間共同完成的技術革命。

[1] [美]約翰·麥考密克著，管策譯. 改變未來的九大算法[M].北京: 中信出版社, 2013: 230-233.John MacCormick. Translated by Guan Ce.Nine Algorithms that Changed the Future[M]. Beijing: China Citic Press, 2013:230-233. (in Chinese).

[2] 凱文·凱利. TED: AI將掀起第二次工業革命[Z]. 加拿大:阿爾伯塔省, 班夫鎮, 2016.Kevin Kelly. AI and the Second Industry Revolution. Banff,Alberta, Canada: Report at TED Summit, 2016.

[3] 魏瑞軒, 李學仁. 先進無人機系統及作戰運用[M]. 北京:國防工業出版社, 2014.Wei Ruixuan, Li Xueren. Advanced UAV system and operational application[M]. Beijing: National Defend Industry Press, 2014.

[4] 彭仲仁, 劉曉鋒等. 無人飛機在交通信息采集中的研究進展和展望[J]. 交通運輸工程學報. 2012: 12(6), P119-P126.Peng Zhongren, Liu Xiaoren, etc. Research progress and prospect of UAV application in transportation information collection[J]. Journal of Traffic and Transportation Engineering. 2012: 12(6), P119-P126.

[5] 蔡自興, 蒙祖強.人工智能基礎(第3版)[M]. 北京: 高等教育出版社, 2016: P3,P24.Cai Zixing, Meng Zuqiang.The Basics of Artificial Intelligence[M]. Beijing: Higher Education Publishing House,Third edition(2016): P3, P24.

[6] uavsnews, 畢小菊編. NASA無人機交通管理系統通過了第一階段測試[EB/OL]. http://www.pcpop.com/doc/1/1274/1274681.shtml.2015-12-07/2017-10-24.

[7] 環球科技. 新加坡研發無人機交通管理系統[EB/OL].http://tech.huanqiu.com/news/2016-12/9886455.html. 2016-12-30/2017-10-24.

[8] 戴汝為. 從基于邏輯的人工智能到社會智能的發展[J]. 自然雜志, 28(6), 311-314.Dai Ruwei. From Artificial Intelligence Based Logic to Science of Social Intelligence. Chinese Journal of Nature 28(6). P311-P314.

[9] 騰訊科技. 谷歌專家稱2029年將出現人機結合的“超人”[EB/OL]. http://tech.qq.com/a/20170318/008534.htm.2017-03-18/2017-10-24.