人工智能技術在安全領域的應用與風險

康 杰

1 概述

1.1 人工智能的安全問題

2017 年，一家來自美國的信息安全公司IOActive 測試了市面上10 余款機器人，并在這些機器人身上檢測出了近60 處安全漏洞。這家公司指出，網絡黑客可能利用這些漏洞發起攻擊，通過機器人搭載的麥克風和攝像頭竊取用戶的個人隱私，而在商用和軍用領域，這些漏洞很可能導致商業機密泄漏、國家安全受到影響。除了信息泄露的風險，黑客還可以通過后門，開展勒索性質的攻擊，對于工業機器人，可操縱其“罷工”并索要贖金，否則就會極大地影響工廠的生產進度，帶來無法估量的損失；對于家庭機器人，可將非法獲取到的視頻、音頻資料在網絡上售賣并謀取利益，或將資料收集整理，對家庭用戶進行勒索。由此可見，隨著機器人等人工智能硬件的發展和推廣，其安全問題不容忽視，“解鈴還須系鈴人”，人工智能技術本身在安全領域就有著非常重要的作用，而在未來，隨著人工智能安全愈發引起人們的重視，以計算機視覺、物聯網和大數據分析為代表的人工智能技術將在安全防衛領域大有可為。

1.2 人工智能的發展歷程

人工智能發展到今天，經歷了幾十年的歷程，其進步不是一帆風順，而是在曲折中前進，呈現階段性的高潮和低谷。1936 年，“人工智能之父”圖靈第一次提出了一種“能夠代人類、實現各種數學計算和邏輯推理的計算裝置”，這種概念機器就是“圖靈機”，這一理念被圖靈記錄在他的《計算機與智能》一書當中。1956 年，第一場專注于人工智能的研討會在在美國達特茅斯召開，這一事件被認為是人工智能學科的誕生，隨即便是十幾年的人工智能發展黃金期。但進入20 世紀70 年代，人工智能的發展第一次遇到了瓶頸，其發展的停滯、前途的渺茫導致各國政府和資本市場的資金投入大大減少，人工智能達到“胎死腹中”的邊緣。80 年代的到來使得人工智能的發展出現了轉機，此時出現了專家系統，即給計算機提供某一領域的知識和經驗，使其能夠依據這些知識和經驗推演出邏輯規則，從而在該領域解決問題或提供咨詢的程序。專家系統的出現，重新給人工智能灌注了新的血液。

進入21 世紀，在互聯網方興未艾、物聯網蓬勃發展的背景下，人工智能的發展更是有了源源不斷的推動力。深度學習和人工神經網絡研究領域突破性研究，使得人工智能的發展大有可期了。而智能機器人、智能家居的普及，讓人們看到了人工智能從實驗室研究走向造福大眾的曙光[1]。

2 人工智能在安全領域相關技術介紹

2.1 計算機視覺

2.1.1 圖像處理

圖像處理技術是指將質量較低的圖片，通過壓縮編碼、圖像增強、圖像變換等方式，處理成質量較高的圖片的手段，高質量圖片可以進一步通過計算機進行渲染、精修。圖像處理技術大多依賴于數學算法，目前，高級圖像處理算法可實現書畫作品修復、老照片色彩修復等功能[2]。

2.1.2 模式識別

模式識別是一種典型的計算機數學，其目的是產生能讓計算機“理解”的圖像數據，這就需要對圖像信息進行預處理。處理圖像的過程，就是利用模式識別算法，建立起圖像的數學模型，并識別出圖像的數據類型和特征值，產生可以供計算機識別出圖像特征的圖片信息。

2.2 物聯網

2.2.1 定義

互聯網自誕生以來，已經發展了幾十年，其誕生最初的愿景是將世界上的計算機用戶連接起來。近年來，物聯網的誕生，使得“連接”這一概念，從用戶層面發展到了物品層面。物聯網，其核心就是“物物相息”，終端設備之間通過一定的通信協議，采用無線通信技術，物品之間可以做到聯網，并通過信息交換和處理實現對物品的在線管理。

2.2.2 三大關鍵技術

傳感器、嵌入式系統和RFID 共同組成了物聯網的三大關鍵技術。傳感器的主要原理是將位置、溫度、長度等物理量轉化為模擬信號，再通過“數-模”轉換模塊將模擬信號轉換為數字信號進行輸出，實現物理量的測量和處理。RFID 標簽，即無線射頻識別技術，通常位于物聯網的終端物品上，可以代表物品的身份信息和物料信息，通過射頻識別技術來提高物品的識別效率，進而提高物流和管理效率。嵌入式系統是指完全內嵌在受控系統內部、為執行特定程序或任務而設計的計算機系統。其特點是尺寸小、成本低、可大批量生產，通常用來執行有預先設計和特定要求的任務，與互聯網的“軟件”概念不同，嵌入式系統通常被稱為“固件”。

2.3 大數據分析

2.3.1 大數據分析概述

大數據是指在一定時間范圍內，無法用常規軟件進行運算、分析和管理的數據集合。現如今，大數據的分析手段越來越受到業界和學術界的關注，其原因在于海量數據背后隱藏的潛在價值。隨之而來的是數據分析的研究成果層出不窮：大規模并行處理數據庫、分布式數據庫、云計算技術、數據挖掘技術、可拓展存儲技術等都是大數據分析領域的新興技術。而大數據分析在災區應急救援、醫療診斷、行業分析、股票市場等領域也有著廣泛的應用。

2.3.2 主要特點及難點

大數據的特點明顯，主要包括：體量龐大、采集存儲難度高、種類繁多、價值密度低、產生速度快等。由此產生的難點與挑戰，主要包括數據噪音多而帶來的數據質量下降，數據總量上升導致的質量下降等。

大數據分析在生產、生活中的應用價值正在不斷凸顯，而業界針對以上難點已經有所突破，相信大數據分析的未來值得期待[4]。

3 人工智能技術在安全領域的應用

本文中，關于人工智能技術在安全領域的應用，主要介紹計算機視覺在汽車輔助駕駛和智能安防領域的應用。

3.1 計算機視覺在行車駕駛的運用

計算機視覺可以降低汽車行駛時的安全隱患，主要應用場景為智能檢測系統。智能檢測系統通過傳感器監測車身與周圍車輛和物體之間的距離，以及車身的偏轉角度，并在監測到某項數據在“行車危險區間”內及時發出警報，提醒司機，甚至可在駕駛員來不及處理危險的時候，主動代替駕駛員緊急制動，或做出其他應急處理。智能檢測系統還可以監測駕駛員的駕駛狀態，若其發現駕駛員表現出某些異常行為，例如：監測到駕駛員頻繁地打呵欠，智能檢測系統就會判斷駕駛員存在疲勞駕駛。計算機視覺的強大功能，使其在行車駕駛安全中發揮重要作用[5]。

3.2 計算機視覺在智能安防方面的應用

目前，智能安防系統主要分為使用攝像頭的視頻監控系統，和紅外傳感報警系統。

攝像頭是智能監控管理系統的“眼睛”，可以將記錄的圖像以數據的形式傳輸給擁有強大計算能力的計算機，經過對圖像信息的分析處理，得出安防等級，進而判斷是否需要采取相關措施。隨著人臉識別技術的成熟，智能安防系統可增加“身份識別”功能，以小區安防為例，物業將業主的人臉信息匯總，當攝像頭監測到陌生的人臉出現在可疑地段時，就發出警報信號，但業主的人臉信息同樣存在泄露的風險。1984 年，第一棟智能大樓的誕生在歐美國家引發了一場“智能大樓狂潮”。近年來，在中國，隨著國民安全意識的提高，智能安防系統也被大規模應用于小區住宅的監控管理[6]。

4 人工智能技術在安全領域的風險及防范措施

4.1 物聯網安全

預計到2020 年，物聯網設備的數量將達到300億。然而，物聯網的普及帶來了嚴重的安全問題，其中針對物聯網系統的攻擊尤為致命。2016 年，針對攝像頭、路由器和打印機的Dos 攻擊在20 小時內迅速蔓延，最終導致30 萬人感染。此次攻擊影響了華為和思科等頂級供應商生產的物聯網設備。另一個重要問題是用戶隱私的泄露，家用電器附帶的攝像頭和傳感器可以監視用戶并泄露個人數據。面對物聯網安全隱患，主要有兩種解決途徑：身份驗證和隱私加密。建立身份認證模型可以提高物聯網設備的接入控制能力；而在數據傳輸過程中實現匿名化，可將用戶的敏感信息保護起來，防止數據泄露[7]。

4.2 大數據安全

大數據具有體量大、種類繁多、產生速度快等特點，而大數據存儲、傳輸、處理存在著極大的信息安全隱患。體量大致使安防工具難以針對關鍵節點進行有效防護，分布式存儲又增加了數據泄露的風險，因此，對大數據安全的研究已經成為了人工智能領域的重點關注問題。針對大數據安全的舉措，主要包括：完善基于大數據的網絡攻擊追蹤技術；增強大數據中心安全防護技術，同時完善云服務的網絡安全架構和安全測評體系；大數據存在分布式存儲、共享數據等特點，加大研發數據管理系統、數據融合技術和數據可視化技術。總之，確保數據安全性，是大數據分析廣泛應用的基礎[8]。

5 結論

人工智能歷經了幾十年的發展歷程，從高潮到低谷又到如今的蓬勃發展，其螺旋式上升的軌跡正式計算機科學誕生以來的發展縮影。近年來，計算機視覺、物聯網和大數據分析的成熟，使得人工智能在安全領域的價值愈發重要。計算機視覺主要包括圖像處理和模式識別技術，旨在將攝像頭賦予“智力”，在安全領域的應用價值主要包括安全駕駛和智能安防兩大領域。物聯網由傳感器網絡、嵌入式系統和RFID 標簽組成，身份驗證系統和隱私加密系統是而物聯網安全的有效解決途徑。大數據雖然價值密度較低，但仍是企業和國家信息安全的核心。