人工智能引發(fā)的網(wǎng)絡(luò)威脅：安全領(lǐng)域的又一重大挑戰(zhàn)

Scot Finnie Charles

安全好比是一場軍備競賽。而人工智能的加入就像是戰(zhàn)爭從冷兵器戰(zhàn)斧跨越到了戰(zhàn)斧式巡航導(dǎo)彈。

一提到人工智能（AI）和安全問題，信息安全和IT部門就覺得這不過是一種藝術(shù)形式。畢竟，上世紀80年代以來，我們就一直聽說人工智能即將到來。很多供應(yīng)商已經(jīng)把人工智能和機器學(xué)習(xí)（ML）術(shù)語引入到他們的營銷用語中，看起來都差不多：他們賣的是未來，而不是現(xiàn)在。

但這其中可能孕育著真理的萌芽。但是，在撰寫本文之際，我們很難找到不相信人工智能會對信息安全產(chǎn)生深遠影響的專家。受訪的專家們只是在時間上有不同的意見。有的專家質(zhì)疑為什么我們還沒有見過網(wǎng)絡(luò)犯罪份子以強有力的方式操縱人工智能。還有專家則認為這更像是三到五年之后的事情。但無一例外的是，所有人都將其視為安全面臨的下一重大挑戰(zhàn)。

Tom Koulopoulos是Delphi集團主席，也是Wasabi技術(shù)公司的顧問，他評論說，展望未來三年，“我們將能看到人工智能用于自動實施高度個性化的攻擊，這些攻擊將行為數(shù)據(jù)和網(wǎng)絡(luò)交互模式結(jié)合起來用于精準地攻擊個體目標。”想想你現(xiàn)在收到的釣魚電子郵件，而幾年后會是什么樣子。他給出了一個人工智能推動的釣魚攻擊實例：“想象一下，釣魚攻擊會借用與你認識的人和你進行實際交互：‘嘿，很高興昨天在星巴克見到您！我知道您去年夏天去過克里特島旅游之后，還想再去地中海玩一次。您想不想看看我們公司的最新優(yōu)惠……”

是不是很恐怖？Koulopoulos警告說，“人工智能不但能從我們行為的數(shù)字模式中進行挖掘，還能從連接到物聯(lián)網(wǎng)（IoT）的越來越多的設(shè)備和應(yīng)用程序所產(chǎn)生的交互數(shù)據(jù)中進行挖掘，由此帶來了嚴重的威脅，而上面的例子只是其牛刀小試而已。”

自動攻擊與規(guī)避檢測

Ganesh Krishnan是Avid Secure公司的聯(lián)合創(chuàng)始人兼首席技術(shù)官，還曾是雅虎和Atlassian等公司的高級信息安全官，他舉了一個不同的例子：“更聰明的攻擊包括安裝惡意軟件，這些惡意軟件能了解它所運行的環(huán)境，知道怎樣躲避，避開檢測，并通過難以與正常行為區(qū)分的方式去竊取數(shù)據(jù)，從而擊敗檢測和監(jiān)控工具。”

Umesh Yerram是制藥公司AmerisourceBergen的首席數(shù)據(jù)保護官，他對此表示同意。他認為，“一旦人工智能技術(shù)得到了廣泛應(yīng)用，網(wǎng)絡(luò)犯罪份子將能夠發(fā)起新一輪非常老練的攻擊，這些攻擊可能會避開大部分傳統(tǒng)的安全檢測和監(jiān)控工具。”

然后就是規(guī)模問題。當今復(fù)雜的安全泄露事件通常不是自動進行的，攻擊者需要付出巨大的努力，而且非常老練才能實現(xiàn)入侵并竊取數(shù)據(jù)。但是人需要吃飯和睡覺，他們不能24小時工作。Domo公司的首席信息安全官兼可信和安全高級副總裁Niall Browne評論說：“快速前進到人工智能時代，我們正在研究智能的機器對機器攻擊，這類攻擊能夠一年365天24小時毫不停歇地運行。網(wǎng)絡(luò)犯罪人工智能系統(tǒng)每秒能做出數(shù)百萬個直覺性的決定，以確定滲透和攻破數(shù)據(jù)的最佳方式。”Browne補充說，令人恐懼的是，未來的非法人工智能系統(tǒng)“將不僅能攻擊一家公司，而且可以同時攻擊成百上千家企業(yè)。這是非常可怕的景象。”

接受我們采訪的大多數(shù)專家都不相信當人工智能察覺到自己被發(fā)現(xiàn)后，會去改變攻擊目標。然而，Browne預(yù)測，網(wǎng)絡(luò)攻擊的重點將從“簡單地竊取數(shù)據(jù)和關(guān)閉系統(tǒng)轉(zhuǎn)向更復(fù)雜的目標，包括操縱。”換句話說，通過改變系統(tǒng)、個人或者企業(yè)所看到的數(shù)據(jù)，從而誘使他們以某種方式去行事。Browne補充說，“人工智能可能被用來操縱股票價格，引起貨幣波動，擾亂核反應(yīng)堆測試結(jié)果，甚至影響選舉結(jié)果。”

展望未來三年，Radware公司的EMEA安全拓展專員Pascal Geenens說：“我可以想象，一些組織很好的或者民族國家的網(wǎng)絡(luò)犯罪集團使用人工智能來綜合生成和創(chuàng)建新的攻擊途徑。”他補充說，人工智能的整個領(lǐng)域都會參與進來。“以前，機器學(xué)習(xí)一直是自動攻擊所利用的主要領(lǐng)域，遺傳算法和強化學(xué)習(xí)等人工智能系統(tǒng)將被用于生成新的攻擊途徑，并系統(tǒng)性地去破壞各種系統(tǒng)——無論是云、物聯(lián)網(wǎng)還是工業(yè)物聯(lián)網(wǎng)/SCADA。當網(wǎng)絡(luò)犯罪分子把這些與自動化結(jié)合使用時，我們將遇到一個完全自動化的生態(tài)系統(tǒng)，它能隨著時間的推移而進行自我攻擊、破壞和改進，在規(guī)模和持久性上幾乎沒有限制。”這將是一個不斷進化的攻擊系統(tǒng)。

Geenens看到網(wǎng)絡(luò)罪犯分子改變了角色，從執(zhí)行真正的攻擊轉(zhuǎn)而成為人工智能自動黑客攻擊機器的維護者和開發(fā)者。機器將進行黑客攻擊;人將提高機器的效率。

給首席安全官和首席信息安全官的忠告

安全專家們都認為信息安全官們應(yīng)該以牙還牙，意味著人工智能至少在防御人工智能推動的攻擊方面同樣重要，人們相信它能擔起此重任。即便如此，很少有實例說明人工智能在這方面是如何發(fā)揮作用的。一些公司一直在密切關(guān)注這個問題。

安全領(lǐng)導(dǎo)們應(yīng)該做些什么準備呢？AmerisourceBergen公司的Yerram指出，“首席安全官和首席信息安全官們應(yīng)迅速采用基于人工智能的技術(shù)。我們遲早會看到基于人工智能的威脅。現(xiàn)在是時候讓首席安全官和首席信息安全官們領(lǐng)導(dǎo)邁向基于人工智能的安全控制，從而保護他們的企業(yè)。”

Geenens評論說：“整個過程將涉及自動檢測日益復(fù)雜和不斷能自適應(yīng)的新威脅。你無法阻止自己察覺不到的東西。”未來兩年內(nèi)可能出現(xiàn)人工智能增強威脅的新一波浪潮，最初的重點應(yīng)該是使用人工智能來確保檢測出基于人工智能的威脅。購買和/或開發(fā)這樣的系統(tǒng)應(yīng)是當務(wù)之急。

遲早，你的公司將被迫投資于人工智能技術(shù)，為的是防范基于人工智能的威脅。如果不是等到迫不得已時才去采取行動，那么情況會變得更好，因為使用人工智能不像打開黑匣子的開關(guān)那么簡單。這將需要時間和資金去研究和學(xué)習(xí)。Yerram指出，網(wǎng)絡(luò)安全專業(yè)人員應(yīng)提高他們的技能，努力研究人工智能。

Geenens則指出，“對于那些已經(jīng)經(jīng)歷了數(shù)字化轉(zhuǎn)型的環(huán)境，更可能成為自動攻擊和人工智能攻擊的目標，是非常容易受到攻擊的環(huán)境。”

在世界各地的企業(yè)中，人工智能將在幫助解決網(wǎng)絡(luò)安全專業(yè)人員短缺問題和網(wǎng)絡(luò)安全技能差距方面發(fā)揮關(guān)鍵作用。基于人工智能的技術(shù)和機器人過程自動化技術(shù)將幫助信息安全部門應(yīng)對較低級別的安全威脅（例如，勒索軟件、惡意軟件和加密貨幣挖礦等），從而使得高級網(wǎng)絡(luò)安全專業(yè)人員能夠集中精力去處理新型的復(fù)雜威脅。

密切注意源代碼漏洞，并確保云供應(yīng)商也是如此。Geenens知道有人使用深度學(xué)習(xí)（機器學(xué)習(xí)的子集）來發(fā)現(xiàn)新的代碼漏洞。他說：“運行開源軟件的云平臺將成為漏洞掃描的主要目標。封閉的源碼軟件也難以逃過自動攻擊。”

Koulopoulos建議我們應(yīng)該“為人類建立普遍的身份機制。在人工智能興起之際，最大的一種風(fēng)險就是無法分辨它和人類。如果沒有萬無一失的身份驗證機制，我們不可避免地會出現(xiàn)人工智能網(wǎng)絡(luò)犯罪漏洞。”

跌宕起伏

殘酷的事實是，沒有人能預(yù)測未來。有兩種觀點說明了對人工智能輔助威脅的極端反應(yīng)。

國際數(shù)據(jù)公司（IDC）全球安全產(chǎn)品研究總監(jiān)Chris Kissel表示：“好的企業(yè)擁有更多的員工，更好的計算能力，能更好地理解網(wǎng)絡(luò)和硬件，與內(nèi)容交付網(wǎng)絡(luò)和云主機也有著良好的關(guān)系……但是這種‘間諜與間諜的游戲永遠不會改變;改變的只是參與手段。”

Niall Browne則表示：“人類交互的許多方面現(xiàn)在都是依賴于技術(shù)。人工智能智慧的增長遠遠快于人類，它永遠不會睡覺，自然地進行自我保護，最可怕的是它沒有道德。一旦人工智能出現(xiàn)，它將擁有巨大的能力，但卻沒有道德約束。它可以很容易地使用我們的技術(shù)來破壞我們的現(xiàn)代生活結(jié)構(gòu)。”

要點——不管你是否相信剛讀到的所有預(yù)測，都不如以下這一點重要：注意自己的情緒。這些不同觀點的總體基調(diào)可以概括為“這是一個可怕的局面”。不要忽視它，更不要將它束之高閣。