黑客GPT來了

卡倫·雷諾 梅里爾·沃肯廷 喬治·韋斯特曼

過去幾年，網絡犯罪分子頻頻利用人工智能（AI）侵入公司系統、擾亂商業運營。像ChatGPT這種威力強大的新生成式AI工具也給企業領導者帶來了一系列新挑戰。

試想以下完全可能出現的情景：

● 黑客根據你們公司的營銷材料和過去曾經得到的網絡釣魚信息，利用ChatGPT生成一條針對性的魚叉式網絡釣魚*信息。哪怕是充分接受過電郵反詐培訓的人也難免會上當，因為它看起來與他們當初培訓時學習偵測的信息完全不同。

● AI機器人利用深度偽造技術，模仿老板的聲音給負責應付賬款的員工打電話。寒暄了幾句之后，“老板”要求該員工將數千美元轉入一個賬戶用以“支付發票”。員工知道這樣做不合規矩，但老板是有權要求破例的，對吧？

● 黑客利用AI給系統中的信息“投毒”，創建一個有價值的股票投資組合，然后搶在騙術被人發現之前套現。

● 有人用生成式AI偽造了某公司高管討論如何掩蓋財務虧空的一系列電郵，其內容令人信以為真。在社交媒體機器人大軍的推波助瀾下，這一“泄露”的信息被瘋狂傳播，導致公司股價暴跌，聲譽蒙受了無可挽回的損失。

深度偽造技術會在社交媒體造成災難性后果，或者重創企業IT系統。一直關注此類事件的人可能對上述情景有似曾相識之感。但這些新威脅的性質是不同的，且更加令人不寒而栗，因為其底層技術已變得“更智能”。

到目前為止，大多數攻擊使用的都是相對簡單的高容量法。請想象來自一大批網絡僵尸的威脅，它們數以百萬計，鍥而不舍卻沒頭沒腦，只有當其中一兩個碰巧找到防護屏障的薄弱環節時，它們的攻擊才會得逞。相比之下，最復雜的威脅（例如我們有時在媒體上獲知的重大盜竊和欺詐事件）是較低容量的精準攻擊，通常需要人類的實際介入才能成功。此類攻擊更像是飛檐走壁的竊賊，系統地研究建筑物的每個細節及其警報系統，直到設計出一種可以避開安保體系悄悄潛入的方法。它們又好比巧舌如簧的騙子，能夠憑空捏造一個背景故事，編織出以假亂真的謊言，甚至連聰明人也會上當受騙、乖乖給錢。

現在想象一下，那些僵尸變聰明了。在生成式AI的加持下，每個僵尸都變成了偷天大盜，能看穿你的安全系統是如何設計的，并創造出繞過它們的方法。或者，你也可以想象一個騙子使用生成式AI同你的一名員工接觸，贏得他的信任，然后誘騙他落入圈套。

AI驅動惡意軟件的新時代意味著，企業不能再簡單沿用過去的最佳實踐，哪怕在短短幾個月前，這套方法可能還是卓有成效的。落實穩妥的安全政策、安裝最頂級的防護和偵測技術工具、開展安全意識教育以確保員工了解安全規則——所有這些縱深防御策略都不足以應對新的挑戰。一個全新的時代已經拉開了序幕。

生成式AI能夠將文本、語音、圖形和視頻組合起來，在黑客攻擊領域開啟未知且不可知的創新。成功防御此類威脅尚不能實現自動化。你的公司需要從獲取工具和建立基于規則的方法，轉向制定能夠實時應對更高級別AI生成威脅的策略。為此，有必要采用更智能的技術，聘用更聰明的員工。

用生成式AI對付生成式AI

企業應該使用生成式AI增強自己的防御能力，同時依靠它來加快建設實時應對新威脅的能力。

首先，以企業的外圍防御體系為例。企業早已使用惡意軟件數據庫來偵測新威脅。供應商會不斷更新這些惡意軟件特征的數據庫，但并不會根據每家企業的獨特情況來量身定制。黑客們以前使用的是無差別的漏洞攻擊策略侵入公司系統。如今，他們將應用AI專門針對某家企業的漏洞實施攻擊。詐騙電郵會在合適的壓力點精準發力。它們的逼真度也會相當高，因為在新型網絡釣魚攻擊中，每條信息都是AI驅動語言使用公共信息為目標企業量身定制的。因此，哪怕是精明的員工，也很難在第一時間看穿騙局、對其不予理會。更有可能的是，他會因為看到大量具體細節而對郵件的真實性深信不疑。

OpenAI（ChatGPT的創造者）等公司正在推出GPTZero和ZeroGPT等工具，供企業檢測新生成的文本（在沒有可識別簽名的情況下）是不是由生成式AI生成的。企業可以將這些工具集成到郵件服務器中，從而提高攔截更高級別自動釣魚消息的可能性。這些工具應根據每家企業的不同需求量身定制，并通過頻繁微調來保持警覺，正如機靈的門衛需要隨時獲知最新的威脅。隨著時間的推移，安全工具供應商將逐漸采納這些技術，但與此同時，許多公司仍有可能遭遇黑客入侵，蒙受嚴重的財產和聲譽損失。因此，公司務必考慮盡快實施內部變革，而不是坐等市場上現成的解決方案升級。

其次，必須盡快提升實時偵測能力。許多公司依靠模式識別來抵御攻擊。但問題是，這些模式所包含的信息都來自已發生的攻擊。因此，為了抵擋由生成式AI驅動的攻擊，我們需要開啟一個“智能”防范的新時代。

生成式AI有可能提高企業的快速偵測能力，幫助它們發現員工或系統內部任意環節出現的行為或行動異常。員工的行為會通過他們登錄的系統、訪問的數據量以及電郵的對象反映出來，這些日常行為與他們的工作任務相符，因此基本上是可預測的。我們可以將這些看作他們的行為足跡。如果崗位職責照舊，足跡卻突然發生改變，也許就意味著情況有異，可能有黑客正試圖侵入系統，或者是有內鬼作亂。企業可以配套使用生成式AI與其他AI工具來確定損害的程度，或者排除系統被攻破的可能。以GPT-4為基礎構建的新擴展和第三方應用程序已經公布，所以基于AI的新安全工具問世也指日可待。

訓練人類應對更智能的攻擊

具有安全意識的人類行為，對于網絡安全仍然是至關重要的，但人類還是會繼續犯錯。許多旨在提高安全意識的宣傳活動，都介紹了現存的各種威脅，并提供一整套需要遵守的規則：不要點擊鏈接，務必使用強密碼，給所有的軟件打好補丁，等等。然而大量年度行業調查發現，員工仍是最薄弱的環節。比方說，有人掌握了充分的信息，或擅長精準地操縱情緒，呼叫中心的員工就很可能會中計。據估計，多達82%的系統入侵涉及人類行為。

在生成式AI的時代，組織需要改變安全意識的培訓方式，從制定政策來規范員工的行為，轉向用知識來武裝他們，使他們具備偵測新威脅的能力。也就是說，員工需要對黑客行為有足夠的了解，才能從規則遵守者轉變為主動防衛者。隨著生成式AI工具的誕生，傳統的信息安全政策不再有效，基于規則的方法也不再適用。

卡車司機若想確保安全，不能僅靠遵守交通法規，還要根據道路條件調整駕駛行為，例如雨天拉開車距，霧天減速慢行。同樣，員工必須應用情景知識來應對生成式AI帶來的網絡安全新挑戰。為此，企業不僅要對員工進行培訓，告訴他們哪些事應當做，哪些事不能做，還要幫助他們了解如何在一個極具挑戰性的新世界中保持安全。

企業需要改變既有策略，從以合規為基礎，轉向培養員工掌握新技能。培訓可能需要由講師提供現場或在線指導，向員工傳授超出傳統規則型政策領域的新知識。目前的一刀切式培訓是消極被動的，哪怕后續有測驗跟進也是這樣。在AI時代，企業必須培訓員工去適應真實的或潛在的情景，并就應對方式進行現場討論。

除了通過員工安全意識培訓來加強防御之外，企業還要遵循孫子的智慧——“守是攻之策”。要設想最糟糕的情景，想到不可想象之事，使用基于AI的模型來推測潛在的入侵載體或觸發因素，對其加以提防。一種策略是召集最優秀的IT人員甚至其他公司的專家組成一支特戰隊，以頭腦風暴的方式研究破壞分子可能會以怎樣的方式突破你的防御系統。然后，以此類事件為中心，想辦法提高公司的相關技術能力、增強員工的安全意識。一項調查發現，企業正在從傳統的紅隊/藍隊（攻/防）式網絡攻防演練，轉向更偏重于協作的“紫隊”模式，以加深對新型攻擊方法的了解，并認識到哪些措施行之有效，哪些徒勞無功。

防御AI驅動黑客攻擊的最佳措施，很可能是利用AI增強信息能力。這意味著你不僅要制定更加快速而強大的防御策略，而且要為技術和人員提供更加智能化的策略。靠加高圍欄無法打敗那些變聰明了的僵尸，但是你可以應用新的AI賦能工具來加固傳統防御體系，還可以重新思考你的傳統防御方法和基于規則的培訓。在黑客GPT的恐怖新世界里，你必須馬上行動起來，才能確保公司安全無虞。