人工智能時代， AI安全防御“不容小覷”

姜海

加強人工智能安全防御需要從防止人工智能失控（AI Safety）、保證人工智能自身安全（AI Security）和將人工智能用于安全（AI for Security）推進。

創(chuàng)立丁牛科技的初心——俠客夢

每位網(wǎng)絡(luò)安全人心中都有一個俠客夢，希望執(zhí)劍闖江湖、行俠仗義。創(chuàng)業(yè)之初，我毅然選擇了安全行業(yè)。因為我相信，互聯(lián)網(wǎng)安全必將成為重中之重。我希望在浩瀚虛擬的世界中，手執(zhí)正義之劍，應(yīng)對惡意攻擊，為維護網(wǎng)絡(luò)空間清朗而戰(zhàn)。

起初，網(wǎng)絡(luò)攻擊只針對重點目標(biāo)的核心資產(chǎn)。但是，隨著IT技術(shù)和互聯(lián)網(wǎng)的發(fā)展，之前不受重視的用戶信息、消費行為等信息成為核心數(shù)據(jù)。而隱私數(shù)據(jù)的泄露不僅會打擾個人的日常生活，甚至?xí)斐删薮蟮慕?jīng)濟損失。在某酒店行業(yè)的用戶信息泄露事件中，犯罪分子利用泄露信息辦理了25張信用卡，對信息被泄露用戶的經(jīng)濟與名譽造成了極大損害。

我在網(wǎng)絡(luò)安全行業(yè)深耕二十年后決定創(chuàng)業(yè)，希望創(chuàng)立一家將人工智能技術(shù)應(yīng)用于安全領(lǐng)域的公司——丁牛科技。恰逢此時，AI技術(shù)已日漸成熟。將AI技術(shù)應(yīng)用于網(wǎng)絡(luò)安全，一方面，用機器取代人工節(jié)省人力;另一方面，利用人工智能不斷自我學(xué)習(xí)、迭代演進、識別網(wǎng)絡(luò)攻擊、達成有效防御，為客戶提供更高效、更經(jīng)濟、更穩(wěn)定的安全防護。丁牛科技以“AI賦能安全”為使命，致力于幫助企業(yè)降本增效，提供持續(xù)高效、省心可靠的安全防御。但是，人工智能安全產(chǎn)品的研發(fā)，并非一蹴而就。人工智能安全產(chǎn)品的研發(fā)之路，充滿了艱辛。但無論經(jīng)歷什么，丁牛科技人都不忘初心、砥礪前行。目前，已承接多個國家級科技創(chuàng)新網(wǎng)絡(luò)安全專項并為來自政府、公安、通信、交通及互聯(lián)網(wǎng)等行業(yè)客戶提供安全保障，獲得客戶的高度肯定。

隨著人工智能技術(shù)的廣泛應(yīng)用，其成果滲透到方方面面：智能手機、智能音箱、智能機器人……與此同時，這些人工智能行為體（以下簡稱“智能體”）的安全問題雖然受到重視，但安全事件仍頻發(fā)。可見，在人工智能迅猛發(fā)展的同時，安全隱患同樣不可忽視，必需加強人工智能自身的安全防御。

推進人工智能健康發(fā)展，需要三步安全加固方案

加強人工智能自身的安全防御，需要從防止人工智能失控、保證人工智能自身安全和將人工智能用于安全防御三個方面推進。丁牛科技正在研發(fā)的智馭系列安全產(chǎn)品就是將人工智能用于安全防御。

AI Safety——給人工智能帶上“保險箍”

人工智能需要載體，而載體可以在無人類干預(yù)時按照硬編碼方式自主產(chǎn)生動作。

AI Security——“安全投入+算法+樣本”都要重視

隨著物聯(lián)網(wǎng)技術(shù)的蓬勃發(fā)展，“智能家居”日漸普及應(yīng)用。但家用WIFI、路由器、機頂盒等IoT設(shè)備卻并不安全。因為IoT設(shè)備生產(chǎn)商為了方便部署和調(diào)試、降低成本，對這些設(shè)備設(shè)置了雷同的弱口令，為黑客的遠程攻擊和控制提供了便利。AI技術(shù)在算法方面無論如何嚴(yán)密，都可能存在錯誤。另外，人工智能主要依靠機器學(xué)習(xí)，需要大量的樣本。一旦樣本被污染，訓(xùn)練出來的模型將會產(chǎn)生偏差。因此，建議AI廠商首先要提高安全防范意識，加大安全投入。從產(chǎn)品設(shè)計開始就要進行安全投入，在頂層設(shè)計和成本投入方面均做好安全考慮。其次，在算法方面不僅要考慮安全問題，還要考慮在極端情況下容錯問題。最后，需要高度重視樣本的純凈性和準(zhǔn)確性，避免使用污染樣本。”

AI for security——丁牛科技就要將人工智能用于安全防御

目前，越來越多的安全廠商開始關(guān)注如何將人工智能用于安全防御。傳統(tǒng)的漏洞挖掘與利用，主要基于安全專家的人工分析。受限于安全人員的專業(yè)水平及經(jīng)驗，漏洞挖掘與利用方面尚存在耗時長、效率低、成本高等問題。

丁牛科技自主研發(fā)的人工智能自動化機器人，在去年舉辦的BCTF、“黃鶴杯”機器人網(wǎng)絡(luò)安全大賽等活動中嶄露頭角，都取得了不錯的成績。

同時，丁牛科技作為精準(zhǔn)智馭安全提供商，正在研制一款針對Web應(yīng)用攻擊的威脅檢測工具，希望監(jiān)測來自網(wǎng)絡(luò)內(nèi)外部的各類攻擊威脅，減少企業(yè)安全風(fēng)險。

人工智能是天使，也是魔鬼。因此，我們在沉溺于它帶來的便利的同時，安全防御不容忽視。