人工智能帶來的安全新挑戰(zhàn)與應(yīng)對新做法

當(dāng)前，基于人工智能技術(shù)的網(wǎng)絡(luò)攻擊日益多樣化，應(yīng)該如何防范人工智能技術(shù)濫用帶來的安全風(fēng)險？這其中需要從各方面入手更加全面的認(rèn)識這一問題。

從產(chǎn)業(yè)角度來看，近年來人工智能帶來五個方面的安全新挑戰(zhàn)：

人工智能基礎(chǔ)技術(shù)帶來的安全風(fēng)險。機(jī)器學(xué)習(xí)復(fù)雜程度愈發(fā)超出人類理解和控制，帶來不可控性；底層開源框架往往存在安全漏洞；并且人工智能的理論基礎(chǔ)也存在不確定性。

人工智能應(yīng)用技術(shù)帶來的安全風(fēng)險。這包括應(yīng)用技術(shù)本身存在的缺陷；訓(xùn)練數(shù)據(jù)可導(dǎo)致人工智能生成偏差；如果攻擊者使用惡意的對抗樣本進(jìn)行“投毒攻擊”，將導(dǎo)致人工智能的根本性錯誤。

人工智能技術(shù)濫用帶來的安全風(fēng)險。近年來基于人工智能技術(shù)的網(wǎng)絡(luò)攻擊日益多樣化，特別是利用人工智能開展的攻擊和隱蔽研究漸成體系尤其值得警惕。

中國電子信息產(chǎn)業(yè)發(fā)展研究院副總工程師 安暉

人工智能軍備競賽帶來的安全風(fēng)險。目前各國紛紛加強(qiáng)安全領(lǐng)域的人工智能戰(zhàn)略布局，甚至逐步向軍事領(lǐng)域擴(kuò)散。

數(shù)據(jù)和隱私泄露增大擴(kuò)大安全風(fēng)險。人工智能發(fā)展將使得敏感數(shù)據(jù)泄露風(fēng)險增加，例如在人臉檢測和智能醫(yī)療領(lǐng)域表現(xiàn)尤為突出。

為應(yīng)對人工智能技術(shù)帶來的安全新問題，除了傳統(tǒng)方案外，現(xiàn)在也出現(xiàn)了一些新做法：

以人工智能防范人工智能安全。目前人工智能逐步成為應(yīng)對安全挑戰(zhàn)的新方案，特別在提高分析效率和提升威脅檢測效果方面成果顯著。

應(yīng)用反人工智能防范安全風(fēng)險。近年來出現(xiàn)的諸如生成對抗網(wǎng)絡(luò)（GANs）等反人工智能技術(shù)給網(wǎng)絡(luò)安全帶來新的方向。

加強(qiáng)人工智能領(lǐng)域的法律治理。如今世界各國也正在加強(qiáng)人工智能領(lǐng)域的法律法規(guī)研究與發(fā)布，提高智能算法透明化和可責(zé)性，用法律法規(guī)保障人工智能技術(shù)的合理利用。

人工智能導(dǎo)致安全問題的根源是什么？值得人們思考。人工智能技術(shù)本身具有雙面性，技術(shù)濫用與技術(shù)競爭導(dǎo)致了這一問題的不斷惡化。

安暉表示，今后應(yīng)對人工智能安全要從五個方面做出研究，一是加強(qiáng)人工智能技術(shù)安全研究；二是制定人工智能的安全標(biāo)準(zhǔn)；三是完善人工智能的法律治理；四是加強(qiáng)研究系統(tǒng)性的反人工智能的發(fā)展的應(yīng)用；五是要秉持開放的狀態(tài)加強(qiáng)合作，不要搞人工智能軍備競賽。