人工智能數(shù)據(jù)安全風(fēng)險(xiǎn)和有效治理措施

姜 濤

（海南政法職業(yè)學(xué)院，海南 海口 571100）

在線內(nèi)容安全、組織管理安全、系統(tǒng)安全都是網(wǎng)絡(luò)安全領(lǐng)域中易發(fā)生的安全問題。人工智能也屬于網(wǎng)絡(luò)安全領(lǐng)域，其安全風(fēng)險(xiǎn)也在逐漸凸顯，如：在線內(nèi)容安全相關(guān)的一些數(shù)據(jù)問題，這一安全問題直接影響了人工智能的可靠性和后期的使用效率，尤其是我國在進(jìn)入人工智能時(shí)期后，加大對(duì)人工智能數(shù)據(jù)安全風(fēng)險(xiǎn)的治理至關(guān)重要。

一、人工智能數(shù)據(jù)安全風(fēng)險(xiǎn)

（一）人工智能技術(shù)引發(fā)的數(shù)據(jù)安全風(fēng)險(xiǎn)

企業(yè)利用人工智能做出各項(xiàng)決策時(shí)，會(huì)受到訓(xùn)練數(shù)據(jù)污染問題的影響做出錯(cuò)誤的決策。數(shù)據(jù)投毒主要是對(duì)數(shù)據(jù)的完整性進(jìn)行破壞，通過在訓(xùn)練數(shù)據(jù)中加入惡意的樣本和偽裝數(shù)據(jù)樣本，使得訓(xùn)練的算法模型在做出各項(xiàng)決策時(shí)出現(xiàn)偏差。目前，很多人借助人工智能與實(shí)體經(jīng)濟(jì)融合的機(jī)會(huì)，紛紛在金融行業(yè)或者交通行業(yè)等行業(yè)中注入一些利于自己的偽造數(shù)據(jù)，這一行為屬于惡意注入的行為，通過在訓(xùn)練樣本環(huán)節(jié)中加入一些假的信息，造成安全問題的發(fā)生[1]。例如：機(jī)器人中投入訓(xùn)練數(shù)據(jù)的“劇毒”，導(dǎo)致機(jī)器人極易發(fā)表不當(dāng)?shù)难哉摶蛘吖粜暂^強(qiáng)的言論；智能汽車領(lǐng)域中投入訓(xùn)練數(shù)據(jù)劇毒，很容易造成嚴(yán)重的交通事故或者使得一些車輛出現(xiàn)違法的行為。主要是因?yàn)橐坏┲悄芟到y(tǒng)發(fā)生紊亂或者運(yùn)行出現(xiàn)錯(cuò)誤時(shí)，將會(huì)使運(yùn)行階段的數(shù)據(jù)發(fā)生異常，導(dǎo)致系統(tǒng)做出錯(cuò)誤的決策結(jié)果。例如：生物特征識(shí)別面對(duì)不同的場(chǎng)景時(shí)，對(duì)抗樣本攻擊就會(huì)發(fā)出欺騙的信號(hào)，對(duì)人工智能技術(shù)身份鑒別產(chǎn)生諸多的影響。在2019年，比利時(shí)魯汶大學(xué)為了躲避人工智能視頻監(jiān)控的系統(tǒng)的監(jiān)控，使用一張打印圖案就完成了操作；高清3D面具能夠進(jìn)行人臉的識(shí)別，給網(wǎng)絡(luò)支付帶來了不良的影響。另外，人工標(biāo)記數(shù)據(jù)的覆蓋面積不足、訓(xùn)練數(shù)據(jù)或者測(cè)試的數(shù)據(jù)發(fā)生同質(zhì)化的現(xiàn)象，將都會(huì)影響到人工智能的算法能力，智能系統(tǒng)也無法在這種情況下做出正確的決策。例如：某汽車在駕駛時(shí)會(huì)受到無法識(shí)別白色貨車的影響，容易發(fā)生交通事故。

開源學(xué)習(xí)框架主要集成了大量軟件包或者資源庫等，這些組件并沒有取得安全認(rèn)證或者接受測(cè)試的管理，其安全漏洞依然存在。例如：攻擊者就可以借助這些漏洞（Torch、Caffe）對(duì)人工智能系統(tǒng)數(shù)據(jù)中有價(jià)值信息進(jìn)行竊取和隨意的篡改。

（二）人工智能技術(shù)使用不當(dāng)或者惡意使用，導(dǎo)致數(shù)據(jù)風(fēng)險(xiǎn)加劇

第一，惡意使用人臉識(shí)別技術(shù)。人工智能系統(tǒng)在應(yīng)用時(shí)會(huì)對(duì)個(gè)人數(shù)據(jù)進(jìn)行過度的開采，進(jìn)而產(chǎn)生過度采集的風(fēng)險(xiǎn)。尤其是智能設(shè)備的出現(xiàn)，智能手環(huán)、智能音箱、智能醫(yī)療系統(tǒng)、識(shí)別系統(tǒng)等在逐步使用和普及下，人工智能系統(tǒng)會(huì)對(duì)個(gè)人的數(shù)據(jù)采集產(chǎn)生不利的影響，如：人臉、指紋或者基因、聲紋等都屬于個(gè)人的生物特征信息，這些都是永久不變的，當(dāng)出現(xiàn)這些信息發(fā)生泄露的情況時(shí)，公民的權(quán)益也會(huì)受到不良的影響[2]。例如：某人臉識(shí)別公司就曝出數(shù)據(jù)泄露的情況，該公司在2018—2019年，一年的時(shí)間里就泄露了250萬條個(gè)人的數(shù)據(jù)信息，這些數(shù)據(jù)信息中主要包括人臉識(shí)別的圖像或者身份證的信息等。

第二，數(shù)據(jù)深度偽造技術(shù)的發(fā)展也帶來了不良的影響，嚴(yán)重威脅著社會(huì)治安和國家安全。因此，深度偽造數(shù)據(jù)內(nèi)容如果大量的傳播和生成，其很容易造成生物特征識(shí)別技術(shù)可信度下降，這也屬于網(wǎng)絡(luò)攻擊的范疇。尤其是換臉換聲技術(shù)在不斷地進(jìn)步和發(fā)展后，很多偽造的圖片或者音頻等不斷出現(xiàn)，有不法分子將這些偽造的信息用于勒索或者偽造證件等[3]。例如：2019年首例出現(xiàn)的電信詐騙案，其主要是基于變聲技術(shù)，威脅了被害人的財(cái)產(chǎn)安全。

第三，語音識(shí)別技術(shù)也存在著諸多的安全問題。之前所發(fā)生的詐騙案，很多犯罪的分子都是運(yùn)用一些假冒的身份以博取受害者的信任，這一手段相對(duì)落后，對(duì)于一些警惕性較高的人員而言，不會(huì)發(fā)生受騙的情況。現(xiàn)階段，犯罪分子們借助智能語音技術(shù)，通過運(yùn)用語音合成的系統(tǒng)，對(duì)特定對(duì)象的聲音進(jìn)行模仿，這樣做的目的就是能夠達(dá)到難以辨認(rèn)真假，進(jìn)而讓受害者陷入謎團(tuán)。

二、人工智能數(shù)據(jù)安全風(fēng)險(xiǎn)的有效治理對(duì)策

（一）制定發(fā)展與安全并行的治理理念

為了能夠解決數(shù)據(jù)偏見或數(shù)據(jù)權(quán)屬的問題，我國需要不斷豐富人工智能數(shù)據(jù)資源的建設(shè)，在發(fā)展中對(duì)安全問題提出解決對(duì)策。在構(gòu)建適合我國國情的數(shù)據(jù)流通共享機(jī)制后，能夠?qū)?shù)據(jù)交易市場(chǎng)進(jìn)行培訓(xùn)和不斷規(guī)范，在積極地對(duì)數(shù)據(jù)進(jìn)行交換后，能夠提供更多有價(jià)值的數(shù)據(jù)資源。同時(shí)，加大對(duì)人工智能數(shù)據(jù)的安全治理力度。首先深度對(duì)人工智能應(yīng)用場(chǎng)景下的一些技術(shù)進(jìn)行研究，提升安全防護(hù)技術(shù)的有效性，從而使得人工智能技術(shù)能夠更好地應(yīng)用到數(shù)據(jù)安全治理和網(wǎng)絡(luò)攻防的對(duì)抗之中，幫助個(gè)人能夠及時(shí)和提前對(duì)數(shù)據(jù)安全風(fēng)險(xiǎn)進(jìn)行感知和預(yù)防，降低數(shù)據(jù)智能竊取行為的出現(xiàn)。

（二）制定人工智能數(shù)據(jù)安全法律法規(guī)

人工智能領(lǐng)域中所出現(xiàn)的安全風(fēng)險(xiǎn)問題需要引起人們的關(guān)注，在制定相關(guān)立法進(jìn)行監(jiān)督后，國家方面需要明確好不同主體在使用人工智能階段所享受到權(quán)利或者最終所要承擔(dān)的責(zé)任，例如：數(shù)據(jù)安全問責(zé)制，救濟(jì)的制度等。并且針對(duì)一些出現(xiàn)數(shù)據(jù)過度采集或者數(shù)據(jù)發(fā)生偏見、資源惡意使用、深度偽造信息等情況，如何運(yùn)用法律法規(guī)等進(jìn)行治理，例如：針對(duì)一些惡意使用數(shù)據(jù)、盜取數(shù)據(jù)的人員給予嚴(yán)厲的懲罰[4]。另外，針對(duì)安全問題建立部門規(guī)章制度。不同領(lǐng)域所出現(xiàn)的安全風(fēng)險(xiǎn)問題較為突出，通過采用不同領(lǐng)域的不同人工智能算法，以對(duì)出現(xiàn)的安全風(fēng)險(xiǎn)問題進(jìn)行解決。

（三）人工智能數(shù)據(jù)安全問題進(jìn)行監(jiān)管

首先，針對(duì)人工智能數(shù)據(jù)的安全問題需要加大監(jiān)督的力度和做出合理的懲罰。依據(jù)國家法律法規(guī)等，對(duì)于數(shù)據(jù)過度采集或者數(shù)據(jù)資源的濫用等行為開展有效的監(jiān)督和檢查，采用線上和線下共同監(jiān)督的方式；采用社會(huì)公眾監(jiān)督或者技術(shù)手段監(jiān)督的方式及早發(fā)現(xiàn)這些不良的行為（網(wǎng)絡(luò)攻擊或者數(shù)據(jù)深度仿造），以加大懲罰力度。其次，對(duì)人工智能數(shù)據(jù)安全檢測(cè)行為進(jìn)行有效評(píng)估。針對(duì)一些人工智能產(chǎn)品，需要依托第三方的機(jī)構(gòu)和信息安全檢測(cè)評(píng)估的平臺(tái)，制定數(shù)據(jù)安全檢測(cè)評(píng)估方法，在測(cè)試和驗(yàn)證后使人工智能產(chǎn)品的安全性更高，并具有較高的成熟度，進(jìn)而使得人工智能數(shù)據(jù)安全風(fēng)險(xiǎn)得到有效低。最后，建立人工智能數(shù)據(jù)安全監(jiān)管的工作體系，及時(shí)對(duì)出現(xiàn)的人工智能安全風(fēng)險(xiǎn)問題進(jìn)行監(jiān)控，在進(jìn)行全過程掃描后能夠有效識(shí)別出其風(fēng)險(xiǎn)、威脅和脆弱點(diǎn)，通過構(gòu)建風(fēng)險(xiǎn)數(shù)據(jù)庫，對(duì)人工智能技術(shù)的應(yīng)用和發(fā)展給予高度的重視，使得國家安全得到有效維護(hù)。

（四）合理應(yīng)用創(chuàng)新的人工智能數(shù)據(jù)安全技術(shù)

想要建立起人工智能數(shù)據(jù)安全保護(hù)的核心技術(shù)，首先就要開展理論學(xué)習(xí)和技術(shù)的研究工作，例如：在國家專項(xiàng)資金的支持下能夠在研究活動(dòng)中掌握人工智能數(shù)據(jù)安全風(fēng)險(xiǎn)機(jī)理和防御理論。同時(shí)，對(duì)自身存在技術(shù)，如：智能開源學(xué)習(xí)框架進(jìn)行不斷完善，在建立研發(fā)平臺(tái)后，能夠讓企業(yè)人員學(xué)習(xí)更多人工智能開源學(xué)習(xí)框架，并給予技術(shù)上的支撐。并且，還可以根據(jù)市場(chǎng)的優(yōu)勢(shì)，形成人工智能開源的產(chǎn)業(yè)鏈，建立以該平臺(tái)為主的生態(tài)圈。另外，我國還需要培養(yǎng)一批專業(yè)的數(shù)據(jù)安全技術(shù)研發(fā)人員和安全風(fēng)險(xiǎn)防控人員，在加大引進(jìn)和培養(yǎng)的力度下能夠?yàn)榻鉀Q安全風(fēng)險(xiǎn)問題提供人力上的支撐。

三、總結(jié)

人工智能在高速發(fā)展的同時(shí)也帶來了一些安全風(fēng)險(xiǎn)，及時(shí)對(duì)存在的安全問題進(jìn)行識(shí)別和解決，才能夠凸顯出人工智能在各領(lǐng)域應(yīng)用中的價(jià)值。由于人工智能數(shù)據(jù)風(fēng)險(xiǎn)存在復(fù)雜性和社會(huì)性等特征，我們?cè)谶M(jìn)行有效治理時(shí)可以通過法律手段、政府支持、建立制度、創(chuàng)新技術(shù)、加大行業(yè)規(guī)范和監(jiān)督力度等，建立有效治理體系，為人工智能的創(chuàng)新發(fā)展提供良好環(huán)境。