防范人工智能風(fēng)險(xiǎn)

申崢崢　金學(xué)慧

眼下，不少地區(qū)布局人工智能領(lǐng)域，推動(dòng)新一代人工智能健康發(fā)展。人工智能正廣泛應(yīng)用于金融、醫(yī)療、交通、制造業(yè)等領(lǐng)域，成為推動(dòng)經(jīng)濟(jì)社會(huì)發(fā)展的重要引擎。不過，正如“硬幣的兩面”，人工智能在帶來高效便利的同時(shí)，也可能引發(fā)隱患和危機(jī)。對此，要增強(qiáng)風(fēng)險(xiǎn)防范意識(shí)，以富有前瞻性的有力舉措，管控好人工智能技術(shù)可能帶來的各類風(fēng)險(xiǎn)。

從目前情況看，人工智能可能引發(fā)的風(fēng)險(xiǎn)主要包括如下幾方面。從技術(shù)角度看，人工智能本身的技術(shù)邏輯及其應(yīng)用過程存在模糊性，可能引發(fā)數(shù)據(jù)、算法和模型風(fēng)險(xiǎn)。如果數(shù)據(jù)的數(shù)量或質(zhì)量出現(xiàn)問題，可能無法反映現(xiàn)實(shí)世界的真實(shí)情況；算法“黑箱”和不可解釋性問題，在容錯(cuò)率低的行業(yè)，甚至可能造成不可挽回的安全隱患；另外，模型完整性攻擊，又稱“對抗攻擊”，即干擾模型的學(xué)習(xí)和預(yù)測過程，可能誤導(dǎo)人工智能“指鹿為馬”。

從法律倫理道德層面看，人工智能的廣泛應(yīng)用可能衍生技術(shù)濫用、數(shù)據(jù)安全、隱私保護(hù)等方面的安全挑戰(zhàn)，給公民的信息安全、財(cái)產(chǎn)安全甚至生命安全造成威脅。例如，惡意運(yùn)用人工智能偽造虛假人臉，危害個(gè)人金融安全；在采集、使用和分析海量數(shù)據(jù)的過程中，發(fā)生隱私泄露、數(shù)據(jù)篡改、真假難辨等隱患；智能推送算法還引發(fā)了“信息繭房”、極化現(xiàn)象以及大數(shù)據(jù)“殺熟”現(xiàn)象；人工智能運(yùn)用到無人駕駛、醫(yī)療診斷等領(lǐng)域，可能引發(fā)權(quán)責(zé)邊界模糊問題；人工智能文本數(shù)據(jù)挖掘可能產(chǎn)生的知識(shí)產(chǎn)權(quán)爭議問題等，都是引發(fā)法律和倫理道德風(fēng)險(xiǎn)的典型案例。

人工智能所帶來的風(fēng)險(xiǎn)并非單一的、直線的，而是多種風(fēng)險(xiǎn)交織交融的。這就要求我們系統(tǒng)全面地認(rèn)識(shí)人工智能，提早開展人工智能風(fēng)險(xiǎn)治理。

一方面，要推動(dòng)技術(shù)進(jìn)步。針對人工智能的模型、算法、數(shù)據(jù)、隱私和應(yīng)用等風(fēng)險(xiǎn)和安全威脅，加強(qiáng)安全保護(hù)基礎(chǔ)理論研究和前沿安全技術(shù)研究，推動(dòng)關(guān)鍵技術(shù)應(yīng)用，構(gòu)建人工智能安全治理技術(shù)體系，是有效管控人工智能風(fēng)險(xiǎn)的關(guān)鍵。這是一個(gè)需要各個(gè)層面通力合作、集智攻關(guān)的長期工作。在社會(huì)層面，網(wǎng)絡(luò)安全龍頭企業(yè)可以牽頭組建創(chuàng)新聯(lián)合體，在開展理論研究和技術(shù)攻關(guān)的同時(shí)，加強(qiáng)數(shù)字安全人才培養(yǎng)，規(guī)范技術(shù)標(biāo)準(zhǔn)、測試標(biāo)準(zhǔn)和應(yīng)用規(guī)范，增進(jìn)數(shù)字安全的國內(nèi)外交流合作，以技術(shù)創(chuàng)新引領(lǐng)人工智能安全治理。

另一方面，還要不斷加強(qiáng)管理。不久前，我國《生成式人工智能服務(wù)管理暫行辦法》頒布施行，國家層面的人工智能法草案在提速，各種專門立法也在積極探索。我國正以高度負(fù)責(zé)任的態(tài)度參與全球人工智能治理，在貢獻(xiàn)中國智慧的同時(shí)搶占全球人工智能治理話語權(quán)。在實(shí)踐中，對發(fā)展中的問題應(yīng)及時(shí)回應(yīng)，充分發(fā)揮處于實(shí)踐前沿的企業(yè)、行業(yè)組織的作用。主管單位要與企業(yè)、行業(yè)組織、科研機(jī)構(gòu)以及公眾建立廣泛的合作和溝通機(jī)制，以有效引導(dǎo)企業(yè)和行業(yè)組織進(jìn)行自我監(jiān)管，發(fā)揮科研機(jī)構(gòu)協(xié)助監(jiān)督和識(shí)別潛在風(fēng)險(xiǎn)的作用，幫助公眾提升人工智能風(fēng)險(xiǎn)防范意識(shí)。