軍控視閾探索智能大模型“正確打開(kāi)方式”

以大模型為代表的生成式人工智能技術(shù)不斷發(fā)展，展現(xiàn)出前所未有的戰(zhàn)爭(zhēng)應(yīng)用潛力。智能化時(shí)代，以大數(shù)據(jù)、巨模型和超算力為標(biāo)志的新型作戰(zhàn)能力建設(shè)，成為大國(guó)博弈和軍事競(jìng)爭(zhēng)的重要疆域，引發(fā)軍備控制領(lǐng)域技術(shù)發(fā)展前瞻應(yīng)對(duì)的新課題和新思考。

大模型是指具有大量參數(shù)和復(fù)雜結(jié)構(gòu)的機(jī)器學(xué)習(xí)模型，能夠處理海量數(shù)據(jù)，完成自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)、語(yǔ)音識(shí)別等各種復(fù)雜任務(wù)。大模型具有的強(qiáng)大泛化能力，能夠從原始訓(xùn)練數(shù)據(jù)中自動(dòng)學(xué)習(xí)并發(fā)現(xiàn)新的、更高層次的特征和模式，這種“涌現(xiàn)”能力對(duì)于快速突破專(zhuān)業(yè)準(zhǔn)入門(mén)檻、實(shí)現(xiàn)知識(shí)增值具有劃時(shí)代意義，也給突破大規(guī)模殺傷武器反擴(kuò)散約束體制帶來(lái)較大風(fēng)險(xiǎn)。

算力優(yōu)勢(shì)曾在核導(dǎo)技術(shù)研發(fā)中發(fā)揮重要作用。第二次世界大戰(zhàn)中，美國(guó)發(fā)現(xiàn)計(jì)算炮彈和導(dǎo)彈彈道太復(fù)雜，為此專(zhuān)門(mén)組建了一支計(jì)算機(jī)制造團(tuán)隊(duì)，研制出世界上第一款電子計(jì)算機(jī)ENIAC。以計(jì)算機(jī)為代表的新的計(jì)算方式的出現(xiàn)，極大加快了核武器研發(fā)和試驗(yàn)進(jìn)程，美國(guó)氫彈的模擬計(jì)算耗時(shí)從40小時(shí)縮短到了20秒，后來(lái)蘇聯(lián)、英國(guó)和中國(guó)在核武器研制速度也因算力突破而明顯加快。

在電視劇《功勛》中可以看到，無(wú)論是研制氫彈的于敏、還是研制核潛艇的黃旭華，都有在大型計(jì)算機(jī)房里沒(méi)日沒(méi)夜排隊(duì)計(jì)算數(shù)據(jù)的場(chǎng)景。當(dāng)時(shí)大型計(jì)算機(jī)運(yùn)算速度每秒一萬(wàn)次，而現(xiàn)在一部老款小米11手機(jī)上的驍龍888處理器，運(yùn)算速度就可以達(dá)到每秒26萬(wàn)億次。算力的指數(shù)級(jí)增長(zhǎng)帶來(lái)了武器系統(tǒng)的代際躍升，也深刻地影響了軍控領(lǐng)域的技術(shù)發(fā)展和理念更新。

今年2月，美國(guó)智庫(kù)詹姆斯·馬丁不擴(kuò)散研究中心發(fā)布報(bào)告，探討了大型語(yǔ)言模型助推化學(xué)、生物、放射性和核（CBRN）擴(kuò)散進(jìn)程的風(fēng)險(xiǎn)，指出大模型可以在研制過(guò)程頭腦風(fēng)暴、技術(shù)支持、生產(chǎn)仿真腳本和代碼編寫(xiě)、協(xié)助部件設(shè)計(jì)和高效聯(lián)創(chuàng)制造服務(wù)等五方面為核生化武器擴(kuò)散提供潛在幫助。而這種技術(shù)反向賦能作用一旦擴(kuò)散并應(yīng)用于致命性武器仿制研制，必將加速高端戰(zhàn)爭(zhēng)環(huán)境下的軍備競(jìng)賽，改變國(guó)際戰(zhàn)略力量對(duì)比，影響全球戰(zhàn)略穩(wěn)定，增加武裝沖突的風(fēng)險(xiǎn)。

人工智能技術(shù)快速迭代更新，不斷拓展延伸生產(chǎn)力發(fā)展的各個(gè)領(lǐng)域，構(gòu)建起具有超級(jí)算力、巨量數(shù)據(jù)、大型模型和泛在網(wǎng)絡(luò)支撐的新型戰(zhàn)略競(jìng)爭(zhēng)能力，新的力量控制體系必將深刻沖擊傳統(tǒng)國(guó)家安全和發(fā)展利益。如深度造假生成技術(shù)發(fā)展迅速，以假亂真的文字、圖像、聲音等可以“一鍵生成”，已在烏克蘭危機(jī)認(rèn)知對(duì)抗中嶄露頭角，成為大國(guó)競(jìng)爭(zhēng)的戰(zhàn)略性工具，給全球網(wǎng)絡(luò)和安全治理帶來(lái)新難題。美國(guó)歐亞集團(tuán)在其2023年全球風(fēng)險(xiǎn)評(píng)估報(bào)告中，將“生成式人工智能”稱(chēng)為“大規(guī)模擾亂性武器”。

掌握大模型研發(fā)能力的強(qiáng)國(guó)，可以依托其壟斷資源優(yōu)勢(shì)和技術(shù)支配地位，構(gòu)建發(fā)展壁壘形成非對(duì)稱(chēng)“卡脖子”優(yōu)勢(shì)。生成式人工智能核心技術(shù)和相關(guān)產(chǎn)業(yè)已被視為相關(guān)國(guó)家戰(zhàn)略競(jìng)爭(zhēng)重要資產(chǎn)，美國(guó)商務(wù)部今年5月就啟動(dòng)新的監(jiān)管措施，限制中國(guó)、俄羅斯、朝鮮、伊朗等國(guó)使用美國(guó)企業(yè)開(kāi)發(fā)的人工智能軟件，旨在與此前針對(duì)芯片的出口管制措施形成互補(bǔ)，實(shí)施對(duì)先進(jìn)大模型閉源限制，為人工智能模型技術(shù)擴(kuò)散應(yīng)用設(shè)置防護(hù)欄。

技術(shù)發(fā)展與應(yīng)用都有雙刃效應(yīng)，AI算法雖異軍突起，但也存在內(nèi)部機(jī)制不可控、數(shù)據(jù)投毒風(fēng)險(xiǎn)大等短板，仍離不開(kāi)“人工+智能”的運(yùn)行模式。核大國(guó)為保證核反擊速度，通常建立了基于預(yù)警的發(fā)射聯(lián)動(dòng)體制，連接整合所有作戰(zhàn)領(lǐng)域的傳感器和通信系統(tǒng)，將核常系統(tǒng)融為一體，大大提升戰(zhàn)略指揮控制系統(tǒng)的自主性。如果將人工智能引入戰(zhàn)略指揮預(yù)警控制系統(tǒng)，會(huì)給戰(zhàn)略安全與穩(wěn)定帶來(lái)新隱患，給傳統(tǒng)戰(zhàn)略安全穩(wěn)定和常規(guī)軍控態(tài)勢(shì)帶來(lái)新的不確定因素。

應(yīng)對(duì)數(shù)據(jù)安全風(fēng)險(xiǎn)挑戰(zhàn)也已成為各國(guó)共識(shí)。對(duì)于涉及國(guó)家安全重要事件、涉及軍事敏感信息以及關(guān)鍵核心產(chǎn)業(yè)、科研高校學(xué)情、語(yǔ)言文化心理和公共衛(wèi)生環(huán)境等方面的數(shù)據(jù)具備重要標(biāo)簽價(jià)值，是大模型武器化部署應(yīng)用必備的學(xué)習(xí)訓(xùn)練樣本，應(yīng)納入國(guó)家信息安全范疇加強(qiáng)防護(hù)。中國(guó)2023年發(fā)起《全球數(shù)據(jù)安全倡議》，呼吁各國(guó)采取措施防范制止利用信息技術(shù)破壞或竊取他國(guó)關(guān)鍵基礎(chǔ)設(shè)施重要數(shù)據(jù)、侵害個(gè)人信息，反對(duì)濫用信息技術(shù)從事針對(duì)他國(guó)進(jìn)行數(shù)據(jù)竊取，為維護(hù)全球數(shù)據(jù)安全所作出的莊嚴(yán)承諾。

人工智能不同于核武器，各國(guó)應(yīng)在這一領(lǐng)域加強(qiáng)合作，避免其無(wú)限制發(fā)展引發(fā)災(zāi)難性后果。