“知我懂我的它”安全嗎

基于“大數(shù)據(jù)+高算力+強(qiáng)算法”的具身智能，加上其與人類相近的外形和行為模式，無疑會(huì)導(dǎo)致一定的風(fēng)險(xiǎn)，其中最值得關(guān)注的就是倫理風(fēng)險(xiǎn)。如何消除具身智能的“恐怖谷效應(yīng)”，值得深入探討。

既“知我懂我”也“令我不安”

具身智能潛在的倫理風(fēng)險(xiǎn)，源于其兩大特點(diǎn)——AIGC（人工智能生成內(nèi)容）和與人類高度相近的物理形態(tài)。

AIGC為具身智能賦能，也導(dǎo)致了不容忽視的倫理風(fēng)險(xiǎn)。例如一部可以提供家庭服務(wù)的具身智能設(shè)備，能夠識(shí)別其所服務(wù)的家庭成員的面孔，了解他們的生活習(xí)慣。對(duì)大量個(gè)人信息和隱私數(shù)據(jù)的處理是實(shí)現(xiàn)具身智能個(gè)性化、智能化服務(wù)的必要前提。以與人類互動(dòng)為主要功能的人形機(jī)器人是多種應(yīng)用的集成。它能全面收集你的相關(guān)參數(shù)，可能成為世界上最懂你的“人”，還會(huì)時(shí)刻在身邊觀察你——這便是“恐怖谷效應(yīng)”的成因。所謂“恐怖谷效應(yīng)”，即人類對(duì)類似人類的非人類物體的一種情感反應(yīng)。

除了“恐怖谷效應(yīng)”，在具身智能的科技倫理挑戰(zhàn)中，擬人交互系統(tǒng)的沉迷風(fēng)險(xiǎn)也值得關(guān)注。有美國媒體報(bào)道，作為心理輔導(dǎo)員的具身智能設(shè)備接觸大量受眾，每臺(tái)設(shè)備都能獲取超過9500萬條信息，極易令人沉迷于與它的交流之中。尤其是青少年，他們通過與具身智能設(shè)備聊天、互動(dòng)，尋求更多的陪伴、支持、娛樂乃至心理療愈。面對(duì)一個(gè)“知我懂我”，情緒價(jià)值和物理體驗(yàn)都能與真人相媲美的設(shè)備，很有可能導(dǎo)致情感沉迷。在網(wǎng)絡(luò)上，有基于算法治理的防沉迷機(jī)制，規(guī)定算法推薦服務(wù)提供者不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)。但在線下一對(duì)一的空間里，如何構(gòu)筑相應(yīng)的規(guī)范體系？如何防止未成年人沉迷于具身智能設(shè)備？

AIGC與生俱來的風(fēng)險(xiǎn)與其物理形態(tài)相結(jié)合，極易放大倫理挑戰(zhàn)。AIGC可能導(dǎo)致具身智能設(shè)備對(duì)人類進(jìn)行誤導(dǎo)，甚至在價(jià)值偏差下操縱人類。在社交媒體時(shí)代，當(dāng)我們的喜好被算法“投喂”，我們的憎惡被算法強(qiáng)化，我們的觀點(diǎn)被算法構(gòu)建，人類的自由意志可能被部分消解。當(dāng)然，用戶可以利用推薦、決策、評(píng)級(jí)等機(jī)制，通過有意識(shí)地改變自己在算法機(jī)制中輸入的信息，來實(shí)現(xiàn)對(duì)算法的掌控。不過我們?nèi)匀灰伎迹谝粚?duì)一交互空間中，高度近似人類的具身智能設(shè)備是否會(huì)對(duì)人類意志產(chǎn)生更為深遠(yuǎn)的影響？

更加令人擔(dān)憂的是，人類如何能夠不依賴一個(gè)在知識(shí)儲(chǔ)備上遠(yuǎn)勝于自己的具身智能設(shè)備？我們已經(jīng)看到了人類和機(jī)器互動(dòng)方式的巨大變化。當(dāng)代年輕人已經(jīng)習(xí)慣了通過語音與具身智能互動(dòng)，越來越習(xí)慣摘取具身智能為他們準(zhǔn)備好的知識(shí)成果，從而在認(rèn)知層面“對(duì)齊”。未來一代人則面臨著更加不同的互動(dòng)方式和人機(jī)力量對(duì)比，防止具身智能操縱人類將成為共識(shí)。

具身智能導(dǎo)致的其他風(fēng)險(xiǎn)

除了倫理風(fēng)險(xiǎn)，具身智能的應(yīng)用還會(huì)導(dǎo)致其他風(fēng)險(xiǎn)。

一是網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。具身智能離不開網(wǎng)絡(luò)，一旦接入互聯(lián)網(wǎng)就面臨網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。具身智能的交互能力越強(qiáng)，承擔(dān)的智能任務(wù)越多，面臨的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)就越大。

如果工廠中的具身智能設(shè)備遭遇網(wǎng)絡(luò)攻擊，不僅會(huì)對(duì)正常的工業(yè)生產(chǎn)造成不良影響，而且可能威脅工人的安全。攻擊者進(jìn)行“數(shù)據(jù)投毒”，向模型的訓(xùn)練數(shù)據(jù)中加入惡意樣本，或修改訓(xùn)練數(shù)據(jù)標(biāo)簽信息，都會(huì)影響模型在推理階段的表現(xiàn)。惡意軟件可能導(dǎo)致醫(yī)用機(jī)器人在與人交互時(shí)執(zhí)行不必要的操作。勒索軟件可能劫持各種機(jī)器人，使其無法使用。黑客可能獲取具身智能所掌握的個(gè)人信息，用于實(shí)施詐騙，或利用作為私人助手的具身智能實(shí)施遠(yuǎn)程違法“代理”，也可能控制具身智能實(shí)施入戶盜竊、搶劫等犯罪行為。

另外，具身智能的發(fā)展可能大大增加恐怖活動(dòng)的風(fēng)險(xiǎn)。如果加油（氣）站、充電站、危險(xiǎn)品倉庫、化工廠等危險(xiǎn)目標(biāo)遭到具身智能的襲擊，不僅可能造成人員、財(cái)產(chǎn)等重大損失，還可能造成惡劣的政治影響。

具身智能設(shè)備需要處理復(fù)雜任務(wù)，其控制系統(tǒng)中既部署了本地任務(wù)，也需要借助算力強(qiáng)大的私有云計(jì)算系統(tǒng)應(yīng)對(duì)復(fù)雜問題，滿足更為復(fù)雜的用戶需求。信息“上云”對(duì)傳統(tǒng)的個(gè)人數(shù)據(jù)保護(hù)體系形成挑戰(zhàn)，打破了通過服務(wù)應(yīng)用進(jìn)行隱私數(shù)據(jù)保護(hù)的模式，產(chǎn)生了更為復(fù)雜多樣的隱私問題。

具身智能已成為人工智能時(shí)代人機(jī)關(guān)系命題的重要方面。挑戰(zhàn)不僅在于完善技術(shù)及法規(guī)，也需要人類社會(huì)共同面對(duì)、協(xié)同治理。

比如，如何通過區(qū)分本地處理和云側(cè)處理場(chǎng)景，僅在相對(duì)有限的情形下向云端提供數(shù)據(jù)，有效降低數(shù)據(jù)泄露風(fēng)險(xiǎn)？又如，端側(cè)內(nèi)部處理機(jī)制、上傳信息的標(biāo)準(zhǔn)和觸發(fā)條件、數(shù)據(jù)加密機(jī)制、數(shù)據(jù)傳輸類型等如何把握？是否能將個(gè)人信息用于模型訓(xùn)練數(shù)據(jù)？應(yīng)對(duì)類似的新型數(shù)據(jù)隱私挑戰(zhàn)，有待我們進(jìn)一步探索。

二是個(gè)人信息安全風(fēng)險(xiǎn)。具身智能的運(yùn)行離不開個(gè)人信息。具身智能在同人類交流的過程中，會(huì)掌握大量個(gè)人信息，如生物識(shí)別、身份號(hào)、金融賬戶、醫(yī)療健康等信息，存在泄露的風(fēng)險(xiǎn)。大模型一方面可能會(huì)“記住”并在特定誘導(dǎo)模式下泄露訓(xùn)練數(shù)據(jù)中的個(gè)人信息，另一方面可能推斷出個(gè)人的經(jīng)濟(jì)狀況等信息，并予以泄露。攻擊者可能YXz+01EsGMALWjwipu38xg==實(shí)施“撞庫”攻擊，即通過收集互聯(lián)網(wǎng)中已泄露的用戶和密碼信息生成對(duì)應(yīng)的字典表，借機(jī)嘗試批量登錄相關(guān)平臺(tái)，竊取更多信息。

由于“耳聰目明”，具身智能可能成為超強(qiáng)的“竊聽器”和“監(jiān)視器”。作為私人助手的具身智能設(shè)備，不僅可能違法收集家庭成員的談話、電話通信等語音信息，還可能違法識(shí)別有關(guān)家庭財(cái)產(chǎn)和私密行為的圖片等信息。作為情感伙伴的具身智能設(shè)備，可能獲取人們不愿意主動(dòng)透露的個(gè)人隱私。在智能化社會(huì)中，如何有效保護(hù)個(gè)人信息，是人們面臨的新的法律和社會(huì)問題。

三是數(shù)據(jù)安全風(fēng)險(xiǎn)。具身智能不僅可能引發(fā)個(gè)人信息安全風(fēng)險(xiǎn)，還可能引發(fā)公共數(shù)據(jù)和企業(yè)數(shù)據(jù)泄露風(fēng)險(xiǎn)。

具身智能離不開生成式人工智能的運(yùn)用，而生成式人工智能語料庫的大規(guī)模流動(dòng)、聚合和分析會(huì)帶來前所未有的數(shù)據(jù)安全風(fēng)險(xiǎn)，其范圍涵蓋數(shù)據(jù)輸入、運(yùn)算、存儲(chǔ)和輸出的全過程，兼具瞬時(shí)性和破壞性。

數(shù)據(jù)可能被具身智能的開發(fā)者、相關(guān)軟件運(yùn)營者等主體違法處理，也可能被黑客竊取。現(xiàn)階段的技術(shù)局限導(dǎo)致大模型在應(yīng)對(duì)訓(xùn)練數(shù)據(jù)被提取、“數(shù)據(jù)投毒”等數(shù)據(jù)攻擊活動(dòng)時(shí)的穩(wěn)定性不足。

服務(wù)特種領(lǐng)域、助力智能制造等方面的具身智能，其收集存儲(chǔ)的大量公共數(shù)據(jù)和企業(yè)數(shù)據(jù)可能被泄露。企業(yè)數(shù)據(jù)屬于商業(yè)生產(chǎn)資料，可能涉及商業(yè)秘密和核心數(shù)據(jù)資產(chǎn)，違法處理可能給企業(yè)造成巨大的經(jīng)濟(jì)損失。公共數(shù)據(jù)屬于公共生產(chǎn)資料，但并非都會(huì)無條件開放，違法對(duì)其進(jìn)行處理可能損害公共安全。

完善倫理原則和治理體系

上述風(fēng)險(xiǎn)曾是影視作品中熱議的有關(guān)具身智能的科幻話題，如今已經(jīng)成為需要全社會(huì)共同面對(duì)和解決的現(xiàn)實(shí)難題。我們需要進(jìn)行思考和探索，以完善具身智能的倫理原則和治理體系。

首先，科技發(fā)展應(yīng)當(dāng)堅(jiān)持以人為本。我國關(guān)于人工智能治理的倡議提出，人工智能應(yīng)當(dāng)以人為本。人工智能技術(shù)發(fā)展的目標(biāo)始終應(yīng)該是增進(jìn)人類福祉。一方面，“不發(fā)展是最大的不安全”；另一方面，人類始終是科技的主人。我們不能讓機(jī)器成為任何一個(gè)人類個(gè)體的主宰，而是要讓它們成為我們的助手。人工智能不能自我訓(xùn)練、自我復(fù)制和自我進(jìn)化。我們?cè)诜芍贫仍O(shè)計(jì)中要始終堅(jiān)持人類的主體地位，保留人類對(duì)人工智能進(jìn)行干預(yù)和介入的權(quán)利。

其次，人類必須對(duì)人工智能的風(fēng)險(xiǎn)予以積極回應(yīng)。如果缺乏全球協(xié)調(diào)治理機(jī)制，某些企業(yè)就會(huì)受到“激勵(lì)”，將其風(fēng)險(xiǎn)較高的活動(dòng)轉(zhuǎn)移到監(jiān)管嚴(yán)格程度低、成本低和/或執(zhí)法力度小的地區(qū)。為了保持全球競(jìng)爭(zhēng)力，監(jiān)管更嚴(yán)格的地區(qū)和國家將被迫降低標(biāo)準(zhǔn)，導(dǎo)致監(jiān)管標(biāo)準(zhǔn)整體呈下降趨勢(shì)——這可能成為全人類都會(huì)面臨的風(fēng)險(xiǎn)。

諸多國際組織都開展了人工智能治理工作。聯(lián)合國秘書長古特雷斯主導(dǎo)成立了高級(jí)別人工智能咨詢機(jī)構(gòu)，發(fā)布了人工智能中期發(fā)展報(bào)告，其核心是“以人為本的人工智能治理”。這也符合中國在全球人工智能治理倡議中提出的設(shè)想，在聯(lián)合國框架下討論建立全球人工智能治理機(jī)構(gòu)。相信通過世界各國的聯(lián)動(dòng)協(xié)作，人類能夠更好地應(yīng)對(duì)人工智能帶來的風(fēng)險(xiǎn)。