基于臉的治理及其轉(zhuǎn)向:從刺臉、刷臉到非法AI換臉
——兼論數(shù)智時(shí)代人的數(shù)字化問(wèn)題

謝新水

(首都師范大學(xué) 管理學(xué)院,北京 100048)

從美學(xué)層面看,人是極其愛(ài)惜臉的物種;從道德層面看,人是極其愛(ài)面子的動(dòng)物。前者是對(duì)自然之美的珍惜,后者是對(duì)社會(huì)之美的珍愛(ài)。在《草稿本》中,利希滕貝格指出:“世上最值得玩味的表面乃是人的臉。”[1]引言001從社會(huì)治理角度看,臉之所以最值得玩味乃是因?yàn)槟樋梢宰鳛樯鐣?huì)治理場(chǎng)域。在農(nóng)業(yè)社會(huì),“刺臉”是一種統(tǒng)治工具;在工業(yè)社會(huì),臉逐漸商品化、市場(chǎng)化;到了數(shù)字社會(huì),“刷臉”成為新治理方式并帶來(lái)了治理泛化。在本文中,筆者將“刺臉”和“刷臉”統(tǒng)稱為“基于臉的治理”。隨著生成式人工智能技術(shù)形成特別是深度合成技術(shù)普遍應(yīng)用后,非法AI換臉帶來(lái)了許多社會(huì)問(wèn)題。由于非法AI換臉引發(fā)了臉的數(shù)字化問(wèn)題,以此為轉(zhuǎn)向,臉從治理工具變成了被治理的對(duì)象,如何治理非法換臉成為人工智能時(shí)代的社會(huì)問(wèn)題。在我國(guó),《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》和《生成式人工智能服務(wù)管理暫行辦法》都對(duì)非法AI換臉問(wèn)題進(jìn)行了規(guī)范。對(duì)于公共管理而言,從臉的社會(huì)發(fā)展形態(tài)及其治理歷史來(lái)探究禁止非法AI換臉的治理價(jià)值,既有理論意義又有現(xiàn)實(shí)意義。

1 問(wèn)題提出與文獻(xiàn)綜述

在人工智能時(shí)代興起的AI換臉技術(shù),屬于深度合成技術(shù)中的深度偽造技術(shù)。為了深入了解AI換臉,需要界定深度合成技術(shù)、深度偽造技術(shù)和AI換臉技術(shù)之間的關(guān)系。深度合成技術(shù)是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)[2]。深度偽造是利用深度學(xué)習(xí)技術(shù)中的對(duì)抗生成網(wǎng)絡(luò)模型形成的智能視頻處理技術(shù),AI換臉視頻是該技術(shù)最為典型的應(yīng)用[3]。從技術(shù)淵源來(lái)看,AI換臉發(fā)端于PS技術(shù),在影視界,換臉技術(shù)已經(jīng)存在20多年。其后,換臉技術(shù)不斷進(jìn)化,AI換臉色情視頻帶來(lái)了巨大的社會(huì)沖擊。2019年9月,針對(duì)媒體公開(kāi)報(bào)道和用戶曝光的“ZAO”APP用戶隱私協(xié)議不規(guī)范,存在數(shù)據(jù)泄露風(fēng)險(xiǎn)等網(wǎng)絡(luò)數(shù)據(jù)安全問(wèn)題,工業(yè)和信息化部網(wǎng)絡(luò)安全管理局對(duì)相關(guān)企業(yè)負(fù)責(zé)人進(jìn)行了問(wèn)詢約談[4]。媒體對(duì)這一“裸奔”視覺(jué)革命有諸多負(fù)面評(píng)論:AI換臉影響國(guó)家安全、公共安全和政治民主[5]。故而,“對(duì)于臉的治理”成為非法AI換臉出現(xiàn)后的大問(wèn)題。

從學(xué)術(shù)史來(lái)分析,在很長(zhǎng)時(shí)間內(nèi),理論界對(duì)臉這個(gè)習(xí)以為常的東西缺乏研究熱情。當(dāng)數(shù)字時(shí)代“刷臉”與“換臉”問(wèn)題出現(xiàn)后,“對(duì)于臉的治理”成為熱點(diǎn)問(wèn)題。在西方哲學(xué)中,“臉”遭受的冷遇命運(yùn)與“身體”受到的一貫“垂青”在整個(gè)哲學(xué)史上反襯分明。只有到了阿甘本那里,“臉”才第一次被賦予形而上學(xué)的韻味與意指,并與倫理學(xué)的討論完美地接榫[6]。但阿甘本對(duì)臉的談及也是零碎的,他指出:“一個(gè)存在——一張臉,一個(gè)姿勢(shì),一個(gè)事件——在它不像其他任何一個(gè)存在,而像其他所有存在的時(shí)候,才是特別的。”[7]97-98其實(shí),阿甘本更關(guān)注身體的意義,他認(rèn)為:“人的本性的扭曲導(dǎo)致了對(duì)身體的‘發(fā)現(xiàn)’和對(duì)赤裸的感知。”[8]108此外,他還提及20世紀(jì)用身份證、正面頭像和指紋來(lái)治理社會(huì)等問(wèn)題[8]96。從藝術(shù)史看,貝爾廷的《臉的歷史》既是一部關(guān)于臉的文化史,又對(duì)社會(huì)治理有重要啟示。他指出,人的面部活動(dòng)部分可追溯到遠(yuǎn)古時(shí)期,另一部分則隨著人類進(jìn)化而逐漸形成;只有在文化中,臉才被賦予了自然之外的意義,臉的文化史構(gòu)成了一個(gè)開(kāi)放性的領(lǐng)域[1]序言004。在我國(guó)歷史上,基于臉的治理延續(xù)了很長(zhǎng)時(shí)間,清代學(xué)者沈家本的《寄簃文存》中“刺字集聚”一章,對(duì)我國(guó)歷代典籍中的“刺臉”問(wèn)題進(jìn)行了系統(tǒng)的研究[9]196-197。此外,現(xiàn)代法學(xué)史領(lǐng)域一些學(xué)者對(duì)“刺臉”這類恥辱刑也做了深入研究。

數(shù)字時(shí)代來(lái)臨,特別是三年疫情期間,新冠病毒迫使人們隔離,致使“刷臉”治理成為熱點(diǎn),眾多文獻(xiàn)對(duì)刷臉、換臉問(wèn)題做了多學(xué)科分析(1)由于正文中引用了眾多相關(guān)文獻(xiàn),在此只對(duì)已有研究進(jìn)行簡(jiǎn)單陳述。。一些文獻(xiàn)分析了人臉識(shí)別的收益與風(fēng)險(xiǎn)[10];一些文獻(xiàn)分析了深度偽造規(guī)模、數(shù)量和傳播速度對(duì)市場(chǎng)產(chǎn)生的多重影響[11]。有學(xué)者指出,非法深度偽造遲早會(huì)導(dǎo)致一系列令人不安的惡意使用[12]。確實(shí),非法AI換臉帶來(lái)的憂慮尤甚,有些問(wèn)題甚至令人毛骨悚然。然而,就現(xiàn)有文獻(xiàn)來(lái)看,聚焦于AI換臉問(wèn)題的研究要少一些。不過(guò),人們對(duì)于非法AI換臉問(wèn)題的社會(huì)共識(shí)大體形成:AI換臉不僅具有極高的欺騙性,也帶來(lái)個(gè)人信息安全與肖像權(quán)的侵害、視覺(jué)失真與新聞失實(shí)等一系列社會(huì)風(fēng)險(xiǎn)[13]。從制度領(lǐng)域看,2022年11月,國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合制定《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,自2023年1月10日起施行。有國(guó)外評(píng)論指出,中國(guó)對(duì)深度偽造的監(jiān)管領(lǐng)先于歐洲和美國(guó)[14]。從農(nóng)業(yè)社會(huì)、工業(yè)社會(huì)一直到數(shù)字社會(huì),臉一直是治理工具;在當(dāng)下,AI換臉技術(shù)已經(jīng)成熟且容易普及,放任非法AI換臉等深度偽造流行將對(duì)社會(huì)、國(guó)家乃至全球秩序的建構(gòu)產(chǎn)生破壞性影響。所以,公共管理領(lǐng)域應(yīng)提升對(duì)非法AI換臉引發(fā)的社會(huì)治理問(wèn)題的關(guān)注度。

與既往研究不同的是,本文基于“臉”這一治理場(chǎng)域的發(fā)展歷程,把非法AI換臉作為重要治理議題,將“刺臉”“刷臉”和“換臉”問(wèn)題置于社會(huì)治理的歷史發(fā)展邏輯中來(lái)透視非法AI換臉問(wèn)題。本文主要討論兩方面的問(wèn)題:“基于臉的治理”和“對(duì)于臉的治理”,前者討論不同歷史時(shí)期基于臉的治理的過(guò)程及其局限,后者討論非法AI換臉帶來(lái)的社會(huì)混亂及禁止非法AI換臉的緣由。本文具體探討了三個(gè)方面的問(wèn)題:一是從歷史治理視角解讀臉的社會(huì)化、市場(chǎng)化和數(shù)字化發(fā)展趨勢(shì)及其局限;二是剖析農(nóng)業(yè)社會(huì)的“刺臉”統(tǒng)治和數(shù)字社會(huì)的“刷臉”治理,以此為基礎(chǔ),界定“基于臉的治理”的邊界;三是探究禁止非法AI換臉的四重治理價(jià)值。本文可以為生成式人工智能、通用人工智能的可持續(xù)發(fā)展提供一些理論借鑒。

2 歷史視野中臉的社會(huì)狀態(tài)及其局限

臉具有裸露權(quán),是具有反饋性、情感性、可識(shí)別性的交互工具;臉亦是人們相互凝視和交換信息的重要場(chǎng)域,更是社會(huì)交往不可或缺的界面。從歷史視野中審視可知,臉的社會(huì)化、市場(chǎng)化和數(shù)字化是臉的三種社會(huì)狀態(tài),以此為線索,能更清晰地闡述“基于臉的治理”。

2.1 臉的社會(huì)化及其治理局限

臉是情感的表現(xiàn)場(chǎng)域,人無(wú)法逃避漂浮不定的情感和日益滄桑的臉的雙重磨礪。飄浮不定的情感讓人類享受愛(ài)與情之美卻又飽受相思之苦與情緒之累,依賴情感生活者經(jīng)常備受折磨,但任何人都無(wú)法逃避歲月對(duì)臉無(wú)情的摧殘(2)在抖音等平臺(tái)中,變臉軟件可以讓人看到自己從小到老過(guò)程中臉的變化,每個(gè)人都可以對(duì)比年輕時(shí)的青春活力與年老時(shí)的衰弱無(wú)奈,這種快速、直接的對(duì)比讓每個(gè)人都心驚肉跳。。從社會(huì)視角看,作為社會(huì)界面、裸露且展現(xiàn)情感的臉不僅具有可識(shí)別性,更加重要的是被賦予了社會(huì)性。阿甘本指出:天主教傳統(tǒng)把“衣服”稱為人類在天堂中得到的恩典之禮物,這一事實(shí)具有非常重要的意味。人只有通過(guò)外在于他的榮耀之衣才能得到說(shuō)明,后者就和任何衣服一樣[8]17。遮體、保暖并呈現(xiàn)美的服飾是人類文明的標(biāo)志之一;這一文明行為讓臉成為裸露、特殊、特色的部分而促使臉成為社會(huì)治理功能發(fā)生的場(chǎng)域。經(jīng)過(guò)錘煉、有城府的臉可以不動(dòng)聲色,但作為社會(huì)交往不可或缺的界面,個(gè)體的臉都蘊(yùn)含著熱情、冷漠、羨慕、慈愛(ài)、麻木、僵硬、恐懼、憂心、開(kāi)懷與興奮等各類情感,個(gè)體行為的社會(huì)性或多或少都要在臉這一裸露的界面中體現(xiàn)。在社會(huì)交往中,臉是個(gè)體向社會(huì)擴(kuò)散的符號(hào),不斷呈現(xiàn)出個(gè)體的情感狀態(tài)、生存狀態(tài)和交往狀態(tài)。在社會(huì)交往中,臉更是連接他者、社會(huì)和國(guó)家的界面,這種逐漸擴(kuò)大的社會(huì)化提升了臉的治理價(jià)值。雖然,作為社會(huì)交往界面的臉被賦予了社會(huì)治理功能,但也存在明顯局限。

其一,與作為人造物的服飾相比,臉的社會(huì)治理功能存在明顯局限。豐富多彩的衣服作為人造物可改變?nèi)说男蜗蟮淖儾涣巳说哪?可識(shí)別性致使臉具有自然差異,但僅僅依靠臉難以實(shí)質(zhì)性地區(qū)分社會(huì)個(gè)體。在社會(huì)秩序建構(gòu)過(guò)程中,社會(huì)地位、社會(huì)身份以及職業(yè)主要依賴服飾來(lái)區(qū)分,眾多王朝對(duì)衣冠配飾都有明確規(guī)定——無(wú)論國(guó)王還是大臣、貴族還是貧民,在衣冠、配飾和武器方面存在重要區(qū)分。在我國(guó)古代,象刑是最早的恥辱刑,是一種讓罪犯穿上特殊服飾以示懲罰的象征性刑罰。《尚書(shū)》《周禮》以及荀子的《正論》對(duì)象刑都有過(guò)記載[15]。在現(xiàn)代社會(huì),平等成為公共產(chǎn)品,但在軍、檢、法等行使公權(quán)力的特殊職業(yè)中,“制服”還是必需品,以此來(lái)象征這些職業(yè)所具有的威嚴(yán)。與之相反,囚犯“制服”包含了懲罰、區(qū)分、隔離、不認(rèn)同等復(fù)雜治理意涵。可見(jiàn),服飾是區(qū)分職業(yè)群體的視覺(jué)之物亦或服從標(biāo)志,然而不借助特殊技術(shù)臉難以成為治理工具。

其二,“面具”的使用,隔斷了臉的社會(huì)化與行動(dòng)主體的聯(lián)系,削弱了臉的社會(huì)治理功能。臉是社會(huì)化的,既是責(zé)任又是權(quán)利,更是歷史寫(xiě)照:黑奴解放的笑臉、法國(guó)大革命者的激情之臉、戰(zhàn)場(chǎng)上將軍和士兵充滿生死情感的臉、明星品牌般的臉、卑微者被忽視的臉等都隱藏、夾雜了社會(huì)情感或社會(huì)責(zé)任。在更多時(shí)候,臉內(nèi)在地拒絕社會(huì)性,于是人們發(fā)明了面具。實(shí)體的面具是臉的物化,是掩飾工具和媒介;此外,每個(gè)人還有一個(gè)情感的“面具”。面具的出現(xiàn)表達(dá)了對(duì)臉的可識(shí)別性的不滿,是現(xiàn)實(shí)世界“變臉”的方式。貝爾廷指出:“臉不僅天生適于配戴面具,而且天生適于充當(dāng)面具。”[1]25人們戴上面具的目的在于娛樂(lè)、演戲、曖昧或隱藏身份、保護(hù)隱私、藏匿情感,但面具隔斷了臉與身體的聯(lián)系,以“換臉”方式讓臉失去了社會(huì)性。在社會(huì)生活中,不只是演員通過(guò)面具或化妝“變臉”,每個(gè)人都或多或少地戴著“面具”。面具使臉和身體不再一體化,“變臉”與“換臉”都有混淆他者、分裂行動(dòng)的危險(xiǎn),暗含著破壞社會(huì)秩序的可能。

2.2 臉的市場(chǎng)化及其肖像權(quán)問(wèn)題

臉部政治與廣告美學(xué)使臉政治化和市場(chǎng)化[1]39。廣義的臉部政治包含了統(tǒng)治、管理、治理的指向。在農(nóng)業(yè)社會(huì),血緣、身份與臉之間具有直接因果關(guān)系。通過(guò)基于血緣的臉來(lái)建構(gòu)身份秩序,是一種統(tǒng)治方式,王公貴族因?yàn)檠y(tǒng)高貴出生后就獲得了一張擁有統(tǒng)治權(quán)且受尊重的臉,也獲得了政治特權(quán),而出身底層的百姓被置于政治秩序的底層。在傳統(tǒng)政治中,“百姓”概念蘊(yùn)含了屈于“一姓”統(tǒng)治的意涵,本質(zhì)上,臉的政治化是為了維護(hù)社會(huì)秩序、建構(gòu)政治秩序與階級(jí)統(tǒng)治。隨著市場(chǎng)經(jīng)濟(jì)的發(fā)展,臉的市場(chǎng)化逐漸形成。臉的市場(chǎng)化是臉的物化過(guò)程,意指臉融入市場(chǎng)成為特殊商品,使其經(jīng)濟(jì)價(jià)值逐漸得以釋放、得以凸顯。19世紀(jì)以來(lái),現(xiàn)代廣告業(yè)的發(fā)展使個(gè)人的名譽(yù)、肖像、姓名等人格權(quán)的經(jīng)濟(jì)價(jià)值逐漸凸顯,可以大量進(jìn)行商業(yè)化利用,并隨著電視、報(bào)紙等媒體的宣傳而擴(kuò)大了知名度,獲得經(jīng)濟(jì)效益[16]。肖像權(quán)是聲光技術(shù)發(fā)展及照相機(jī)和攝像機(jī)逐漸普及后的產(chǎn)物,這類技術(shù)讓臉得以留存、進(jìn)而重復(fù)利用。為了促進(jìn)臉的市場(chǎng)化,19世紀(jì)中葉,肖像權(quán)就已經(jīng)萌芽了,德國(guó)、美國(guó)、日本等國(guó)家開(kāi)始為肖像權(quán)立法[17]。肖像權(quán)的設(shè)立為臉的市場(chǎng)化提供了保障。

在社會(huì)意義上,肖像是對(duì)人的必死性的抵抗。繪畫(huà)、攝影技術(shù)的普及讓臉得以保存為可持久物,從而將死者和生者聯(lián)系起來(lái)、相互慰藉。肖像實(shí)現(xiàn)了死者與生者面對(duì)面的、儀式性的交流,增強(qiáng)了人類的精神力量。在家庭、家族乃至國(guó)家治理中,肖像及其雕塑都有重要社會(huì)價(jià)值。肖像權(quán)使臉的社會(huì)屬性得以張揚(yáng)、臉的公共屬性乃至政治屬性都因此變得活躍。在工業(yè)時(shí)代,臉傳遞著各種事件的激情,在政治選舉、游行示威、個(gè)人宣誓、商品電視廣告等社會(huì)行為中,臉的角色繁多、任務(wù)繁重,明星等公眾人物都因臉的市場(chǎng)化產(chǎn)生了價(jià)值。數(shù)字社會(huì)來(lái)臨后,為了促進(jìn)臉的市場(chǎng)化,互聯(lián)網(wǎng)上對(duì)個(gè)人形象的商業(yè)利用屢見(jiàn)不鮮,無(wú)論是在電商平臺(tái)上銷售印有明星肖像的紀(jì)念品,還是利用社交網(wǎng)絡(luò)上的“網(wǎng)紅”或者“意見(jiàn)領(lǐng)袖”推銷商品,抑或通過(guò)明星照片來(lái)“引流”都十分普遍[18]。

2.3 臉的數(shù)字化及其治理問(wèn)題

進(jìn)入數(shù)字社會(huì)后,臉的數(shù)字化進(jìn)程得以開(kāi)啟,平臺(tái)和流量成為數(shù)字權(quán)力的核心要素,臉的數(shù)字化引發(fā)的問(wèn)題也隨之而來(lái)。當(dāng)然,臉的數(shù)字化與人的數(shù)字化是相連的。簡(jiǎn)單而言,人的數(shù)字化有兩個(gè)類型,即整體數(shù)字化和局部數(shù)字化,前者是將人整體數(shù)字化,后者則是將人的器官數(shù)字化。人的數(shù)字化在現(xiàn)實(shí)世界和虛擬世界都可以展開(kāi)。在現(xiàn)實(shí)世界,人的整體數(shù)字化表現(xiàn)為各種類型的人型機(jī)器人出現(xiàn);人的局部數(shù)字化則針對(duì)手臂等助力器官而言,機(jī)械手臂等是人的局部數(shù)字化形態(tài)。在虛擬世界中,自20世紀(jì)60年代以來(lái),數(shù)字人技術(shù)開(kāi)始發(fā)展,至今有了幾十年的發(fā)展歷程[19]。隨著虛擬世界不斷迭代更新,作為人的數(shù)字化的新形式,虛擬數(shù)字人活躍在元宇宙等虛實(shí)相容的世界中。人的數(shù)字化是數(shù)字時(shí)代的重要問(wèn)題之一。當(dāng)下的數(shù)字化理論主要關(guān)注產(chǎn)業(yè)數(shù)字化和數(shù)字產(chǎn)業(yè)化,卻忽略了數(shù)字化轉(zhuǎn)型中的另一個(gè)特殊對(duì)象:人的數(shù)字化。

在數(shù)字社會(huì),隨著人工智能的發(fā)展,屬于人的局部數(shù)字化的臉的數(shù)字化開(kāi)始活躍,其表現(xiàn)形態(tài)主要有兩種,即“刷臉”與“換臉”。“刷臉”是指人臉識(shí)別治理技術(shù)。隨著人工智能技術(shù)的發(fā)展,尤其是因特殊原因?qū)е氯撕腿酥g盡量避免接觸,“刷臉”變成熱詞,臉也再次成為社會(huì)熱點(diǎn),可識(shí)別的臉成為出入各種場(chǎng)所的“通行證”。在日常生活中,作為身份認(rèn)證方式,“刷臉”治理的場(chǎng)景不斷擴(kuò)大甚至泛化,進(jìn)而在不同場(chǎng)所流行起來(lái)。“刷臉”打游戲、寄快遞、住店、進(jìn)小區(qū)、入景區(qū);“刷臉”坐高鐵、“刷臉”解鎖、辦理公務(wù)、各類支付,甚至用“刷臉”進(jìn)行考勤等。可以說(shuō),“刷臉”治理的場(chǎng)景在不斷泛化,也隨之產(chǎn)生了不同類型的問(wèn)題。

“換臉”是深度偽造技術(shù)的典型形式。目前,AI換臉技術(shù)已發(fā)展成熟并逐漸普及。從社交平臺(tái)獲得照片、視頻和其他文檔,“一鍵換臉”就能生成與某個(gè)人“真實(shí)地”聊天的“好朋友”。AI換臉是人的局部數(shù)字化的“反叛”形式,具有諸多反社會(huì)功能。如果說(shuō)深度偽造徹底埋葬了人類社會(huì)歷久積累的眼見(jiàn)為實(shí)的判斷原則,那么非法AI換臉則尤其為甚。例如,非法AI換臉技術(shù)利用“眼見(jiàn)為實(shí)”的判斷習(xí)慣或認(rèn)知偏見(jiàn)詐騙親戚朋友,或生成不雅視頻在網(wǎng)絡(luò)平臺(tái)傳播,損害他人聲譽(yù)等。AI換臉帶來(lái)的侵害可以滲透到政治、經(jīng)濟(jì)、文化和社會(huì)生活之中,臉的數(shù)字化伴隨著諸多社會(huì)治理問(wèn)題。

3 “基于臉的治理”及其邊界

自古以來(lái),我國(guó)就重視臉對(duì)社會(huì)秩序建構(gòu)的價(jià)值,臉亦是不可或缺的治理界面;在統(tǒng)治、管理和治理意義上“基于臉的治理”并不鮮見(jiàn)。從行動(dòng)視角去考察臉作為治理工具的歷史過(guò)程,可以發(fā)現(xiàn),“刺臉”和“刷臉”是“基于臉的治理”的兩種主要形式。

3.1 刺臉

于一般人而言,只有熟人的臉能被識(shí)別,陌生人的臉很難識(shí)別。從原理上看,只有通過(guò)技術(shù)賦能,臉才能成為治理場(chǎng)域。在不同時(shí)期,基于臉的治理都是因?yàn)橘x予了臉以識(shí)別和認(rèn)同功能,增強(qiáng)了臉的可識(shí)別性和顯現(xiàn)性。在識(shí)別技術(shù)不多的農(nóng)業(yè)社會(huì),如何將那些既要處罰又要教育的違法亂紀(jì)人員區(qū)分開(kāi)來(lái),是社會(huì)秩序建構(gòu)中的重要問(wèn)題。在我國(guó)農(nóng)業(yè)社會(huì),基于臉的治理體現(xiàn)為兩類刑罰,即墨刑和劓刑,前者的刺字部位在額頭,后者就是割掉鼻子[15]。這兩種刑罰都是將臉作為治理場(chǎng)域,讓違法者遭受一輩子的精神痛苦,故而有“黥刺一膺,終身僇辱”的話語(yǔ)[9]4。在此,王朝統(tǒng)治者將臉、刀和文字融合成為可識(shí)別的刑罰。

從統(tǒng)治的角度看,“刺臉”是通過(guò)對(duì)臉的進(jìn)一步標(biāo)識(shí),進(jìn)而增強(qiáng)對(duì)特殊主體的可識(shí)別性。劓刑非常殘酷,在我國(guó)歷史上實(shí)施的時(shí)間不長(zhǎng),但“刺臉”是我國(guó)王朝統(tǒng)治中的常用刑法,各王朝的法律大都使用了“刺臉”這一恥辱刑[15]。清代沈家本的“刺字集序”,對(duì)刺字刑專門做了歸納總結(jié)。他指出:“墨一名黥”,“黥,墨也。在面也。”[9]196從統(tǒng)治功能而言,刺臉是一種社會(huì)信號(hào)。在臉上刺字,讓他者以此知道“刺臉”的人的過(guò)去,可以被提防、遠(yuǎn)離、回避或者隔離,使之在社會(huì)交往中淪為“異類”。在宋代,刺字成為軍人和罪犯共有的體貌特征。軍人和罪犯在刺字內(nèi)容和部位上雖有差異,卻都被社會(huì)主流群體視為賤民[20]。在清代,對(duì)于“刺臉”有嚴(yán)格規(guī)定。“旗人刺臂,奴仆刺面,民犯徒罪以上刺面,杖罪以下刺臂。再犯者亦刺面,刺面在鬢之下,頰之上,刺臂在腕之上,肘之下。”[21]隨著現(xiàn)代社會(huì)的進(jìn)步,“刺臉”這種基于臉的治理因?yàn)槊胺溉烁穸粡U除,這是巨大的社會(huì)進(jìn)步。

3.2 刷臉

“刷臉”是人臉識(shí)別的俗稱,是使用人臉數(shù)據(jù)進(jìn)行比對(duì)識(shí)別,以實(shí)現(xiàn)身份認(rèn)證、解鎖和支付等功能。在“刷臉”治理中,每個(gè)人的臉成為社會(huì)治理的“通用標(biāo)準(zhǔn)”。根據(jù)《信息安全技術(shù) 人臉識(shí)別數(shù)據(jù)安全要求(GB/T 41819—2022)》的規(guī)定:人臉識(shí)別數(shù)據(jù)主要用于識(shí)別自然人身份,典型應(yīng)用包括機(jī)場(chǎng)、火車站使用人臉識(shí)別數(shù)據(jù)進(jìn)行人證比對(duì),移動(dòng)智能終端、應(yīng)用程序使用人臉識(shí)別數(shù)據(jù)實(shí)現(xiàn)解鎖、支付等功能,公園、居民小區(qū)等使用人臉識(shí)別數(shù)據(jù)核對(duì)人員身份。從技術(shù)層面看,之所以說(shuō)“刷臉”技術(shù)具有重要的治理功能,是因?yàn)椤八⒛槨敝卫砑夹g(shù)可以提升社會(huì)治理效能。比如,醫(yī)保“刷臉”支付成為繼醫(yī)保電子憑證、移動(dòng)支付后看病就醫(yī)的又一“快捷通道”,有效解決了病人高峰期“排隊(duì)時(shí)間長(zhǎng)”的問(wèn)題,幫助患者省去記憶密碼和輸入密碼的麻煩,真正實(shí)現(xiàn)了人證(卡)合一。人證(卡)合一減少了各類作假行為,達(dá)到了即時(shí)認(rèn)證和即時(shí)治理的效果。

在數(shù)字社會(huì),由于大數(shù)據(jù)、人工智能等技術(shù)的賦能,“刷臉”成為公共領(lǐng)域不可或缺的治理工具,可以視為現(xiàn)代社會(huì)基于臉的治理的新方式。目前,人臉識(shí)別技術(shù)已被廣泛應(yīng)用于社會(huì)生活,大到智慧城市的建設(shè),小到手機(jī)等APP應(yīng)用的登錄解鎖,在金融、電商、安保、娛樂(lè)等諸多領(lǐng)域都發(fā)揮著巨大作用[22]。“刷臉”治理有塑造社會(huì)生產(chǎn)模式和運(yùn)行方式的價(jià)值,是技術(shù)治理的一部分,可以在身份識(shí)別、預(yù)約取號(hào)、提升社會(huì)治理效能和應(yīng)對(duì)重大公共安全危機(jī)等方面發(fā)揮作用[23]。“刷臉”依然是基于臉的治理,在公私領(lǐng)域都得以使用的“刷臉”治理既提升了社會(huì)治理效能,又引發(fā)了社會(huì)治理問(wèn)題。

3.3 “基于臉的治理”的問(wèn)題

從一般意義上看,在農(nóng)業(yè)社會(huì),臉既是身份又是面子。從統(tǒng)治角度看,臉又是王權(quán)可支配的“公共空間”,是建構(gòu)社會(huì)等級(jí)秩序的標(biāo)識(shí)和統(tǒng)治工具。當(dāng)然,即使在個(gè)體權(quán)利不被重視的王朝時(shí)代,臉作為自然之物或父母所賜之物,只有基于王權(quán)才可以懲罰性地進(jìn)行“刺臉”,也就是說(shuō),只有王權(quán)可以讓臉去承載特定個(gè)體的“罪與罰”。在我國(guó)歷史上的王朝時(shí)期,“刺臉”只是官府依法的行動(dòng),僅僅限于王朝統(tǒng)治權(quán)力的作為。在任何時(shí)候,都不能非法損害他者的臉,更不能利用臉來(lái)開(kāi)展各類懲罰性的管理。農(nóng)業(yè)社會(huì)臉的社會(huì)化是基于王權(quán)的社會(huì)化,與之相隨的是一種直接的暴力統(tǒng)治。工業(yè)社會(huì)臉的社會(huì)化主要體現(xiàn)為商業(yè)價(jià)值,臉可以被各類主體基于各種利益訴求來(lái)應(yīng)用。臉的商品屬性越來(lái)越擴(kuò)大,臉的經(jīng)濟(jì)屬性不斷凸顯。與之同時(shí),臉的市場(chǎng)化、商品化也引發(fā)了肖像權(quán)問(wèn)題。由于相關(guān)法律的保護(hù),個(gè)體的臉的權(quán)利得到了尊重,但侵犯肖像權(quán)的事情仍在不斷發(fā)生。

隨著人工智能技術(shù)應(yīng)用場(chǎng)景的不斷開(kāi)拓,臉的數(shù)字化增強(qiáng)了人臉的可識(shí)別性。數(shù)字時(shí)代的臉不僅具有道德價(jià)值、經(jīng)濟(jì)價(jià)值,還由于技術(shù)賦能不斷提升了治理價(jià)值,但“刷臉”治理也產(chǎn)生了一些負(fù)面效應(yīng)。一是“刷臉”技術(shù)帶來(lái)了治理主體的泛化。由于“刷臉”技術(shù)泛化,基于臉的治理不再限于政府這一主體,“刷臉”不僅僅是政府的治理工具,企業(yè)、社會(huì)組織甚至社區(qū)都利用“刷臉”來(lái)進(jìn)行治理。二是“刷臉”治理導(dǎo)致人臉信息與人臉主體的分離。在“刷臉”過(guò)程中,“刷臉”者的姓名、性別、年齡、聯(lián)系方式等信息都被一并收集、儲(chǔ)存。“刷臉”起到身份認(rèn)證功能,能夠開(kāi)啟一個(gè)通向賽博空間的賬戶,延續(xù)了人臉作為通用標(biāo)識(shí)符的社會(huì)功能。“刷臉”意味著認(rèn)證權(quán)力過(guò)程從分布式轉(zhuǎn)向集中化,認(rèn)證信息與載體的分離[24]。然而,需要知道的是,個(gè)體的臉已經(jīng)在被別人“控制”和使用。三是一些企業(yè)利用“刷臉”牟利。在2021年“3·15”晚會(huì)上,央視曝光了多家企業(yè)未經(jīng)告知私自通過(guò)監(jiān)控?cái)z像頭搜集消費(fèi)者人臉信息,涉事企業(yè)包含多家知名企業(yè)[25]。“刷臉”治理擴(kuò)大化提升了社會(huì)危害性。

“刷臉”治理泛化帶來(lái)了“刷臉”治理問(wèn)題,規(guī)范人臉識(shí)別成為媒體、學(xué)界關(guān)注的重要問(wèn)題。2019年,郭兵訴杭州野生動(dòng)物世界有限公司一案,成為全國(guó)第一起涉及人臉識(shí)別技術(shù)使用糾紛的民事案件。批評(píng)者指出,判決所傳遞的信息并不利于加強(qiáng)對(duì)個(gè)人信息的保護(hù)[26]。針對(duì)人臉這一生物信息的獨(dú)特性、直接識(shí)別性、不可更改性、易采集性、不可匿名性等特征,法學(xué)領(lǐng)域的學(xué)者希望厘定人臉識(shí)別技術(shù)應(yīng)有的法律底線和法律規(guī)制的要點(diǎn)[10]。不過(guò),“刷臉”治理對(duì)權(quán)力邊界的突破,遠(yuǎn)不如非法AI換臉的程度大。

4 禁止非法AI換臉的緣由

非法AI換臉是指為達(dá)到非法目的而將現(xiàn)實(shí)生活中A主體的臉更換給B主體,在虛擬世界中B主體基于A主體的身份展開(kāi)行動(dòng)。深度偽造特別是非法AI換臉帶來(lái)了多宗罪,包括傳播假新聞、影響選舉、在法庭上引入高度逼真的假證據(jù)、制作假色情電影,等等。這些“罪行”對(duì)社會(huì)關(guān)系、社會(huì)秩序、民主和法治產(chǎn)生了重大影響,之所以提出禁止非法AI換臉,是因?yàn)樯疃葌卧煲呀?jīng)沖擊人類感知的極限[27],引發(fā)了不同類型群體的深度擔(dān)憂。禁止非法AI換臉可以產(chǎn)生多重治理價(jià)值。

4.1 非法AI換臉導(dǎo)致行動(dòng)者主體性喪失

嫁接是人工繁殖植物的方法,是把一株植物的枝或芽嵌入另一株植物的莖或根上,使接在一起的兩個(gè)部分發(fā)育成一個(gè)完整植株。AI換臉是一種“數(shù)字嫁接”,是用人臉識(shí)別和對(duì)抗性生成技術(shù)將一個(gè)人的臉“嫁接”到另一個(gè)人身體上,從而實(shí)現(xiàn)不同人之間的換臉。隨著AI換臉一鍵生成與網(wǎng)絡(luò)化,AI換臉形成了比較豐富的類型。根據(jù)應(yīng)用目的,可將AI換臉?lè)譃閵蕵?lè)類、色情類和政治類。其中,娛樂(lè)類是出于娛樂(lè)、游戲的傳播意向;色情類是將他人臉部圖像嫁接至扮演色情淫穢音視頻的角色身上;政治類是出于表達(dá)政治訴求或制造政治輿論沖突的動(dòng)機(jī),將政治人物的臉部圖像嫁接或處理、生成不正確內(nèi)容的音視頻[13]。

作為娛樂(lè)型的AI換臉有助于平凡者將自己的臉更換到喜劇人物、公眾人物甚至杰出人物的身上,這一類型的AI換臉具有角色狂歡、自我表演并力圖開(kāi)啟走向虛擬世界的主體歷程,力圖在虛擬的邊界中建立自我[13]。根據(jù)筆者的調(diào)查,就娛樂(lè)類AI換臉而言,大多數(shù)人可以接受的是私下小范圍的娛樂(lè)性換臉,即使如此,絕大多數(shù)人仍然難以接受性別變化的AI換臉,即將臉換到異性身體上。當(dāng)然,無(wú)論哪種類型的換臉,行動(dòng)者都因此被別人支配而喪失了虛擬世界的數(shù)字主體性。AI換臉猶如戴面具一樣,不但割裂了身體與臉的聯(lián)系,而且可能混亂社會(huì)秩序。在現(xiàn)實(shí)世界中,戴面具的人讓他者無(wú)法判斷臉、身體和行為之間的一致性。在虛擬世界中,非法AI換臉混淆人臉,導(dǎo)致人們無(wú)法把控臉和身體的聯(lián)系,由于自我的行動(dòng)已經(jīng)被他者控制、進(jìn)而混亂了人的身份,一旦發(fā)生違法行為,就會(huì)引發(fā)社會(huì)秩序的混亂。如果將現(xiàn)實(shí)生活中行動(dòng)者A的臉更換給B主體,A主體就無(wú)法控制其在虛擬世界中的行動(dòng),這樣一來(lái),A行動(dòng)者的主體性就喪失了。隨著生成式人工智能、虛擬人技術(shù)和元宇宙的不斷發(fā)展,非法AI“換臉”帶來(lái)的問(wèn)題將越來(lái)越多。

4.2 非法AI換臉帶來(lái)不可遏制的惡

“刷臉”是人機(jī)合作的治理行為,“刷臉”治理有強(qiáng)制性的,也有非強(qiáng)制性的,比較而言,前者更有可能產(chǎn)生違法問(wèn)題。之所以提出要禁止非法AI換臉是因?yàn)樗赡墚a(chǎn)生不可遏制的惡。

一是利用AI非法換臉形成視覺(jué)壓迫,破壞生活原則。一些非法AI換臉者從社交平臺(tái)獲得個(gè)人的照片、視頻和其他文檔,利用技術(shù)生成與真人一樣的視頻,然后以“眼見(jiàn)為實(shí)”的方式讓一些人上當(dāng)受騙;非法換臉者操控視覺(jué)世界,試圖徹底埋葬“眼見(jiàn)為實(shí),耳聽(tīng)為虛”的原則,形成了巨大的視覺(jué)壓迫,生活世界可能因此變得“魔幻”。非法AI換臉帶給人們深刻的教訓(xùn):你看到的是我想讓你看到的,你聽(tīng)到的是我想讓你聽(tīng)到的,從而徹底擊垮了人們的判斷能力,致使人們對(duì)其判斷能力失去自信、變得怯弱,轉(zhuǎn)而尋求幫助。非法AI換臉等深度偽造技術(shù)對(duì)全球商業(yè)、政治和司法系統(tǒng)都將構(gòu)成威脅,篡改證據(jù)成為深度偽造在司法系統(tǒng)中構(gòu)成的主要威脅之一;只有提高檢測(cè)技術(shù)、制定有效的刑事解決方案才能提高證據(jù)的可信度。

二是非法AI換臉傳播色情,破壞社會(huì)道德。基于非法目的制造和傳播色情視頻是非法AI換臉的主要目標(biāo)。或者說(shuō),這是非法AI換臉者利用人性弱點(diǎn)試圖制造新的“色情陷阱”。2023年5月,福建、浙江、蘇州等地的不法分子用AI換臉發(fā)送個(gè)人不雅照、以換臉視頻聊天騙取信任等方式實(shí)施詐騙,涉及金額巨大[28]。2023年6月,虞某某從互聯(lián)網(wǎng)公共空間非法獲取眾多人臉信息,利用AI換臉等深度合成技術(shù)非法處理、制作淫穢視頻后在超過(guò)2 000人的社交軟件群組傳播,蕭山區(qū)檢察院對(duì)此進(jìn)行了嚴(yán)格處理[29]。多年來(lái),美國(guó)和英國(guó)的立法機(jī)構(gòu)一直在尋求網(wǎng)絡(luò)騷擾的解決方案,許多司法管轄區(qū)將“復(fù)仇色情”定為刑事犯罪。由于非法AI換臉制造的色情視頻量大,對(duì)社會(huì)道德產(chǎn)生的沖擊也很大。

三是非法AI換臉破壞政治秩序,導(dǎo)致社會(huì)混亂。在政治層面,人們擔(dān)心的是,深度偽造特別是AI換臉帶來(lái)的深度虛假信息會(huì)引發(fā)社會(huì)混亂、曲解政治觀點(diǎn)和政治事件,進(jìn)而會(huì)威脅國(guó)家安全、選舉程序及政治家的聲譽(yù)[30]。深度偽造技術(shù)存在侵害民族國(guó)家安全的隱患,在一定程度上引發(fā)公眾對(duì)于國(guó)家民主的質(zhì)疑,引發(fā)官員焦慮;它還以一種諷刺方式突出國(guó)家安全精英的缺陷[31]。特別需要注意的是,由于深度偽造是新興人工智能技術(shù),沒(méi)有專門的法律對(duì)其規(guī)制,在應(yīng)用過(guò)程中極易出現(xiàn)侵犯公民合法權(quán)益、威脅社會(huì)公共安全、破壞國(guó)家秩序甚至國(guó)際秩序等問(wèn)題[32]。如果任意讓AI非法換臉普及,那么未來(lái)真正的問(wèn)題不是個(gè)別的深度造假或廉價(jià)造假,而是虛假信息生態(tài)系統(tǒng)的整體形成[33]。可以說(shuō),非法AI換臉的普及可能破壞整個(gè)社會(huì)政治秩序。2019年9月,德克薩斯成為第一個(gè)將意圖傷害政治候選人或影響選舉的深度假視頻定為犯罪的州[34]。

四是削弱信用根基,形成“說(shuō)謊者紅利”。在現(xiàn)實(shí)生活中,非法AI換臉的“成功”詐騙,沖擊了親情和友情,削弱了社會(huì)信用根基。對(duì)個(gè)人而言,非法AI換臉侵犯肖像權(quán)、名譽(yù)權(quán)、身份、尊嚴(yán)與情感,是對(duì)個(gè)人信用的徹底破壞。對(duì)社會(huì)、政府乃至國(guó)家而言,非法AI換臉損害企業(yè)利益、扭曲政策辯論、操縱選舉、侵蝕信任、可能加劇社會(huì)分裂、損害國(guó)家安全以及破壞國(guó)際關(guān)系。所以,以人臉為對(duì)象造假,不僅會(huì)導(dǎo)致泄露個(gè)人身份信息,而且?guī)?lái)社會(huì)失信,進(jìn)而形成政治、經(jīng)濟(jì)、社會(huì)、文化和倫理等方面的信用危機(jī)。特別需要指出的是,深度造假使說(shuō)謊者更容易逃避問(wèn)責(zé),形成“說(shuō)謊者紅利”[12]。

雖然深度合成技術(shù)可應(yīng)用到影視、醫(yī)療、教育、媒體和電子商務(wù)等領(lǐng)域,具有多重商業(yè)和社會(huì)價(jià)值[32],但非法AI換臉一出生時(shí)就帶著原罪,包括侵害個(gè)人肖像權(quán)、嵌入色情視頻、考驗(yàn)人性甚至擾亂社會(huì)秩序等。非法AI換臉技術(shù)激活了一些社會(huì)主體的欲望,被個(gè)人、利益集團(tuán)和不法分子利用并成為做惡工具,這需要加大力度打擊。但基于“工具理性”的、針對(duì)深度偽造技術(shù)的控制,無(wú)法從源頭解決技術(shù)濫用問(wèn)題。只有重塑社會(huì)信任關(guān)系才能有效緩解虛假信息對(duì)公眾信念的影響[35]。那么如何才能重塑人工智能時(shí)代的社會(huì)信用關(guān)系呢?禁止非法AI換臉是一個(gè)重要且直接的路徑。

4.3 非法AI換臉帶來(lái)系統(tǒng)性的監(jiān)管沖擊

在人工智能時(shí)代,AI換臉問(wèn)題已經(jīng)引起了相關(guān)部門的重視。在我國(guó),一些法律法規(guī)為監(jiān)管非法AI換臉提供了依據(jù)。《個(gè)人信息保護(hù)法》將生物識(shí)別、宗教信仰、特定身份、醫(yī)療健康、金融賬戶、行蹤軌跡等信息,以及不滿14周歲未成年人的個(gè)人信息,歸為敏感個(gè)人信息。臉作為敏感信息適用《個(gè)人信息保護(hù)法》。《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》要求,深度合成服務(wù)提供者提供人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個(gè)人身份特征的編輯服務(wù),可能導(dǎo)致公眾混淆或者誤認(rèn)的,應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí),向公眾提示深度合成情況[2]。

盡管如此,理論界還是存在諸多擔(dān)憂。一方面,傳統(tǒng)的監(jiān)管體系很難有效監(jiān)管深度偽造技術(shù),也無(wú)法有效保障公民個(gè)人信息安全,而且在信息時(shí)代,僅僅依靠行政部門顯然無(wú)法實(shí)現(xiàn)全面監(jiān)管[32];另一方面,深度偽造創(chuàng)建音視頻的速度超過(guò)了人工智能檢測(cè)此類視頻的能力[36]。對(duì)于AI換臉帶來(lái)的社會(huì)問(wèn)題,權(quán)威媒體大聲呼吁:人臉怎能“想換就換”?有關(guān)部門對(duì)那些未經(jīng)肖像權(quán)人同意的“換臉”、詐騙行為,應(yīng)該重拳出擊、嚴(yán)厲打擊[37]。禁止非法AI換臉獲得了媒體的支持。在我國(guó),2023年7月,《生成式人工智能服務(wù)管理暫行辦法》頒布并于2023年8月15日起施行。該辦法指出,國(guó)家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則,采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展,對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分級(jí)分類監(jiān)管;同時(shí)要求提供和使用生成式人工智能服務(wù),應(yīng)當(dāng)遵守法律、行政法規(guī),尊重社會(huì)公德和倫理道德。筆者認(rèn)為,對(duì)生成式人工智能服務(wù)采取包容審慎和分級(jí)分類的監(jiān)管策略非常必要,但嚴(yán)格依法監(jiān)管非法AI換臉同樣重要。由于非法AI換臉的應(yīng)用范圍大,特別是它的一些負(fù)面應(yīng)用迎合了部分人的不良需求,所以嚴(yán)厲禁止非法AI換臉十分必要。

4.4 非法AI換臉損害了人工智能的聲譽(yù)

對(duì)于何為智能,人們的認(rèn)識(shí)是不一致的。在16世紀(jì),對(duì)智能的理解就是交換信件或者信號(hào)。托馬斯·埃利奧特寫(xiě)道:“現(xiàn)在Intelligence作為一個(gè)文雅的說(shuō)法,用來(lái)表示通過(guò)相互交換信件或者口信達(dá)成協(xié)議或者約定。”[38]引子41956年,麥卡錫將人工智能定義為制造智能機(jī)器的科學(xué)與工程;或者將AI解釋為Automation of Intelligence[39]。何懷宏認(rèn)為,人工智能就是人造的機(jī)器通過(guò)不斷學(xué)習(xí)、自我改良,尋求更優(yōu)良的算法來(lái)處理和解決認(rèn)知與控制的問(wèn)題[40]。隨著ChatGPT等生成式人工智能的普及,人們對(duì)強(qiáng)人工智能的認(rèn)識(shí)分歧正在加大。霍金、馬斯克等人都認(rèn)為人工智能的危險(xiǎn)非常大,但更多的人認(rèn)為人工智能風(fēng)險(xiǎn)可控。其實(shí),人們是否信任人工智能取決于它們所展示的社會(huì)功能,而不僅是人們對(duì)智能以及人工智能的定義。

很多人習(xí)慣地認(rèn)為,所有的技術(shù)都是一把“雙刃劍”,但我們不能認(rèn)同技術(shù)是“雙刃劍”的辯證式提法。在應(yīng)用過(guò)程中,技術(shù)之所以體現(xiàn)出正反兩方面的功能,是不同的人使用的結(jié)果。本質(zhì)上,與其說(shuō)技術(shù)是一把“雙刃劍”,還不如說(shuō)人性有善惡兩面,將技術(shù)視為“雙刃劍”是將人的惡性轉(zhuǎn)嫁到技術(shù)身上的“狡計(jì)”,技術(shù)的“惡性”主要是因?yàn)槿诵缘膼涸诩夹g(shù)使用過(guò)程中得到了張揚(yáng)。如果不嚴(yán)厲禁止非法AI換臉,就很難阻止AI換臉技術(shù)與人性的惡的高度結(jié)合,依托被抓取的人臉信息和AI換臉技術(shù),敲詐勒索、電信網(wǎng)絡(luò)詐騙、網(wǎng)絡(luò)暴力等違法犯罪活動(dòng)更易發(fā)生[41]。非法AI換臉?biāo)鶐?lái)的危害超出了人類的理性判斷、觀察與預(yù)料,非法AI換臉的危害既不可控又不透明,還會(huì)引發(fā)人們的不安——現(xiàn)在,一些人誤以為是人工智能搶走了他們的工作、騙空了他們的口袋、破壞了他們和家人的關(guān)系、損害了無(wú)辜人的聲譽(yù)。如果非法AI換臉全面“搞壞”了全球政治、經(jīng)濟(jì)、社會(huì)和文化的基礎(chǔ),那么必然影響人工智能技術(shù)的社會(huì)信譽(yù)。因此,禁止非法AI換臉理所當(dāng)然。

5 結(jié)論與展望

人類已經(jīng)走進(jìn)數(shù)智時(shí)代,數(shù)字化、智能化既是技術(shù)創(chuàng)新的方向,又是人類社會(huì)發(fā)展的方向。于我國(guó)而言,數(shù)字化、智能化會(huì)持續(xù)較長(zhǎng)時(shí)間并且日益成為人們生活的重心。在數(shù)智技術(shù)不斷創(chuàng)新發(fā)展并與社會(huì)生產(chǎn)生活日益融合的過(guò)程中,人的數(shù)字化問(wèn)題非常值得重視。隨著深度合成社會(huì)的來(lái)臨,深度偽造技術(shù)對(duì)個(gè)人和社會(huì)所產(chǎn)生的沖擊不斷增大,特別是AI換臉的非法使用不斷加重社會(huì)治理的責(zé)任。本文的直接目的是回應(yīng)非法AI換臉引發(fā)的社會(huì)治理問(wèn)題,希望公共管理領(lǐng)域加大對(duì)人的數(shù)字化問(wèn)題、臉與公共秩序建構(gòu)問(wèn)題的關(guān)注力度。本文探討的是“基于臉的治理”和“對(duì)于臉的治理”兩方面的問(wèn)題。首先,從歷史視角解讀了臉的社會(huì)化、市場(chǎng)化和數(shù)字化三種社會(huì)發(fā)展形態(tài)及其局限;其次,對(duì)“刺臉”和“刷臉”進(jìn)行了描述并界定了其邊界;最后,從社會(huì)治理價(jià)值方面提出了禁止非法AI換臉的四重緣由。本文的創(chuàng)新性在于:從公共管理的視角,基于臉的治理歷史及其邊界考察了刺臉、刷臉與換臉問(wèn)題,基本觀點(diǎn)有以下三個(gè)。其一,在人工智能時(shí)代,數(shù)字化和智能化是一股巨大的轉(zhuǎn)型力量;產(chǎn)業(yè)數(shù)字化和數(shù)字產(chǎn)業(yè)化是數(shù)字化轉(zhuǎn)型中的重要領(lǐng)域,人的數(shù)字化問(wèn)題同樣需要引起理論界和實(shí)踐界的關(guān)注[42]。其二,在我國(guó)社會(huì)發(fā)展過(guò)程中,“刺臉”與“刷臉”都曾被社會(huì)質(zhì)疑或反對(duì);我國(guó)有重視臉的傳統(tǒng)文化,失去面子是對(duì)一個(gè)人尊嚴(yán)的最大損害,基于臉可以美化但不可以更換的樸素觀念,禁止非法AI換臉是一種文化要求。其三,非法AI換臉導(dǎo)致行動(dòng)者數(shù)字主體性的喪失,帶來(lái)了道德層面、監(jiān)管層面和社會(huì)信用層面的問(wèn)題,禁止非法AI換臉有利于保護(hù)人工智能的信譽(yù)。

對(duì)于AI換臉問(wèn)題,筆者的政策建議是:在社會(huì)生活領(lǐng)域,作為娛樂(lè)工具的AI換臉僅限于私人空間使用;在特定的經(jīng)濟(jì)文化領(lǐng)域,AI換臉需要依法有序使用;在政治、經(jīng)濟(jì)或者社會(huì)領(lǐng)域,非法AI換臉必須禁止。隨著生成式人工智能、通用人工智能技術(shù)的不斷發(fā)展,人的數(shù)字化問(wèn)題必然隨之凸顯。雖然包容審慎依然是監(jiān)管新經(jīng)濟(jì)業(yè)態(tài)和新技術(shù)的基本原則,但在現(xiàn)實(shí)世界,如何監(jiān)管智能機(jī)器人在不同社會(huì)領(lǐng)域中的應(yīng)用是非常重要的問(wèn)題;在虛擬世界,特別是在虛實(shí)融合的元宇宙時(shí)代來(lái)臨后,不同形態(tài)的數(shù)字人及其在多場(chǎng)景中的應(yīng)用將產(chǎn)生大量的社會(huì)治理問(wèn)題。在公共管理領(lǐng)域,研究者只有不斷加大對(duì)人的數(shù)字化問(wèn)題的研究并提出系統(tǒng)性的監(jiān)管理論,才能為人工智能技術(shù)應(yīng)用創(chuàng)新、數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展提供理論支持。