濫用“深度偽造”的危害

劉輝

“深度偽造”技術能夠實現“一鍵換臉”

“事前規制”畫“紅線”

今年3月，國家網信辦和公安部依法約談11家互聯網企業，督促其加強對語音社交軟件和涉及“深度偽造”技術的互聯網新技術、新應用的安全評估，完善風險防控機制和措施，并對發現的安全隱患及時采取有效的整改措施。

不同于“事后監管”，此次安全評估和約談給有關的互聯網新技術、新應用提前畫下“紅線”。“事前規制”有利于企業及時發現安全隱患，整改安全問題。

下一步，國家網信辦、公安部將繼續指導各地網信部門和公安機關，加大巡查檢查力度，督促屬地互聯網企業嚴格遵守相關法律法規，積極主動盡到安全管理義務，切實履行企業主體責任，共同維護網絡傳播秩序，營造良好的網絡生態。

這不是國家有關部門首次關注網絡虛擬現實技術所引發的問題。早在2019年12月，國家網信辦、文化和旅游部、廣播電視總局就聯合印發了《網絡音視頻信息服務管理規定》（簡稱《規定》）。《規定》中多次提及基于“深度學習”“虛擬現實”等新技術、新應用的音視頻。

《規定》強調，網絡音視頻信息服務提供者和使用者，利用“深度學習”“虛擬現實”等新技術、新應用制作、發布、傳播非真實音視頻信息的，應當以顯著方式予以標識，不得利用“深度學習”“虛擬現實”等新技術、新應用制作、發布、傳播虛假新聞信息。

監管部門針對涉及“深度偽造”技術的新應用頻頻出手，讓更多的公眾意識到這一技術背后潛藏的安全隱患。

侵犯公民合法權益

科學技術的發展必須堅持以人為本這一基本原則，一旦偏離這一主軸，就有可能陷入倫理危機，甚至是合法性危機。就“深度偽造”技術而言，其濫用將對公民個人的合法權益產生不利影響，主要體現在以下幾個方面：

一是侵犯公民的隱私權。在司法實踐中，通過個案裁決的方式使得一些具體的隱私利益得到保護，如個人的電話號碼、生理缺陷、身體隱私等。另外，曾經被公開的隱私仍可獲得隱私保護。

“深度偽造”技術被濫用，尤其是用于制作色情視頻，將直接侵犯公民的性隱私。

二是侵犯公民的名譽權。名譽權是一種非財產性權利，受害人可以主張精神損害賠償。在我國的司法實踐中，侵害名譽權的構成要件包括：一是行為人的行為違法，包括侮辱行為、誹謗行為及其他違法行為;二是受害人確有名譽被損害的事實，即受害人社會評價的降低;三是違法行為與損害后果之間有因果關系;四是行為人主觀上有過錯。

“深度偽造”技術被濫用，無論是偽造色情視頻，還是偽造虛假新聞，都可能造成個人的社會評價降低，對名譽權產生侵害。

三是侵犯公民的肖像權。肖像權是一種重要的人格權，我國《民法典》《婦女權益保障法》《侵權責任法》等皆對肖像權保護作出了明文規定。

“深度偽造”技術被濫用，主要是將人臉進行“移花接木”，無論是色情視頻還是虛假新聞、虛假廣告，都可能對公民的肖像權造成侵害。

隨著“深度偽造”技術的廉價化和易用化，其對肖像權和隱私權的侵害不斷被放大。借助一些低價乃至免費的軟件，人們不需要具備專業知識和技術能力，即可通過終端實現調整播放速度、優化視頻效果、更換背景、“換臉”等操作。這在一定程度上成為色情視頻的源頭。

眼見不為實

在國外就有這樣的案例：2019年，美國出現了一鍵生成裸照軟件DeepNude，只要輸入一張完整的女性照片，就可自動生成其裸照。受害者通常難以防范，照片上傳到網絡之后會很快傳播。這種極易生成的色情內容將在很大程度上損害女性的職業前途、人際關系、名譽和心理健康，污名化女性，成為不法分子實施色情報復的工具。

四是侵犯公民的聲音權。目前我國涉及聲音利益保護的主要是《民法典》人格權編，即“其他人格權的許可使用和自然人聲音的保護，參照適用本章的有關規定”。

“深度偽造”技術的濫用，除了前文提到的人臉替換以外，還有聲音替換或合成的情況出現，這明顯妨害了個人對于其聲音利益的支配，且有可能引發更多的風險。

損害企業商業信譽

信用是市場經濟得以正常運行的基礎。企業要在激烈的市場競爭中立于不敗之地，就必須努力提高并維持自身的商業信譽。所謂商業信譽，是指社會對企業之生產、產品、銷售、服務等多方面的綜合評價，反映的是企業的總體商業形象。從法學角度看，企業商業信譽保護往往關涉法人權利這一議題，理論界通常將其稱為商譽權。

“深度偽造”技術所體現的高度真實性，可能使其成為個人或組織抹黑企業的重要工具。“深度偽造”視頻可能描述企業的某位高管實施諸多違反法律、道德的行為，或發表歧視性言論、與他人發生不正當關系、賄賂官員等。包含不良信息的“深度偽造”視頻，可能在企業經營過程中的一些關鍵時刻被發布，例如并購談判、首次公開募股、參與招投標等。即使這些“深度偽造”視頻最終被證實是假的，但是一旦企業的合作伙伴采取“寧可信其有，不可信其無”的態度，那么對于企業而言不僅會造成商業信譽的損害，更會導致商業機會的流失，甚至使企業資產大幅縮水。

目前在國內外尚未出現因“深度偽造”視頻導致企業商業信譽受損的案例。但這不能說明不法分子沒有把目光投向企業。據美國《華爾街日報》報道，2019年3月，有犯罪分子利用“深度偽造”技術成功模仿英國某能源公司CEO的聲音，詐騙了22萬歐元。這是一起利用“深度偽造”技術侵害企業利益的典型案例，這種技術被濫用的破壞性可見一斑。

威脅社會公共安全

公共安全治理是社會治理的重要內容，也是對政府執政能力的重要考驗。無論是推進國家治理能力和治理體系現代化，還是構建政治、自治、德治、法治、智治“五治融合”的社會治理格局，其重要目標均是全力推進平安中國建設。

近年來，隨著互聯網、AI的快速發展，公共安全治理的范圍已經發生了巨大的變化，網絡空間的安全與公共安全的碰撞和融合也越來越頻繁，越來越重要。

“深度偽造”技術以互聯網為重要依托，將現實與虛擬融合在一起，既是網絡安全治理的重要內容，也是公共安全治理的重要對象。

“深度偽造”具備高效率、低門檻、高質量的技術優勢，使得普通人能夠輕松地進行聲音、圖像、視頻的偽造，再加上互聯網提供的高速傳播通道，很容易引發公共安全風險，主要體現在以下兩個方面：

一是破壞社會信任。社會信任是公共安全的重要條件。一個社會要平穩有序地運行，就必須建立起堅實的信任體系。信任一旦崩塌，將會使社會生態惡化。

“深度偽造”技術可以讓虛假的信息以“高度可信”的方式呈現給社會公眾，從而操縱公眾的情緒反應，引發社會上廣泛的不信任。

美國學者切斯尼認為，當網絡信息環境與個人的認知偏見以有害的方式相互作用時，真相就會逐漸在思想市場中衰退。“深度偽造”技術將使這一問題更加嚴重。當社會公眾意識到“深度偽造”被大范圍濫用，而個人又無從辨別真假時，將可能形成對任何圖像、視頻的不信任，這無疑會極大地沖擊新聞媒體、政府機構的公信力，引發嚴重的社會信任危機，進而危及公共安全。

二是加劇社會分化。社會分化是影響公共安全的重要因素。“深度偽造”技術的濫用，將有可能加劇社會分化。某些“深度偽造”視頻可能描述不同階層之間的沖突。“深度偽造”的技術優勢，讓社會公眾很難辨別這些視頻或信息的真偽，再加上某些領域信任度下降的現實，原有的社會問題可能被放大，最終危及社會公共安全。