“ZAO”背后的社會管理難題

王四新

剛上線的換臉軟件“ZAO”一夜爆紅，同時也帶來很多爭議。除容易想到的版權、肖像權問題之外，還引發人們對用戶隱私和數據安全的擔憂。而隱私和個人數據安全出問題的話，又會產生社會管理問題。剛開始大家可能更多關注的是它對用戶產生的影響，而用戶使用軟件過程中又可能對第三方產生大規模侵權，并引發更多的社會管理問題。

雖然目前它已經修改了用戶協議中過度使用“肖像權”的內容，但這并不能解決它所存在的安全問題。換句話說，能不能有效保護消費者的隱私和數據安全不是通過用戶協議來實現的，用戶協議只是一個方面，更關鍵的問題是用戶協議如何落實。用戶數據的使用方式和保護方式，也非常重要。如果不對其進行有效監管，很可能會出現數據被非法使用并對消費者產生更多次生災害的情況。此外，隨著平臺用戶和數據的增多，平臺網絡安全措施是否足以應對用戶激增以后產生的管理風險，也是一個問題。

社會管理的有效進行，建立在可以對行為的實施者進行識別并對之進行追蹤的基礎上的。政府可以運用社會的認證體系提升行為人的責任意識，可以利用證據等找到真正的罪犯或者說實施者，這是社會管理得以運行的基礎。這類App很容易產生深度偽造（deepfake）的現象，以假亂真的視頻、音頻挑戰了公眾“眼見為實”認知，也挑戰著現有社會管理的基礎。從這個軟件使用的情況來看，如果不嚴格限定其使用范圍和使用方式，它完全有可能為各種各樣的違法者提供技術上的便利，并給政府的有效監管帶來意想不到的挑戰。

實際上，對于類似的新技術新應用我們國家是有相關規定的，國家互聯網信息辦公室對新技術新應用，尤其是具有新聞屬性和社會動員功能的新技術新應用，需要在上線之前進行安全評估。這個軟件具有很明確的社交功能和社交訴求，將其納入評估范圍是沒有任何問題的。不清楚這個軟件有沒有進行安全評估，如果沒有評估，非常有必要對其啟動安全評估程序。

當然我們也不必過于悲觀，通過監管部門的嚴格監管和企業社會責任的認真履行，“ZAO”所引發的擔憂，是可以得到緩解甚至從根本上解決的。將新技術真正納入到法治、人文、倫理的框架內，是能更好地服務于社會的。▲（作者是中國傳媒大學政法學院副院長、教授）