網上有害信息治理的國際經驗及啟示

梅鵬超 王鵬遠

習近平總書記指出：“網絡空間是億萬民眾共同的精神家園。網絡空間天朗氣清、生態良好，符合人民利益；網絡空間烏煙瘴氣、生態惡化，不符合人民利益。”互聯網的發展推動了全球政治、經濟與文化的交流和共享，改善了人們的生產生活方式，但同時也給有害信息的滋生和蔓延提供了條件。因此，加強網上有害信息治理，已然成為凈化網絡生態，維護國家網絡空間安全和政治穩定，保障人民群眾切身利益的重要工作。近年來，以歐盟、美國等為代表的發達經濟體在治理網上有害信息方面進行了有益實踐。研究學習這些經驗做法，對于推動我國網上有害信息治理工作的開展具有積極意義。

做法

1.加強網絡社交平臺監管

2018年1月1日，德國《社交媒體管理法》正式實施，對包括臉書、推特等提供內容服務的社交網絡平臺提出了嚴格的監管要求。根據該法，在德國擁有200萬以上用戶的社交網絡平臺須自行承擔清理其平臺上涉及誹謗、詆毀和暴力煽動內容的責任，且必須在7天內刪除用戶舉報的非法內容，明顯的違法言論需在舉報后24小時內刪除或屏蔽，爭議言論也必須在舉報后7日內作出處理，否則將面臨最高達5000萬歐元的罰款[1]。2019年4月，英國發布了《在線社交媒體平臺行為準則》和《網絡危害白皮書》（簡稱《白皮書》），要求強化社交網絡平臺的自我監管，倡導社交媒體平臺承擔在其平臺上發布的不良言論的監管責任。《白皮書》主要針對允許用戶自主創作并分享內容的網絡平臺，包括推特、臉書、Instagram、論壇、網盤以及搜索引擎等，強制要求社交媒體網站刪除包含暴力、虛假信息及網絡欺凌等在內的有害內容。《白皮書》還指出，英國政府將立法規定社交媒體公司應履行的法律義務，同時成立一個獨立的監管機構，負責監管社交媒體，它將有權對違法的公司開出巨額罰單、要求其關閉網頁，甚至追究公司高管的個人責任[2]。

2.嚴厲打擊網上虛假信息

2018年7月，法國通過《反假新聞法》，旨在更有效地阻止假新聞的傳播。2018年9月26日，歐洲主要線上平臺、社交媒體巨頭、廣告主和廣告經營者聯合發布歐盟首份《反虛假信息行為守則》，以應對假新聞和網絡虛假信息，其中將“虛假信息”定義為可驗證的虛假或具有誤導性的信息，系出于謀取經濟利益或故意欺騙公眾的目的，而被創造、展示和傳播的以及可對公眾造成損害、對民主政治和決策過程、公共利益（如歐盟公民的健康、環境或安全等）產生威脅的信息[3]。2018年12月，美國參議員提出《2018年惡意偽造禁令法案》，旨在規范制作并散布深度偽造內容引發犯罪和侵權行為的個人，以及明知內容為深度偽造還繼續分發的平臺。2019年6月28日，美國參眾兩院提出一項名為《深度偽造報告法》（Deepfake Report Act）的兩黨合作法案，目的在于減少使用人工智能（AI）技術操縱原創視頻內容的“深度偽造（Deepfake）”視頻的危害。根據該法案，“深度偽造”視頻是指利用人工智能技術對真實內容進行超現實的數字化篡改，使之成為并未真實發生的事情。2019年9月，美國通過名為《識別對抗生成網絡輸出法案》（IOGAN法案）的立法，要求國家科學基金會（NSF）和國家標準與技術研究所（NIST）加快對被操縱的具有破壞性的視頻進行檢測，以打擊日益猖獗的深度偽造技術。

3.重點整治網上極端主義思想和內容

2017年5月，七國集團峰會（G7 Summit）在意大利陶爾米納舉行。七國集團發表聲明，呼吁互聯網服務提供商和社交媒體巨頭采取行動打擊極端分子的在線內容，并鼓勵行業立即開發并分享新技術和工具，以提升自動檢測暴力煽動內容的能力。2017年9月，原英國首相特蕾莎·梅在與臉書、微軟、推特及谷歌等公司的一次會議上敦促與會企業持續更新探測和消除有害信息的技術，并要求大型互聯網公司在2小時內自動刪除恐怖主義內容。2019年4月，歐洲議會通過《關于解決在線傳播恐怖主義內容的規則》，規定如果臉書、谷歌以及推特等網絡、社交公司不能在被監管部門要求后的1小時內移除極端主義內容，可向它們征收多達全球營業收入4%的罰款[4]。2019年5月15日，多個國家政府首腦、部門主管以及科技企業代表在巴黎舉行特別會議，共同商討有關防止社交媒體傳播極端主義的議題。會議發布了“克賴斯特徹奇呼吁”，要求政府和在線服務提供商集體地且自愿地承諾消除恐怖主義、極端主義和暴力內容，以防止互聯網被濫用。據悉，已有加拿大、澳大利亞、英國、新西蘭、德國、法國、歐盟委員會、印度尼西亞、印度、愛爾蘭、意大利、日本、約旦、荷蘭、挪威、塞內加爾、西班牙和瑞典等國家及國際政府以及臉書、谷歌、推特、亞馬遜、微軟、Daily Motion、Qwant和YouTube8家科技公司在這份呼吁上簽字[5]。

特點和趨勢

1.技術過濾成為主流趨勢

近年來，西方國家主要社交媒體越來越重視運用人工智能、語音識別及圖片視頻識別等新技術手段來過濾網上有害信息。2015年3月，推特推出一項名為“質量過濾器”（Quality filter）的測試功能，聲稱能夠刪除限定時間內所有包含威脅、攻擊性、虐待的信息或者從可疑賬號發送的信息[6]。2018年9月，谷歌發布人工智能工具“內容安全應用程序界面”（Content Safety API），用于識別網上兒童性侵圖片。據稱該技術能幫助審查人員識別出與無此技術相比多700%的兒童性侵犯內容。同年10月，臉書宣稱公司借助自動標注識別圖片工具累計刪除870萬張兒童色情圖片，同時開發出了一款代號為“Rosetta”的新型人工智能系統，可用于檢測仇恨性言論。

2.設立專門機構并強化跨國合作

2016年12月，德國宣布成立“假新聞防御中心”，該中心由聯邦新聞辦公室組建，專門打擊虛假新聞。2017年10月，英國撥款組建打擊網絡仇恨的專職部門，處理針對少數群體的網絡侮辱和謠言、謾罵。2017年4月，來自歐盟和北約的9個國家在芬蘭赫爾辛基聯合簽署成立“混合威脅”中心，以應對網絡攻擊和其他新興領域威脅，如故意散布傳播的虛假消息等。美國、英國、法國、德國、瑞典、波蘭、芬蘭、拉脫維亞和立陶宛成為首批成員。2018年2月，美國國務院宣布已經與國防部簽訂協議，將從國防部獲得4000萬美元以加強其所屬全球作戰中心打擊外國宣傳和虛假信息的工作。據了解，全球作戰中心成立于2016年4月，是奧巴馬任美國總統期間設立的揭露和反擊外國虛假宣傳的辦公室。

3.服務于政治目的

網上有害信息嚴重損害了國家領導人的政治形象，給選舉帶來重大威脅。法國2018年頒布的《反假新聞法》，旨在遏制選舉期間出現的虛假新聞，打擊境外勢力“操縱新聞”的企圖。2019年5月，加拿大出臺的《數字憲章》宣稱，加拿大的政府將捍衛言論自由、防范旨在破壞選舉和民主制度完整性的網絡威脅和虛假信息[7]。2019年9月，美國加利福尼亞州通過一項舉措，禁止居民和各類組織在選舉后60天內分享政治候選人的虛假視頻。美國國會公開表示將在2020大選之前對深度偽造技術進行調查，并推進立法行動。

啟示和建議

網上有害信息治理已經成為維護國家政治安全穩定的重要工作。據《人民日報》消息，2019年1月至6月12日，國家網信辦累計清理淫穢色情、賭博詐騙等有害信息1.1億余條，注銷各類平臺中傳播色情低俗、虛假謠言等信息的違法違規賬號118萬余個，關閉、取消備案網站4644家[8]，凸顯我國網上有害信息治理工作的嚴峻形勢。雖國情不同，但西方國家的一些做法和經驗或可為我們提供一些治理思路。

1.持續推進網上有害信息法制體系的完善和健全

近年來，我國關于網上有害信息治理的法律法規密集出臺。僅2017年、2018年兩年間出臺的相關法律規定便有《互聯網跟帖評論服務管理規定》《互聯網用戶公眾賬號信息服務管理規定》《互聯網新聞信息服務單位內容管理從業人員管理辦法》《互聯網新聞信息服務新技術新應用安全評估管理規定》《微博客信息服務管理規定》和《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》等。2019年以來，國家互聯網信息辦公室又陸續印發《區塊鏈信息服務管理規定》《金融信息服務管理規定》《網絡音視頻信息服務管理規定》和《網絡信息內容生態治理規定》等文件，不斷推動網上有害信息治理法制體系的健全完善。值得一提的是，2019年12月15日發布的《網絡信息內容生態治理規定》明確提出，網絡信息內容服務平臺應堅持主流價值導向，鼓勵網絡信息內容生產者制作、復制、發布含有“宣傳習近平新時代中國特色社會主義思想，全面準確生動解讀中國特色社會主義道路、理論、制度、文化”和“弘揚社會主義核心價值觀，宣傳優秀道德文化和時代精神，充分展現中華民族昂揚向上精神風貌”等內容的正能量信息，同時列舉了網絡信息內容生產者不得散布傳播的11類違法信息和9類不良信息[9]。2019年11月29日發布的《網絡音視頻信息服務管理規定》提出，網絡音視頻信息服務提供者和網絡音視頻信息服務使用者不得利用基于深度學習、虛擬現實等的新技術新應用制作、發布、傳播虛假新聞信息[10]。以上法律規范共同構建了我國網上有害信息治理的法制體系，為網上有害信息治理工作的開展提供了有力保障。未來，相關部門仍需緊密圍繞網信事業發展大局和互聯網新技術新應用發展趨勢，持續推進網上有害信息法制體系的完善和健全，不斷扎緊網上有害信息治理的制度籠子。

2.重點整治極端主義等威脅國家社會安全穩定的有害信息

網上有害信息類目繁多，要抓住突出問題和主要矛盾，精準發力、重點打擊，集中力量整治清理影響和危害最大的有害信息。從近年來國內外安全形勢和國際網上有害信息治理運動發展情況來看，網上極端主義思潮和內容的肆意傳播，已經成為危害國家安全和人民群眾安全的關鍵問題。我國也必須未雨綢繆、居安思危、嚴陣以待，將網上極端主義思潮治理作為有害信息治理的重中之重，全面排查其在我國網上的傳播情況、傳播途徑及傳播手法。建立網上極端主義打擊機制，組建網上極端主義打擊力量，強化反極端主義教育宣傳。對散布傳播極端主義內容的個人、組織，對刪除極端主義內容不及時、不作為的平臺、企業，要施以嚴厲懲罰。

3.強化互聯網企業主體責任，推動行業自律

互聯網平臺是有害信息產生、傳播的主要場所。互聯網平臺企業在網上有害信息治理工作中必須承擔起主體責任。一要加強互聯網企業的剛性約束。監管部門要加快建立健全完善的監管制度體系，明確互聯網企業的責任、義務，加大懲治力度，提高違規成本、“不作為”成本。二要鼓勵互聯網企業加強自身內部責任建設，推動其自覺參與網上有害信息治理工作，鼓勵互聯網企業加大技術探索和創新，充分運用人工智能等新技術研發能夠有效提升網上有害信息治理效率的新工具新手段。對于在網上有害信息治理工作中表現優秀的互聯網企業，政府應給予表彰。三要推動行業自律。網上有害信息的治理要靠整個社會的共同參與。要加快建立起網上有害信息治理的行業標準和規范，重視網上宣傳和引導，推動網上有害信息治理工作從“單兵作戰”走向“協調治理”，從“被動參與”走向“主動作為”。

4.積極促進跨國合作，提升網上有害信息的全球打擊能力

互聯網信息的流動性、跨境性、開放性及煽動性等特點大大加強了網上有害信息治理的難度，也加大了有害信息從境外向境內倒灌傳播的風險。事實上，近年來網上有害信息的跨境傳播特點越來越明顯，建立跨國合作機制已是當務之急。一是可以積極融入國際上已經成立的網上有害信息治理組織。二是可以借助世界互聯網大會、“一帶一路”高峰論壇等國際性會議發起倡議，共同商討建立全球性網上有害信息的治理模式。三是可以和重點國家建立“1+1”的網上有害信息治理合作機制。總之，在網上有害信息威脅日趨嚴峻的態勢下，加強跨國合作，提升有害信息全球打擊能力，必定是一個互利共贏的選項。我國作為世界互聯網大國，應當主動承擔起維護國際網絡空間生態秩序安全的責任，在推動全球網上有害信息治理中發揮更加積極的作用。

■金龍彩鳳 陳寶林/攝