“規則+技術”：互聯網平臺針對“網絡暴力”現象的數字化治理

趙韞淏 劉晶

摘要：目前，網絡暴力事件仍時有發生。網暴信息的傳播線、跳轉線、暴力線，讓部分平臺成為滋生網絡暴力的“傳播溫床”。作為信息內容管理的第一責任主體，平臺企業卻仍舊缺乏系統的、針對平臺的強力管制措施。當然，網絡暴力的治理并不是一蹴而就的，這是一個長期、綜合治理的過程。通過借鑒國內外平臺治理網暴的成功經驗，打造以主體責任為核心、以“規則之治+技術賦能”為理念的二元共同治理格局與全鏈條全景式治理模式。

關鍵詞： 平臺 網絡暴力 數字化治理 治理模式

近年來，因網暴而造成的悲劇性事件時有發生。①在各類反網暴措施不斷升級的同時，網暴的形態也在不斷更新，如何整治網暴引發全社會的高度關注。黨的二十大報告中明確指出，要“健全網絡綜合治理體系，推動形成良好網絡生態”。中央網信辦印發《關于切實加強網絡暴力治理的通知》，指出“網絡暴力針對個人集中發布侮辱謾罵、造謠誹謗、侵犯隱私等違法信息及其他不友善信息，侵害他人合法權益，擾亂正常網絡秩序”，提出要建立健全網暴預警預防機制，強化網暴當事人保護，嚴防網暴信息傳播擴散，依法從嚴處置處罰等機制舉措。②

一、平臺治理網絡暴力的現狀分析

中央網信辦對網暴一直保持著高壓治理態勢。2022年4月，中央網信辦部署開展了“清朗·網絡暴力專項治理行動”，主要聚焦網絡暴力易發多發、社會影響力大的新浪微博、抖音等18家平臺，③通過建立系統的監測識別、實時保護、干預處置等措施，使各平臺都積極探索嘗試了加強預防、網暴識別、事后規范等全面治理網暴的機制舉措。

（一）平臺對網絡暴力的判定尚處于起步階段

目前，根據中央網信辦的指導意見，各個平臺結合自身特征，基本完成了初步整改。在此，筆者匯總了互聯網平臺對網絡暴力表現形式判定的示例表格（見表1）。④例如，知乎會判定為網暴內容和行為的，包括泄露他人隱私、煽動網友對他人進行無根據地扣帽子、貼負面標簽，使用包含臟話、蔑稱等言語對他人進行辱罵攻擊，無視對方意愿對他人進行惡意騷擾等。豆瓣的判定體系包括使用不雅粗俗的詞匯攻擊他人、諷刺挑釁他人、抬杠拱火、煽動眾人情緒、對個人或群體持歧視偏見的態度等。微博的判定體系覆蓋了粗俗冒犯類、諷刺內容類、煽動情緒類、歧視偏見類、惡意貼標簽類、掛人引戰類、故意抬杠類等（見圖1）。抖音會嚴格處理詛咒、咒罵等突破底線的違反公序良俗的內容，沒有真實依據、造謠、傳謠、污蔑他人的內容，人肉搜索、違規曝光和傳播當事人隱私信息的內容，以及對事件中當事人周邊無關人員、物品的曝光與無端指責。⑤不難發現，各個平臺總結的網絡暴力標準體系并不相同，許多內容仍然需要伴隨相當程度的主觀判斷。

（二）網暴風險識別預警機制尚在嘗試搭建中

各平臺積極探索建立符合自身平臺特征的，對存在網暴風險的信息內容進行識別和過濾的機制。如抖音平臺在內容識別方面，①結合內容生態分級標準，完善了平臺風險感知能力建設，根據相關內容語境、評論、背景等進行綜合研判，研發智能識別模型，目前線上有100多個模型在運營，可做到提前攔截包含侮辱、辱罵等信息的內容。微博健全網暴信息標準和樣本，搭建14個網暴相關模型，制定16個模型策略，日均可處置不友善內容約50萬條。知乎則會根據內容的違規程度，限制內容的展示范圍，對于不友善的內容，平臺會對其進行折疊，減少其在社區里曝光的機會，明顯帶有侮辱性質的語言，會被平臺刪除。百度貼吧有巡查、吧主和吧務反饋、舉報、清理回溯等發現機制，可以有效優化內容審查策略，并針對貼吧網暴識別能力進行升級，據悉，其間，共擴充網暴關鍵詞近500組，新增圖片黑庫600余張。盡管各個平臺在關鍵詞策略等識別技術上都有相當的投入，但在平臺看來，機器審核仍然只能承擔一部分工作，人工審核不能被替代；且各個平臺的網暴關鍵詞庫建設參差不齊，也缺乏有效的第三方獨立評估驗證。

（三）平臺主動強化網暴當事人保護

各平臺采取一系列措施強化對網暴當事人的保護，包括優化私信規則，防范網暴內容通過私信傳輸等。以斷網為例（見表2），調查的8家網站基本采取了“我的－設置－隱私設置－斷網”的操作模式，而新浪微博開啟“一鍵防護”只需點擊4次。許多網站平臺已經對私信功能進行了更新，以豆瓣、微博、小紅書為例，未互相關注且24小時內未有過私信往來的陌生人，在得到用戶回復前只能發出一條私信。而用戶，可以根據自身情況，設置接收私信的范圍，其中，包括所有人、自己關注的人、互相關注的人和禁止私信等選項。新浪微博上線“評論防火墻”和“一鍵防護”功能。在“一鍵防護”開啟期間，當事人將不接收陌生人通知。豆瓣上線 “應急防護模式 ”，用戶開啟該模式后，陌生人無法查看其主頁的內容，也無法直接與其進行私信交流。知乎用戶，可以選擇“瓦力保鏢”功能，系統將自動識別不良評論及私信等，而后折疊、隱藏或刪除不良內容，嚴重者甚至會被拉黑。抖音則針對施暴者的不良言論攻擊和不友善行為成立專項小組，對涉網暴重點環節加強監看，已上線“發文警示”“負向內容過濾”等8項預防網絡暴力的功能。

（四）嚴防網絡暴力信息傳播擴散

“用戶自主設置+平臺介入監測”是事前階段主流的網暴防控模式。在新浪微博、抖音等平臺上，用戶能夠自主選擇互動關系，包括將“所有人、關注的人、我的粉絲及互相關注的人”列為互動對象，也能根據用戶實際情況關閉互動權限，實現防患于未然的目的。與“評論”相對，“私信”在互動場景中更易滋生“網暴行為”，依托于一對一的交互形式，“私信”具有隱蔽性、私密性的特征，因此，限制“未關注人私信”便成了各大平臺整治的重點。小紅書、知乎、豆瓣、B站均設置了與“陌生人私信箱”相類似的功能，陌生人在賬號主人回復前，最多只能發送一條消息，而這條私信，也會被系統收入上述信箱，以此保護賬號主人免受網曝困擾。在抖音、快手平臺上，用戶可以把賬號設置為“私密賬號”，一旦開啟此功能，則只有用戶、粉絲可以瀏覽、評論其發布的作品。此類賬號的粉絲關注功能，也將受到嚴格限制。換言之，只有獲得用戶批準，其他用戶才可實現關注。新浪微博，對私信接收功能進行了改良，用戶僅能看到1條陌生賬號發送的消息，也僅顯示為私信提醒，并不直接顯示內容，只有在用戶點擊接收陌生人消息后，才可查看具體內容，其間，私信接收的有效期僅為24小時。實測中，采取“明文式”“內涵式”網暴語言模式，分別測試上述平臺，結果差別比較大（見表3），明文式測試中抖音等6個平臺被攔截，但微博、小紅書順利發出，內涵式測試結果卻正相反，反映出平臺對網暴信息的攔截功能需要不斷改進。①

（五）平臺不斷加大對涉網暴賬號的處置處罰力度

當網暴信息仍然難以避免地傳達給了網暴當事人，舉報成了個人最后的選擇。據“網信中國”微信公眾號消息，2022年5月中央網信辦通報，過去4個月中，微博、抖音、百度、騰訊、知乎、嗶哩嗶哩、小紅書、快手、豆瓣、網易、新浪、搜狐等主要商業網站平臺重點受理泄露他人隱私、侮辱謾罵、造謠誹謗等網絡侵權舉報事件達43.96萬件。從具體分類來看，多個平臺都在舉報類型中添加了“網絡暴力”的選項及“一鍵取證”的功能，方便用戶快速搜集證據進行投訴。對于參與網暴的賬號，微博、抖音、豆瓣、知乎等各個平臺有類似的處罰機制，即根據行為程度的不同做出刪除言論、短暫禁言、永久禁言、封禁賬號等處理。統計數據顯示，抖音每天產生8億條評論，其中，被投訴、舉報并最終處理的不當評論中，“謾罵，人身攻擊”占比32.79%。2022年1月至6月，抖音共攔截不當信息9218萬條，封禁及禁言賬號1.1348萬個，累計處置網暴事件超100起，對于可能發出的網暴內容，每天至少發出25萬次風險提示。百度貼吧自網暴專項開啟起以來，共清理網暴內容約150萬次，處置網暴賬號1.5000萬余個，網暴投訴舉報率由13.27%降低至9.28%。但有媒體在“網暴起訴一事咨詢平臺”實測中暴露出，有平臺客服明確表示不會為個人用戶提供施暴者個人信息，但也有客服稱用戶可以提交司法機構出具的協助調查函進行申請。此外，多家客服均表示平臺無法協助用戶保存私信等網暴證據，用戶需自行保存。①

二、網絡暴力治理中平臺責任落實存在的問題

從網絡治理實踐看，網絡暴力伴隨互聯網傳播服務發展的全過程，從最早的BBS時代，到社交媒體時代，再到現在的短視頻和直播時代，一直是嚴重侵害用戶權益、擾亂網絡傳播秩序的毒瘤。②網暴信息的傳播線、跳轉線、暴力線，讓部分平臺成為滋生網絡暴力的“傳播溫床”。雖然網絡暴力的成因是復雜、多樣的，但作為信息內容管理的第一責任主體——平臺企業，仍舊缺乏系統性的監管。③一些平臺企業本來可以通過技術手段，在網絡暴力早期實現有效管控，但現實中一些平臺企業受商業利益驅動，為獲取流量、廣告費等進行非正常輿論引導，為網絡暴力提供滋生土壤，④使得網絡暴力現象屢禁不止。

（一）平臺“屬地責任”泛化與主體責任不明并存

平臺作為網絡服務提供者的管理責任在不斷加重。近年來，針對不同平臺和業務的特點，有關部門陸續出臺了《互聯網信息群組信息服務管理規定》《微博客信息服務管理規定》《網絡音視頻信息服務管理規定》《網絡信息內容生態治理規定》等文件，更加細致地明確了不同情形下的責任主體及其具體義務。網絡服務提供者不再只是簡單對信息內容進行管理，而是對信息生產發布進行全流程監管和引導。總體上網絡服務提供者的管理責任越來越呈現出泛化的趨勢，針對平臺內違法犯罪活動的“屬地責任”全面被施加于網絡服務提供者身上。但目前網絡暴力治理中的責任條款越來越多地呈現出原則性規定的特點，建立健全各種“機制”“制度”的要求頻繁出現，但這些抽象性概念的內容缺乏細節支撐。盡管立法也規定了網絡服務提供者可以“刪除、屏蔽”網絡違法信息，“暫停使用”乃至“永久封禁”違規賬號，但這些處置措施同樣缺乏適用標準、正當程序的規定。

（二）平臺治理難點疊加與治理舉措風險加大并存

總體而言，我國信息分級保護尚處于起步階段，缺乏全面性、規范化的網絡信息分級審查的制度建設。⑤在分級范圍上，當前我國對于“網絡有害信息”的范圍明確與類型界定仍舊存在立法用語抽象、規范文件層級較低、側重點偏離等問題。其一內容識別預警的準確性不夠。平臺內容的海量性與網絡暴力行為自身的空間虛擬性、主體隱蔽性、群體參與性、內容模糊性等特征，導致在判別尺度、界定治理等方面都存在一定難度，及時準確地識別網絡暴力事件難度較大。其二，信息審核的專業性不強。在履行對信息內容審核處理責任的過程中，為了不損害公民的權利，網絡服務提供者需要非常謹慎地把握言論自由的平衡尺度，結合事件前后的完整信息進行專業的事后分析，但其在專業水準的把握上缺乏統一的尺度與標準。其三，審核人員的價值標準互異。不同審核人員的價值取向標準差異及統一標準的建構，已成為網絡服務提供者面臨的難題。由于信息審核的專業性，短期內無法實現技術識別，而人工審核短時間內難以被取代，因而必然面臨不同個體的主觀判斷差異，導致出現“因人而異”的現象。其四，處罰措施適用的風險性大。標準上存在缺失，行業處置標準不統一，各平臺尺度不同，處置缺乏統一的依據，常被投訴，處罰措施適用的有效與否直接關系到網絡暴力行為的治理效果。當前，平臺負有較重的舉證說明義務及應訴成本，如果被處罰用戶在被認定為實施網絡暴力行為并受到處罰措施后起訴平臺，平臺就負有舉證說明義務，并需要承擔各類訴訟負擔與成本。

（三）平臺雙重身份下行業自律困境與網絡技術治理缺乏一體化標準

盡管互聯網平臺的自我監管相較于政府監管而言具有一定優勢，但平臺監管主體與市場主體的雙重身份，使其成為監管路上的一把“雙刃劍”。在雙重身份的推動下，一旦互聯網平臺作為監管主體的地位遭到濫用，①其在監管規則、監管程序、監管結果方面的弊端就會顯現。②

平臺的監管規則往往價值偏好突出，作為監管主體所享有的權利也容易在規則制定時濫用。相對地，各個平臺的監管程序目前都面臨著透明度不足的嚴重問題，在制訂規則環節，十分缺乏協商、表決和征求意見的程序。

自我監管具有溢出效應，監管結果的外部性特征明顯。③與此同時，技術設置對于網絡暴力的治理有一種事前治理措施，克服了法律治理模式的滯后性的弊端。④但是技術治理模式并不是“萬金油”，技術治理手段往往會服務于平臺獲利模式的需要。技術設置在內容控制上本身沒有一個明確可視的標準，互聯網平臺缺乏預警預防機制、保護網暴當事人、嚴防網暴信息傳播擴散、依法從嚴處置處罰等“共治規則”，不僅缺乏網絡暴力信息與正常輿論監督的內容分類標準，也缺乏統一的警示性具體處置案例庫；不僅未構建起綜合考慮事件類別、不同主體、參與人數、信息內容、環節場景、舉報投訴等維度的網絡暴力技術識別機制和被害人一鍵保護模型，而且對于網絡暴力防范機制不健全、舉報受理處置不及時并造成不良影響的平臺，缺乏通報批評、限期整改、罰款、暫停信息更新、關閉網站等處置處罰措施的量化適用標準。

三、平臺治理網暴的“規則+技術”數字治理理念

網絡社會是“網”與“人”的結合，因而，網絡社會治理，重點在于治“網”，關鍵還在于治“人”。治“網”要靠技術，治“人”則要靠法律。⑤在經濟社會數字化轉型的大趨勢下，亟需從多維視角探討互聯網平臺網暴治理之道，目標是基于網絡治理、⑥數字治理、平臺治理理論進行創新，借鑒國內外平臺治理網暴的成功經驗，打造以主體責任為核心、以“規則之治+技術賦能”為理念的二元共同治理格局與全鏈條全景式治理模式。

（一）平臺是網絡空間治理中的“數字守門人”

隨著信息技術的迅猛發展，平臺日益成為信息內容生產傳播的重要渠道，為社會公眾和各類組織創造了新的社會空間——網絡空間，構建起縱橫交錯的生態網絡。與此同時，平臺的出現也意味著新社會風險源的誕生，擴大了社會安全風險的可達范圍，實際上成為各類社會問題和安全問題的集散地，任何社會風險都可能通過平臺而被無限放大。隨著平臺主體責任理論的提出，結合當前立法的趨勢顯示，治理權逐漸下沉至互聯網平臺企業，由平臺承擔主要治理責任，網絡空間治理也成為這些“數字守門人”“網絡把關人”的重要義務。平臺兼具社會屬性和公共屬性，處于一種“網絡‘準政府”的角色定位，在網絡空間的管理上發揮著“準入”“監管”“調控”的作用。由此，網絡暴力治理應加強“行業自律”。目前，各國均采取了組建行業組織及制定行業規范的方法，以平臺“行業自律”促進網絡言論及其他網絡暴力行為的早期預防與協同處置，如英國網絡觀察基金會與互聯網服務提供商協會共同發布《安全網絡：分級、檢舉、責任》文件，德國設立“國際性內容自我規范網絡組織”以確保網絡內容的健康，日本的互聯網行業則形成了以《網絡事業者倫理準則》為代表的行業規范。在我國，中國互聯網協會牽頭制定了《中國互聯網行業自律公約》《互聯網站禁止傳播淫穢色情等不良信息自律規范》等文件，相關平臺也開始嘗試制定本領域的聯合性行業標準與協議規范。但綜合來看，我國針對網絡暴力的專門性行業自律規范有待進一步完善，相關行業組織的信息統籌與審查能力有待進一步加強。為提升網絡暴力治理協同性，實現“共建共享共治”的社會治理格局，應圍繞“網絡暴力”分級標準制定、協同預防制度構建等問題進一步完善行業自律機制，通過行業自律組織的組建與完善、相關行業規范的制定與發布、社會投訴處理機制完善等措施，發揮行業組織以及行業規范在網絡暴力治理層面的積極作用，監督平臺承擔起信息傳播過程中“把關人”的角色。

（二）平臺應在網暴“規則之治”中承擔責任

以網絡通信技術和雙邊算法或多邊算法等系列技術為基礎的互聯網平臺，其價值是利益相關方各類交互行為的直接或間接表現。而“平臺”“治理”“平臺治理”等概念，都是利益相關方理性或者“有限理性”行為的產物。對網絡平臺的監管是一個世界性難題，發達國家習慣將社交平臺的治理權交給平臺，這也符合“問題制造者就是問題解決者”的基本法理。①2018年，德國推出《網絡執行法》，其加大了平臺的治理責任，要求平臺嚴格履行治理義務，以此整治網絡上的“仇恨、煽動性言論以及虛假的新聞內容”。其提出，社交平臺必須為用戶提供詳細的在線舉報表單；在接到舉報后，必須于24小時內刪除各類違法言論；受理舉報后，7日內必須對有爭議的言論進行處理，避免引起不良影響；必須提交輿情治理季度報告等。當前我國《中華人民共和國網絡安全法》《網絡信息內容生態治理規定》等相關法律規定對網絡平臺的信息管理與審查義務做了初步規定，但平臺方的網暴治理工作仍存在一定完善空間。一方面，需進一步完善平臺方網絡暴力治理責任體系。與其他國家相比，我國法律法規對于“網絡暴力”平臺責任的相關規定比較粗放，仍處于起步階段。在網絡信息審查義務上，當前關于網絡信息審查的法定范圍和標準散見于各類以行政規范為代表的法律法規之中，對于網絡暴力領域的專門規定與具體義務設置更是處于近乎空白的狀態。在信息公開的報告義務上，當前網絡平臺作為“私主體”，實施平臺信息管理的主要路徑是依據與用戶簽訂的使用協議或用戶條款，對涉及網絡暴力的言論及其賬號主體采取刪帖、禁言、封停賬號等措施，但此過程中如何進行信息公開與報告的相關規定卻遠未成形，造成了平臺信息處理違法內容的不透明。因此，有必要圍繞“信息審查”“信息公開”等義務完善網絡平臺責任體系，為平臺治理網暴提供保障與參考。

（三）“技術賦能”是實現數字治理網暴的關鍵

從技術理性視角，厘清平臺背后的技術支撐及其技術邏輯是實現技術賦能的重要基礎。

其一，支撐互聯網平臺的技術實質上是一系列技術集合，包括各種類型的算法、數據采集技術和數據管理技術、算力技術等，互聯網平臺的技術處于持續演變的過程中，核心算法技術從最初期的信息查詢類算法，經歷信息共享類算法、信息搜索引擎算法，直至現如今的信息匹配算法、信息推送算法等。

其二，互聯網平臺技術集合存在著多種技術邏輯，數據采集與再交換邏輯是平臺得以存在的基礎邏輯，技術分解與聚合帶來的技術體系性能綜合性提升是互聯網平臺獲得技術效率的永恒邏輯，互補性技術創新帶來了平臺技術創新和技術生態的整體躍遷。

其三，網暴治理離不開技術手段，比如網絡暴力技術識別主要包括簡單識別、文本識別+勸阻式干預、反諷識別+折疊式干預方式，涉及情緒解析、文本觀點提取、文本相似度判斷以及詞法分析等技術原理。②綜上，想要實現數字平臺的有效治理，需要與平臺技術相協同，進一步提升對網暴的信息監測與處置技術。據《光明日報》報道，國務院新聞辦公室在舉行2022年“清朗”系列專項行動新聞發布會時提出，要“指導網站平臺建立網絡暴力行為監測模型，通過分析用戶評論、彈幕等環節的異常行為，綜合舉報數量頻次，準確識別網暴苗頭”，但除了個別頭部網站已嘗試建立該類監測模型外，多數網絡平臺商在輿情監測與網絡暴力預防等方面的技術運用仍存在欠缺。因此，須進一步加強平臺方新技術的研發與應用，提升治理主動性、科學性與針對性。

四、平臺治理網暴的數字化全鏈條全景式示范模式

網絡暴力的治理不可能一蹴而就，這是一個長期監督、治理的過程。平臺理應“守土有責、守土盡責”，不應因“眾怒難犯”而沉默，不當“推波助瀾”的“幫兇”，采取精準有效的措施從嚴整治，為用戶提供各種場景預防網暴功能的服務，爭創數字化全鏈條示范模式。

網絡暴力的全鏈條治理，即是伴隨網絡暴力及系列輿情發酵各個階段的治理。在網絡暴力的潛伏期，要建立健全識別預警預防機制；在網絡暴力的爆發期和持續期，要建立健全網絡暴力當事人實時保護機制，嚴防網絡暴力信息傳播擴散；在網絡暴力的消退期，要加大對違法違規賬號、機構和網站平臺處置處罰力度，強化警示曝光和正向引導，及時做好復盤和反思，追蹤事件的長時間進展和多方面影響；在網絡暴力頻發的階段，要搭建長效化配套機制。

（一）平臺治理網暴的事前監測預防機制：“平臺管用戶，政府管平臺”的雙層監管模式

通過建構“平臺管用戶，政府管平臺的雙層監管模式”及網絡暴力識別預警機制，強化網民行為識別和輿情發現，及時預警網絡暴力，從而減少不法行為的發生。進一步完善網絡信息的全面分級審查機制，在分級標準上，結合域外治理經驗，構建并完善“信息內容”與“受眾年齡”相結合的分級體制，設置相應指示標識。充分發揮平臺與行業組織的自治優勢，由平臺自主進行網站初步定級、標注分級標識、設置身份認證系統等，政府則發揮后置性審核作用。①同時進一步健全網絡暴力的專門性識別與預警機制，網絡暴力的識別預警通過人工智能算法等網絡技術建構的信息識別與輿情分析系統，識別機制具體包括投訴舉報、人工審核、第三方標記、自動過濾和綜合審計五種類型。②系統可以對網絡輿論進行實時監測，并在發現疑似“網絡暴力”的行為時，通過“彈窗警告”等方法發出消息提示。首先，進一步明確識別預警的規范標準。其次，改進網絡暴力識別、審查的技術方法。面對多樣的“網絡暴力”形式，有必要通過建設“網暴”信息樣本庫、發展關鍵詞攔截策略、行為識別模型等方式，運用算法技術識別進一步增強“網暴”信息的自動化識別與過濾。此基礎上，還應通過平臺方內設審核機構及第三方組織等，進行疑難信息的二次識別與人工審核，避免遺漏新類型、疑難性網絡暴力信息。最后，建立網暴識別預警的解除機制。技術的有限性決定了網暴識別也存在相當多的誤判，故應在發生誤判的情形下保障用戶救濟渠道，設置審核異議程序與解除措施，完善相關投訴、舉報及訴訟機制。③

不斷完善雙層監管的流程化辦理模式，第一層為內容審核。平臺需要過濾顯而易見的違法信息，可通過大數據與人工智能分析，自動化發現網暴言論及其諧音變種，加強謾罵、血腥、恐怖類的文本、圖片的AI模型識別能力，且可提高特殊時間節點的審核效率，助力平臺建立完善的審核機制。第二層，輿情監測。提升平臺輿情監測能力，對社會大熱事件與突發事件能夠及時獲取，及時研判，及時制定方案。第三層，舉報受理。平臺要賦予用戶關閉私信、拉黑或舉報發布網暴言論者賬號的功能。平臺要提供舉報審核解決方案，靈活支持各場景舉報內容提交，按風險程度快速審核判定舉報。第四層，賬號管理。平臺可對頻繁發布謾罵、四處引戰的賬號進行禁止發言或封號，允許被禁者經過一定期限后，重新申請監管下的賬號使用權，進而形成引導從善機制。創新提供用戶行為圖譜分析，多維度發現用戶的過界異常行為并統計反饋，有利于打擊黑灰產培育的“水軍”用戶，限制部分用戶的謾罵行為。其中，第三層、第四層的處理，涉及事中干預和事后救濟的問題。

（二）平臺治理網暴的事中干預處置機制

據中國網信網消息，中央網信辦發布的《關于切實加強網絡暴力治理的通知》中明確就建立健全網絡暴力當事人實時保護機制提出了要求，調整私信功能規則，及時過濾“網暴”內容，強化“一鍵防護”等應急保護措施，建立快速取證和舉報通道，加大彈窗提醒警示力度，加強重點群體救助保護。因此，平臺要進一步完善網絡暴力當事人實時保護機制，通過屏蔽相關暴力言論、阻斷溝通渠道、隱藏被網暴者個人信息等措施，對網暴當事人進行保護。進一步完善信息公開和輿論引導機制，平臺及時利用信息整合、信息公開以及輿論引導方法，事發平臺要采取“強制彈窗方式”，將網暴事件基本情況采取登錄平臺、強制瀏覽一定次數、一定時長的方式予以通報澄清，充分聯動政務平臺、官方網站等多方主體，采取新聞發布、公眾號推文等方法，積極進行輿情治理與謠言澄清，制止網絡暴力擴大化。④比如，微博平臺已有相關舉措，在核實身份后，為當事人提供認證綠色通道，同時在相關話題頁關聯當事人賬號，置頂當事人發聲內容，并對官方權威媒體的相關辟謠、澄清信息進行“前排”展示，以幫助公眾了解事件全貌。

（三）平臺治理網暴的事后懲治與救濟機制

一是依法從嚴處置處罰網絡暴力參與者。平臺需要判斷網暴的違法違規行為人是否屬于首發、煽動、跟風等類型，依據不同情形，設置刪除言論、封號、移交行政執法或者司法機關等處罰標準。平臺應當嚴格執行“禁言封號”的措施，限制違規賬號在一定時間內的發言權、私信權等諸多權利，或者直接采取封號的嚴厲懲罰。平臺也可采取行業自律、加強聯系等方式，防止賬號持有者轉移平臺、持續進行網暴行為。可搭建一套行之有效的跨社交平臺的黑名單打擊協議，實現多平臺的協調同步。當然，需同步設立申訴機制，允許被禁言封號者向監管部門投訴申請公平處理，同時設立禁言封號撤銷制度，允許被禁者經過一定期限后重新申請監管下的賬號使用權，進而形成引導從善機制。①

二是建立網暴典型案例庫。平臺要不斷加強案例庫作為網暴事件樣本庫的建設，首先要明確哪些網暴案例可以進入案例庫。案例選擇要以典型警示或者正面引導為綱，重點選擇在治理網絡暴力熱點事件中具有典型性、可借鑒、啟發性的案例。其次要對入選案例予以科學分類，按照適當方式編寫。案例可以從不同角度分類，如按案例層級可劃分為平臺治理角度的成功案例、用戶防網暴成功案例等。最后，加強入庫案例的示范使用，案例要納入平臺規范體系中，采取強制展示與選擇瀏覽結合的方式，對于有潛在網暴表現形式或初步行為的用戶，在識別的基礎上預警時可以強制對該用戶展示警示教育案例，并閱讀瀏覽完后強制勾選，才可進行下一步操作。

三是建設幫扶救濟體系與個性化疏導機制，降低“網絡暴力”后續影響。平臺要與社會組織加強共建，聯合社會力量，與被網暴當事人“一對一”對接，提供心理疏導、經濟援助等，比如抖音“心情暖寶寶”、B站“能量加油站”等功能設置為因網暴而產生負面情緒的用戶提供心理疏導服務，有利于及時識別抑郁、輕生等相關信息。與此同時，還需通過網暴典型案例宣傳、虛假信息澄清等多種方式，糾正社會心理，盡量消弭網暴事件的后續影響。

四是加強平臺引導，堅持技術向善。平臺對用戶的個性化疏導機制，隨著個性化算法推薦等技術的普遍應用而逐步完善。網民基于選擇性心理，只會關注、查看自己認同的觀點輸出。在此基礎上，內容的不斷重復，會加強用戶的固有意識，形成“回音室效應”，如此，便會加劇群體極化現象。“信息繭房”“回音室效應”是全球社會都在面臨的問題。②而互聯網平臺，在此挑戰下，更應堅持技術向善，以正確的價值觀為導向，為用戶提供免費的線上“心理輔導”。

（四）健全平臺治理網暴的常態化配套機制

一是實名制的嚴格落實。網絡實名制可有效提升網絡安全指數，也有利于增強網民的責任意識，在維護網絡秩序的同時更好地保護言論自由。③我們應當在多部門合作的框架機制下，積極推動網絡實名制的落實，并根據實際情況不斷調整網絡實名信息相關的系列標準，通過不同層次的可互操作的身份服務，可減少眾多網絡服務中用戶實名和個人信息的審核和存儲需求，降低用戶隱私信息泄露的風險，逐步建立起自主可控的網絡身份管理生態體系。④

二是社區共治：“數字社區”間的正向聯合。互聯網平臺的多樣化，促使網絡平臺出現了獨特的“社區文化屬性”。文化建設作為一只“無形的手”，將零散的用戶集中在一起，以此推動數字社區成員的身份認同，使用戶自覺自愿參與到數字社區的治理中；平臺可以通過與用戶的“共治”，進一步提升信息甄別的效率及準確性。在B站平臺，用戶可自愿加入“風紀委員會”，成為“眾議投票”的一分子，參與甄別不良內容。這也成為目前互聯網平臺常用的治理手段。而以用戶反饋反哺社區策略的調整，有利于用戶在不同平臺生態體系之間的正向聯合與合力生成。

三是對平臺治理網暴開展專項法治評估。社會治理法治評估既可以激勵治理參與者積極加強法治化建設，也可以對社會治理法治建設進行監督。⑤結合平臺推動治理網暴的實際行動與效果，對平臺打造以主體責任為核心、以“規則之治+技術賦能”為理念的二元共同治理格局與全鏈條全景式治理模式的進展情況，由網信監管部門聘請第三方機構，對各平臺企業開展專項法治評估，并形成專項報告，全面梳理平臺強化治理網暴的成效、經驗、不足以及下一步整改重點，供監管部門與平臺企業作為開展治理的決策參考依據。

作者：

趙韞淏，北京工商大學法學院本科生

劉晶，北京工商大學法學院黨委副書記、高級政工師

（責任編輯：谷儒楠）

Abstract： In many incidents of cyberviolence， the transmission line， the jump line and the violence line formed with the help of information make the platform a "hotbed" for cultivating the spread of cyberviolence. The lack of normalized supervision of platform enterprises as the first responsible subject of information content management is an significant cause of cyberviolence. Governing cyberviolence is not achieved overnight， but a long-term supervision and management process. Learn from the successful experience of domestic and foreign platforms in dealing with cyberviolence， and build a dualistic joint governance pattern and a full-chain panoramic governance model with subject responsibility as the core and the concept of "Rule of Provisions + Technical Enablement".

Keywords： Platform， Cyberviolence， Digital Governance， Governance Model