數(shù)字平臺治理網(wǎng)絡(luò)暴力的監(jiān)管困境與角色重塑

中圖分類號：G206；D922.16 文獻(xiàn)標(biāo)志碼：A 文章編號：1009-055X（2025）04-0120-11

doi：10.19366/j.cnki.1009-055X.2025.04.010

一、問題提出與文獻(xiàn)回顧

當(dāng)前，人類已經(jīng)進(jìn)入平臺化社會[1]。具有巨大規(guī)模效應(yīng)的數(shù)字平臺推動了網(wǎng)絡(luò)空間的再中心化，并通過嵌入社會核心，展現(xiàn)出強(qiáng)大的實(shí)踐性、關(guān)系性與秩序性[2；數(shù)字平臺正在蛻變?yōu)楝F(xiàn)代社會運(yùn)行的重要空間組織形態(tài)，并由此推動基礎(chǔ)設(shè)施（infrastructure）和社會關(guān)系圖譜的交互融合[3]，塑造人類個(gè)體間既相互獨(dú)立又無縫對接的時(shí)空情景與溝通機(jī)制。然而，人們依托數(shù)字平臺大范圍地建立聯(lián)系、傳遞知識和參與互動的同時(shí)，煽動引戰(zhàn)、惡意炒作、人肉搜索乃至侮辱誹謗等網(wǎng)絡(luò)暴力行為也愈演愈烈，展現(xiàn)出了巨大的破壞力[4」。作為數(shù)據(jù)控制者，數(shù)字平臺具有資源與技術(shù)壟斷優(yōu)勢，能夠依憑數(shù)據(jù)權(quán)力鏈接億萬用戶、深度嵌入各個(gè)治理場景、穿越各類組織邊界，而這些特性也決定了其能夠成為網(wǎng)絡(luò)暴力治理一大主體的適格性[5]。

目前，數(shù)字平臺如何治理網(wǎng)絡(luò)暴力這一重要議題，引發(fā)了社會各界的眾多探討，相關(guān)理論研究正逐步深化，出臺規(guī)范的呼聲也日益高漲。近年來，中央網(wǎng)絡(luò)安全和信息化委員會辦公室（簡稱“中央網(wǎng)信辦”）聯(lián)合公安部、文化和旅游部等多個(gè)部門針對數(shù)字平臺設(shè)置了大量專門化、創(chuàng)新性的網(wǎng)絡(luò)暴力信息治理義務(wù)，相繼出臺了《關(guān)于切實(shí)加強(qiáng)網(wǎng)絡(luò)暴力治理的通知》《網(wǎng)絡(luò)暴力信息治理規(guī)定》等多項(xiàng)政策文件，并在實(shí)踐層面深人推進(jìn)“清朗·網(wǎng)絡(luò)暴力專項(xiàng)治理行動”，基本型塑了數(shù)字平臺對網(wǎng)絡(luò)暴力信息事前預(yù)警、事中處置、事后救濟(jì)等階段的治理角色，數(shù)字平臺的主體責(zé)任和義務(wù)不斷得到強(qiáng)化。然而，盡管各類信息服務(wù)提供者紛紛從健全用戶管理、強(qiáng)化技術(shù)分析、推動跨平臺交流等多方面試圖實(shí)現(xiàn)對網(wǎng)絡(luò)暴力的全鏈條治理，但網(wǎng)絡(luò)暴力事件依然高發(fā)，諸如網(wǎng)紅“管管”自殺①、重慶“胖貓”②以及粉頭發(fā)女孩因網(wǎng)暴自殺③等惡性事件仍頻頻見諸報(bào)端，牽動著社會輿論神經(jīng)。事實(shí)上，針對數(shù)字平臺的管控涉及網(wǎng)絡(luò)內(nèi)容創(chuàng)作自由、網(wǎng)絡(luò)空間生態(tài)治理、被害人權(quán)益保護(hù)、平臺主體治理責(zé)任等諸多復(fù)雜因素；同時(shí)，數(shù)字時(shí)代的網(wǎng)絡(luò)暴力具有弱違法性、匿名性、高度情緒化等特點(diǎn)，這又導(dǎo)致數(shù)字平臺往往難以精準(zhǔn)把握網(wǎng)絡(luò)暴力信息治理義務(wù)的履行標(biāo)準(zhǔn)，反而造成平臺自治規(guī)則正當(dāng)性基礎(chǔ)存疑。因此，在“牽一發(fā)而動全身”的特殊治理場景下，作為“超級責(zé)任體”的平臺應(yīng)如何明確其自身角色定位，切實(shí)承擔(dān)起“網(wǎng)絡(luò)把關(guān)人”的職責(zé)義務(wù)，成為當(dāng)前網(wǎng)絡(luò)暴力治理實(shí)踐中亟須解決的關(guān)鍵議題。

現(xiàn)有關(guān)于網(wǎng)絡(luò)暴力治理的研究，缺乏對數(shù)字平臺這一特定場域的體察，而主要從三條路徑進(jìn)行探討：一是側(cè)重于對網(wǎng)絡(luò)暴力現(xiàn)象的本體論研究，學(xué)者們依托違法犯罪說[7]、道德審判說[8、行為異化說9等理論對網(wǎng)絡(luò)暴力的概念及其本質(zhì)內(nèi)涵進(jìn)行探討；二是基于刑法教義學(xué)，從網(wǎng)絡(luò)暴力現(xiàn)象的刑法規(guī)制入手，對網(wǎng)絡(luò)暴力的程序適用、行刑銜接、刑法介入條件等內(nèi)容進(jìn)行分析7；三是對網(wǎng)絡(luò)暴力現(xiàn)象進(jìn)行傳播心理分析和語詞分析，從話語要素、生成方式等維度出發(fā)解構(gòu)網(wǎng)絡(luò)暴力所引發(fā)的風(fēng)險(xiǎn)[8。雖然這些成果為網(wǎng)絡(luò)暴力研究奠定了一定的基礎(chǔ)，但本質(zhì)上多以結(jié)果主義為導(dǎo)向，且長期聚焦于侮辱誹謗等具體網(wǎng)絡(luò)暴力行為的規(guī)制分析，難以與當(dāng)前治理模式變革完全適配。此外，部分研究關(guān)注到了網(wǎng)絡(luò)暴力治理中數(shù)字平臺這一關(guān)鍵主體，從公私合作模式[12」、看門人理論[13]、社會紐帶理論[14]等更為宏觀的理論視野出發(fā)，分析了內(nèi)容政策與算法技術(shù)對平臺治理機(jī)制和能力的影響，并提出強(qiáng)化違法內(nèi)容處置、鼓勵(lì)平臺配合執(zhí)法等治理策略。但這些規(guī)制建議更多的是將面向一般違法犯罪信息的平臺內(nèi)容監(jiān)管模式，直接套用至網(wǎng)絡(luò)暴力這一特殊的治理對象之上，提出的義務(wù)標(biāo)準(zhǔn)也較為泛化，難以在網(wǎng)絡(luò)暴力的平臺治理過程中有效發(fā)揮針對性的指導(dǎo)作用。

針對上述研究不足，本文擬將網(wǎng)絡(luò)暴力問題視為一種獨(dú)特的“平臺現(xiàn)象”，并從中探討網(wǎng)絡(luò)暴力生成與傳播的內(nèi)在邏輯，同時(shí)聚焦網(wǎng)絡(luò)暴力平臺治理的場域特殊性，在充分把握數(shù)字平臺環(huán)境中網(wǎng)絡(luò)暴力生成、擴(kuò)散特征及規(guī)律的基礎(chǔ)上，歸納總結(jié)數(shù)字平臺治理網(wǎng)絡(luò)暴力的具體困境，進(jìn)而嘗試提出數(shù)字平臺這一“網(wǎng)絡(luò)把關(guān)人”角色的優(yōu)化思路，以為數(shù)字平臺對網(wǎng)絡(luò)暴力治理義務(wù)的具體履行提供有益的啟示。

二、數(shù)字平臺視角下網(wǎng)絡(luò)暴力的生成與傳播

曼紐爾·卡斯特（ManuelCastells）曾言：“網(wǎng)絡(luò)建構(gòu)了我們社會的新形態(tài)，而網(wǎng)絡(luò)化邏輯的擴(kuò)散實(shí)質(zhì)地改變了生產(chǎn)、經(jīng)驗(yàn)、權(quán)力與文化過程中的操作和結(jié)果。”[15]569數(shù)字平臺在最大程度上整合網(wǎng)絡(luò)社會的同時(shí)，也基于其連接、集聚和集中等網(wǎng)絡(luò)化邏輯，使得網(wǎng)絡(luò)暴力較傳統(tǒng)暴力而言更具規(guī)模性和復(fù)雜性，進(jìn)而引致更具傷害性的“多對一”網(wǎng)絡(luò)暴力現(xiàn)象的發(fā)生[16]。具體而言，數(shù)字平臺雖然憑借其對數(shù)據(jù)的高度控制權(quán)和核心技術(shù)優(yōu)勢，構(gòu)建了包容、開放、互助的網(wǎng)絡(luò)空間形象和話語體系，但在呈現(xiàn)、加工和聚合網(wǎng)絡(luò)信息內(nèi)容的實(shí)踐中，一定程度上也助推了特定議題及內(nèi)容生產(chǎn)、加劇了失真網(wǎng)暴信息蔓延擴(kuò)散、強(qiáng)化了單向度正義指責(zé)與道德審判，對網(wǎng)絡(luò)環(huán)境造成負(fù)面影響。

（一）助推特定議題及內(nèi)容的生產(chǎn)

個(gè)體網(wǎng)絡(luò)用戶的單一化行動，往往不能直接誘發(fā)網(wǎng)絡(luò)暴力議題與內(nèi)容的大量生產(chǎn)，網(wǎng)絡(luò)暴力信息規(guī)模化擴(kuò)散的背后通常還存在數(shù)字平臺這一“隱形推手”。在數(shù)字化造就的信息洪流中，社會公眾的注意力是一種稀缺資源，其議程容量的有限性決定了并非所有的話題與內(nèi)容都能夠進(jìn)入網(wǎng)絡(luò)用戶的視野[17]。事實(shí)上，在“內(nèi)容為王”的互聯(lián)網(wǎng)競爭環(huán)境中，任何一項(xiàng)議題都需要與其他議題展開激烈的博弈后，才有可能占據(jù)與論的中心位置。在此過程中，數(shù)字平臺作為公共討論空間的創(chuàng)建者，其很大程度上已經(jīng)突破了傳統(tǒng)單一的商事主體角色，更多地掌握著話題推送以及信息流向的主導(dǎo)權(quán)，并逐漸演變?yōu)樾畔⒎毖堋鞑サ暮诵臉屑~。

雖然平臺出于商業(yè)利益等目的將自身打造成為“中介”形象，但其根本目的仍在于追求私利[18]124-125。區(qū)別于傳統(tǒng)中介，數(shù)字平臺的主要特點(diǎn)在于其能夠構(gòu)建多維交互生態(tài)，為網(wǎng)絡(luò)用戶提供大量用于交往的場景、算法技術(shù)和個(gè)性化服務(wù)，其背后的運(yùn)營人員作為技術(shù)的開發(fā)者和使用者，不可能完全超脫于社會系統(tǒng)之外，因此數(shù)字平臺自身攜帶的“中介”形象并非完全中立，個(gè)體價(jià)值觀的嵌人反而會掩蓋平臺的管控屬性，這在一定程度上規(guī)避了平臺在言論管理和內(nèi)容審查方面的責(zé)任[19]。具體來看，為提高用戶黏性和活躍度、做好營銷引流工作，平臺會對那些吸引用戶關(guān)注的話題類型進(jìn)行實(shí)時(shí)記錄，并將其中符合自身傳播價(jià)值與傳播屬性的內(nèi)容向公眾進(jìn)行投送，從而將平臺標(biāo)榜的特定業(yè)務(wù)內(nèi)容與用戶個(gè)體的偏好相聯(lián)結(jié)，以求快速引發(fā)靶向化的話題討論和情感營造，進(jìn)而服務(wù)于特定的目的或議程。然而，數(shù)字平臺對于同質(zhì)性話題的打造，進(jìn)一步增強(qiáng)了網(wǎng)絡(luò)用戶對于符合自己興趣的內(nèi)容的選擇性注意和記憶的能力，而對于其他較為陌生的話題則持相對回避、排斥態(tài)度，長此以往，用戶在遇到與自身需求、立場、價(jià)值觀念不一致的網(wǎng)絡(luò)信息時(shí)，就易產(chǎn)生語言暴力傾向[20]。例如，當(dāng)涉及兩性婚姻、勞資關(guān)系等敏感話題相關(guān)的社會熱點(diǎn)事件被網(wǎng)絡(luò)用戶捕捉到時(shí)，數(shù)字平臺常常會利用其內(nèi)容聚合的放大效應(yīng)為該話題進(jìn)行增權(quán)，加強(qiáng)其傳播力度，并通過盜獵拼貼用戶個(gè)體畫像、打造標(biāo)簽化議題等方式提升此類話題的可見性和討論度，進(jìn)而基于算法機(jī)制將包含相關(guān)話題的信息推送給特定受眾。這在無形之中可能誘發(fā)敵視、偏見，甚至仇恨言論的滋生蔓延，從而導(dǎo)致網(wǎng)絡(luò)暴力信息大量在平臺涌現(xiàn)。通過梳理相關(guān)案例發(fā)現(xiàn)，數(shù)字平臺這種靶向性的話題討論機(jī)制有時(shí)甚至還會成為線下極端暴力行為的催化劑，例如，引發(fā)施暴者向受害人送花圈、寄送危險(xiǎn)物品（如菜刀、刀片等）、鼓動相關(guān)人員聚集聲討等行為，對公共安全和社會秩序造成危害。

（二）加劇失真網(wǎng)暴信息的蔓延與擴(kuò)散

網(wǎng)絡(luò)暴力信息的大規(guī)模生成與傳播，與數(shù)字平臺流量邏輯驅(qū)動的算法推薦機(jī)制存在著很大程度的關(guān)聯(lián)。綜觀諸多網(wǎng)絡(luò)暴力事件，流量規(guī)模似乎成為了判斷事件真實(shí)與否的唯一標(biāo)準(zhǔn)。事實(shí)上，根據(jù)流量分發(fā)內(nèi)容的運(yùn)營模式，雖然提升了爭議性事件的曝光度和討論熱度，但同時(shí)也易導(dǎo)致網(wǎng)絡(luò)空間中具有潛在攻擊性、極端性的言論信息處在優(yōu)先傳播的位置。

一方面，在平臺算法與流量邏輯支配的公共討論規(guī)則下，一些平臺為迎合用戶喜好和觀點(diǎn)，基于完播率、點(diǎn)贊數(shù)、評論量、轉(zhuǎn)發(fā)量等交互指標(biāo)，構(gòu)建針對爭議性事件輿情數(shù)據(jù)的智能解析與熱度排序，這潛在加劇了不同用戶對同一事件的意見的兩極分化。與理性的事件討論不同，充斥著極化情感宣泄的輿論場更容易誘發(fā)群體性的語言暴力狂歡。在眼球效應(yīng)的驅(qū)動下，那些非理性的語言暴力信息往往被置頂展示，并在網(wǎng)絡(luò)用戶的動態(tài)、評論以及所謂的“爆炸性新聞”中不斷傳播[21]186，理性思考和多元表達(dá)則沉沒于海量評論的底端[2]，這將導(dǎo)致差異性的共識難以形成，最后使得沉默的大多數(shù)陷入“沉默的螺旋”，良性的溝通與對話也變得不再可能。例如，2018年發(fā)生的“重慶萬州一公交與逆行轎車相撞后墜江”事件①，當(dāng)事情還未調(diào)查清楚之時(shí)，平臺基于流量邏輯，將“女司機(jī)會開車嗎”“女司機(jī)腳踩高跟鞋”等不實(shí)評論置頂宣傳，網(wǎng)絡(luò)用戶隨即對準(zhǔn)女性司機(jī)展開狂轟濫炸，并將“男女對立”話題推上輿論的風(fēng)口浪尖。隨著事件的發(fā)酵，各種攻擊性言論持續(xù)被點(diǎn)贊、轉(zhuǎn)發(fā)，而相對客觀的理性發(fā)言和聲援則早已被圈層化、跨時(shí)空的討論所掩埋。此外，由于極端化的話語表達(dá)占據(jù)輿論風(fēng)頭，參與者樸素原始的情緒體驗(yàn)逐級攀升，甚至不惜誤傷他人也要通過辱罵、詛咒、道德審判等沖動方式來滿足對現(xiàn)實(shí)生活的心理代償[23」；再加之平臺流量的加持，關(guān)于爭議性事件的討論常常如同滾雪球一般滑向失控的一端

另一方面，平臺通過算法機(jī)制對爭議性事件進(jìn)行片段式裁剪，將原本復(fù)雜多維的討論場域簡化為二元對立框架，進(jìn)而導(dǎo)致極端化的語言暴力和情緒反應(yīng)進(jìn)一步擴(kuò)散。在平臺“制造偏見”的內(nèi)容加工邏輯下，渲染著支配與被支配、施暴與受辱等角色抗衡色彩的網(wǎng)絡(luò)暴力信息經(jīng)過持續(xù)不斷的發(fā)酵，逐漸奠定了公共討論空間的情感基調(diào)。再加之算法推送的信息聚合功能并非完全可靠，網(wǎng)絡(luò)用戶易根據(jù)“鏡像環(huán)境”的虛擬呈現(xiàn)做出相應(yīng)決策，從而對爭議性事件原貌的理解出現(xiàn)偏差[24]。事實(shí)上，數(shù)字平臺中民情民意的表達(dá)本就是一種秩序建構(gòu)的過程，但如果這些意見建議建立在失真和虛假信息的基礎(chǔ)上，網(wǎng)民樸素的“正義感”就容易被處心積慮的“惡”所操縱，甚至淪為滿足一己之私利的工具。更為嚴(yán)重的是，失真信息在傳播過程中往往會被扭曲和拼接重組，并在算法推送機(jī)制的影響下帶上特定標(biāo)簽，進(jìn)而形成特定的敘事框架。例如，在2023年發(fā)生的“鄭某某案”①中，數(shù)字平臺通過制造“陪酒女”“夜店舞女”“不正經(jīng)”等具有爭議性的話題標(biāo)簽、熱搜關(guān)鍵詞等形式，吸引海量網(wǎng)絡(luò)用戶快速加入相關(guān)話題的討論。諸多網(wǎng)友基于刻板印象，對鄭某某染粉色頭發(fā)的動機(jī)與人格進(jìn)行肆意揣度，各種情緒宣泄和語言攻擊在抖音、微博、快手等各大數(shù)字平臺疊加、異化。至該事件傳播、擴(kuò)散的后期，涉及鄭某某本人的新聞推送中甚至出現(xiàn)“老人帶病考取研究生，還娶了一個(gè)小女生”等低俗不堪的言論，進(jìn)一步導(dǎo)致理性討論的邊緣化和極端情緒的放大。

因此，在流量化的內(nèi)容呈現(xiàn)、剪裁與拼接邏輯下，網(wǎng)絡(luò)暴力信息內(nèi)容通過轉(zhuǎn)發(fā)、分享、評論等方式在各類數(shù)字平臺間傳播，并在算法機(jī)制的加持下形成強(qiáng)大的輿論宰制力，因而，數(shù)字平臺也在某種意義上推動了網(wǎng)絡(luò)暴力信息內(nèi)容的二次生產(chǎn)。

（三）強(qiáng)化單向度的正義指責(zé)與道德審判

在網(wǎng)絡(luò)空間中，具有爭議性質(zhì)的話題往往需要通過數(shù)字平臺的媒介性聯(lián)結(jié)才能夠轉(zhuǎn)化為暴力輿論場。面對一起具有爭議性質(zhì)的熱點(diǎn)事件，為進(jìn)一步增強(qiáng)該事件的曝光度和流量度，各大數(shù)字平臺往往還會借助網(wǎng)絡(luò)空間中的“意見領(lǐng)袖”制造對立議題并加速其傳播擴(kuò)散。在此過程中，意見領(lǐng)袖主要通過主動構(gòu)建事件相關(guān)的道德準(zhǔn)則、價(jià)值觀念和具有情感傾向的“權(quán)威”解釋，打著維護(hù)公平正義、伸張弱者權(quán)益等旗號并將其作為自身行動的合法性來源，進(jìn)而形成一個(gè)潛在的社會動員框架，引導(dǎo)平臺用戶匯聚成為意見領(lǐng)袖的忠實(shí)擁，并在特定議題上形成共識，甚至采取集體行動。在這一過程中，意見領(lǐng)袖的權(quán)威性、系統(tǒng)性發(fā)言充滿著“自我生效”2513的假設(shè)，并潛移默化地控制著輿論的走向，進(jìn)而造成事實(shí)漂移。隨著加害者一方在平臺媒介環(huán)境中逐漸掌握聲討相對受害人的輿論壓制權(quán)和“正義性”基礎(chǔ)，在由平臺媒介搭建的“數(shù)字審判席”上，網(wǎng)絡(luò)暴力主義者化身“良善的正義使者”開始進(jìn)行無限的道德話語生產(chǎn)，并通過各種表達(dá)方式惡意詆毀、貶損當(dāng)事人，并對其形成強(qiáng)大的群體輿論攻勢，而當(dāng)事人在這一完全不對等的權(quán)力關(guān)系實(shí)踐中，只能被迫承受一系列流言蜚語及惡劣的暴力壓迫[2」。同時(shí)，數(shù)字平臺的匿名性、隱藏性特征，使得平臺用戶個(gè)體在網(wǎng)絡(luò)空間中“泛道德化”的情緒表達(dá)更容易在短時(shí)間內(nèi)吸引眼球、引發(fā)群體共鳴。尤其在去抑制性（disinhibition）的心理狀態(tài)之下，數(shù)字平臺中的網(wǎng)絡(luò)用戶更傾向迅速將自身情感代人、投射至目標(biāo)事件之中，在還未厘清事件全貌時(shí)便對當(dāng)事人進(jìn)行道德審判，并打造“正義使者”人設(shè)對當(dāng)事人發(fā)動輿論圍剿。這種即時(shí)性的情緒反應(yīng)遮蔽了個(gè)體深人、全面的理性分析路徑，不少網(wǎng)絡(luò)用戶在無意識中被群氓效應(yīng)（mobmentality）所影響，對被害人肆意發(fā)表攻擊性、極端化的言論，網(wǎng)絡(luò)暴力信息在數(shù)字平臺中的擴(kuò)散甚至淪為了一種由非理性主導(dǎo)的情感政治[27」。

更為嚴(yán)重的是，面對施暴者單向度的輿論壓制和侵權(quán)行為，在數(shù)字平臺網(wǎng)絡(luò)信息傳播機(jī)制的操縱下，受害者往往難以對自身權(quán)益進(jìn)行有效的保護(hù)與救濟(jì)。一方面，網(wǎng)絡(luò)暴力的侵害往往呈現(xiàn)突發(fā)性、有組織、大規(guī)模的襲擾特征，除非借助專業(yè)化的技術(shù)手段，否則僅靠被害人個(gè)人力量幾乎很難在海量的網(wǎng)絡(luò)暴力內(nèi)容中精準(zhǔn)定位侵權(quán)賬號、鏈接等信息。此外，平臺為賺取流量收益，有時(shí)可能會一定程度上放任、縱容網(wǎng)暴信息的傳播，甚至主動采取虛構(gòu)標(biāo)簽、推送熱點(diǎn)等行為加劇此類侵權(quán)信息的擴(kuò)散。在此情形下，受害者要想找到這一信息傳播鏈條中的源頭無異于大海撈針；另一方面，數(shù)字平臺基于流量邏輯搭建的公共討論空間，使得受害人在取證過程中往往需要付出很大的經(jīng)濟(jì)成本和社會成本。可見，在以情感和情緒為主導(dǎo)、以爭奪認(rèn)同和關(guān)注為價(jià)值取向的網(wǎng)絡(luò)輿論世界里，受害者常常處于人微言輕又救濟(jì)乏術(shù)的艱難處境。網(wǎng)絡(luò)暴力傳播的快速性和廣泛性使得言論對個(gè)體的影響呈倍數(shù)級增加，在“裝可憐”“博關(guān)注”等大量負(fù)面評價(jià)的圍攻之下，受害人易產(chǎn)生“孤立無援”的心理，從試圖反抗到無奈接受，甚至引發(fā)心理癱瘓、自殘自殺等更為嚴(yán)重的后果。

三、網(wǎng)絡(luò)暴力治理中數(shù)字平臺的監(jiān)管困境

如上所述，數(shù)字平臺在網(wǎng)絡(luò)暴力治理中扮演著至關(guān)重要的角色，但其在監(jiān)管責(zé)任、監(jiān)管壓力及監(jiān)管方式等方面亦面臨著諸多挑戰(zhàn)。

（一）數(shù)字平臺監(jiān)管責(zé)任不明，監(jiān)管義務(wù)設(shè)置預(yù)防性不足

于網(wǎng)絡(luò)暴力的治理而言，數(shù)字平臺既是被規(guī)范的對象，也承擔(dān)著網(wǎng)絡(luò)空間生態(tài)管理的重要職責(zé)，所以在網(wǎng)絡(luò)服務(wù)提供過程中，理應(yīng)更加嚴(yán)格地遵守加重義務(wù)規(guī)則。在國際立法視野下，歐盟《數(shù)字服務(wù)法》（Digital ServicesAct，DSA）針對數(shù)字平臺設(shè)置了積極與消極兩方面的義務(wù)（即要求實(shí)施的事項(xiàng)與禁止實(shí)施的事項(xiàng)）。同樣，近年來我國出臺的《中華人民共和國個(gè)人信息保護(hù)法》《互聯(lián)網(wǎng)信息群組信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等規(guī)范性文件，基于不同類型的數(shù)字平臺及其業(yè)務(wù)特點(diǎn)，從內(nèi)容管理制度、技術(shù)保障等方面設(shè)置了社交媒體平臺的一般性義務(wù)，不斷壓實(shí)數(shù)字平臺治理網(wǎng)絡(luò)暴力的主體責(zé)任。然而，總體上看，我國現(xiàn)行的關(guān)于平臺“守門人”的制度規(guī)范呈現(xiàn)一定程度的泛化趨勢，具體有效的實(shí)施細(xì)則有待進(jìn)一步加強(qiáng)。

一方面，在針對網(wǎng)絡(luò)暴力治理的諸多責(zé)任條款中，建立健全各種“制度”“機(jī)制”的話語屢屢出現(xiàn)，但這些抽象層面上的規(guī)范內(nèi)容更多的是一種原則性規(guī)定，缺乏細(xì)節(jié)支撐，可操作性不強(qiáng)，因而較難助益平臺有針對性地履行其監(jiān)管職責(zé)[28]。雖然相關(guān)立法規(guī)定了網(wǎng)絡(luò)服務(wù)提供者可以通過屏蔽、刪除等手段來阻斷網(wǎng)絡(luò)暴力信息擴(kuò)散蔓延，且對于違規(guī)賬號、網(wǎng)站等，數(shù)字平臺亦可以采取黑名單設(shè)置、限期整改、關(guān)閉封禁等處罰措施，但目前這些規(guī)定和舉措更像是對平臺責(zé)任的宏觀界定，仍然存在量化適用標(biāo)準(zhǔn)不明確、正當(dāng)程序不具體等問題。

另一方面，我國針對數(shù)字平臺增設(shè)的消極義務(wù)較多，而積極義務(wù)則相對不足，且相關(guān)規(guī)定前瞻性與預(yù)防性不足，并呈現(xiàn)明顯的事后制裁傾向。在網(wǎng)絡(luò)暴力的治理框架中，數(shù)字平臺作為事前監(jiān)管的核心主體，本應(yīng)通過內(nèi)容監(jiān)管機(jī)制實(shí)現(xiàn)其制度預(yù)設(shè)功能，然而現(xiàn)實(shí)卻是，平臺的監(jiān)管行為仍以傳統(tǒng)的被動響應(yīng)模式為主，顯露出顯著的局限性。具體來看，首先，平臺介人網(wǎng)絡(luò)暴力的消極義務(wù)主要側(cè)重對違法違規(guī)行為的打擊，如“禁止平臺干擾社會輿論、侵害網(wǎng)民權(quán)益等行為，禁止算法濫用帶來意識形態(tài)、經(jīng)濟(jì)發(fā)展和社會管理等方面的風(fēng)險(xiǎn)隱患”“禁止發(fā)布暴力恐怖、謠言等有害內(nèi)容”“快速封禁”等禁止性規(guī)定。換言之，數(shù)字平臺的內(nèi)容監(jiān)管措施，主要是圍繞網(wǎng)絡(luò)暴力所造成的實(shí)際損害結(jié)果來構(gòu)建，相關(guān)規(guī)定實(shí)際上體現(xiàn)了一種以事后應(yīng)對和對抗性干預(yù)為導(dǎo)向的治理思維。數(shù)字平臺雖通過算法過濾、舉報(bào)響應(yīng)等機(jī)制強(qiáng)化內(nèi)容監(jiān)管，但現(xiàn)行平臺責(zé)任機(jī)制在平衡用戶權(quán)益保障與技術(shù)治理效能方面仍面臨諸多挑戰(zhàn)，其治理效能與公眾期待及法律預(yù)設(shè)目標(biāo)之間仍存在一定差距。不僅如此，當(dāng)面對異常極端、高度失控的網(wǎng)絡(luò)暴力輿情時(shí)，數(shù)字平臺即使能夠屏蔽、刪除所有的網(wǎng)絡(luò)暴力信息，也很難完全摘除已然形成的對立標(biāo)簽，以及減緩網(wǎng)絡(luò)用戶對爭議性事件瘋狂般的情感輸出。每一輪遭受封禁、刪除的網(wǎng)絡(luò)言論，甚至還可能死灰復(fù)燃，在下一次的網(wǎng)絡(luò)暴力事件中“卷土重來”，引發(fā)更為嚴(yán)重的網(wǎng)絡(luò)暴力危機(jī)。其次，針對數(shù)字平臺積極義務(wù)的設(shè)置常常囿于“鼓勵(lì)創(chuàng)新”“倡導(dǎo)正能量”等宏觀方面。就網(wǎng)絡(luò)暴力議題的生產(chǎn)與傳播而言，數(shù)字平臺的積極義務(wù)雖在理論上具有引領(lǐng)與指導(dǎo)的潛在價(jià)值，但在實(shí)踐中卻難以轉(zhuǎn)化為顯著的實(shí)際成效。再加之?dāng)?shù)字平臺在應(yīng)對網(wǎng)絡(luò)暴力時(shí)，常處在商業(yè)利益與公共福祉之間的復(fù)雜權(quán)衡之中，尤其在行業(yè)競爭壓力之下往往難以堅(jiān)定有效地履行其作為“把關(guān)人”的核心職責(zé)，這導(dǎo)致暗含網(wǎng)絡(luò)暴力的議題、內(nèi)容不斷流人各大社交媒體平臺，并以病毒式的傳播速度迅速彌散。因而，這種義務(wù)配置模式的失衡很大程度上制約了數(shù)字平臺自我規(guī)制能力的提升和相關(guān)義務(wù)的有效履行，加大了數(shù)字平臺治理網(wǎng)絡(luò)暴力的難度，因而在設(shè)計(jì)的科學(xué)化方面亟待進(jìn)一步提升。

（二）數(shù)字平臺監(jiān)管壓力超載，治理成本與風(fēng)險(xiǎn)疊加

當(dāng)前，互聯(lián)網(wǎng)準(zhǔn)入門檻低的特性使得表達(dá)主體不斷拓展，但網(wǎng)絡(luò)用戶媒介素養(yǎng)的提升仍較為遲滯；同時(shí)，網(wǎng)絡(luò)空間的連接性、虛擬性和無界性為自由創(chuàng)作打開了窗口，卻也引發(fā)了網(wǎng)絡(luò)空間中價(jià)值觀沖突與公共討論理性空間的收縮。近些年，我國相關(guān)部門針對網(wǎng)絡(luò)暴力議題不斷加大內(nèi)容審核力度，規(guī)則越來越細(xì)、標(biāo)準(zhǔn)越來越嚴(yán)，數(shù)字平臺網(wǎng)絡(luò)暴力治理的主體責(zé)任日益強(qiáng)化。大量專項(xiàng)行動和禁令鋪陳展開，雖解決了不少由平臺商業(yè)導(dǎo)向造成的“疑難雜癥”，推動了網(wǎng)絡(luò)生態(tài)健康發(fā)展，但也在一定程度上推升網(wǎng)絡(luò)暴力的治理成本和風(fēng)險(xiǎn)。

一方面，數(shù)字平臺的義務(wù)履行范疇并不能完全覆蓋所有可能涉及網(wǎng)絡(luò)暴力的內(nèi)容。網(wǎng)絡(luò)暴力信息的生產(chǎn)規(guī)模、傳播速度、表現(xiàn)方式都不同于一般的違法犯罪信息，數(shù)字平臺現(xiàn)有的技術(shù)能力和審核機(jī)制無法在有限的成本下，實(shí)現(xiàn)對所有網(wǎng)絡(luò)暴力信息的全面管控與及時(shí)處置。因此，在巨大的治理壓力和合規(guī)成本下，數(shù)字平臺不得不投人更多的資源、技術(shù)和注意力用于網(wǎng)絡(luò)暴力治理，如完善一鍵防網(wǎng)絡(luò)暴力、網(wǎng)絡(luò)暴力信息智能過濾、一鍵取證等一系列用戶保護(hù)及投訴維權(quán)機(jī)制，擴(kuò)充配備與用戶體量和信息規(guī)模相適應(yīng)的內(nèi)容審核人員，健全用戶注冊、信息發(fā)布審核、跟帖評論管理、應(yīng)急處置等安全管理制度，切實(shí)提升對用戶發(fā)布言論的人工干預(yù)能力等[29]。這些舉措雖然為數(shù)字平臺治理網(wǎng)絡(luò)暴力提供了規(guī)范性支撐，但卻易忽視復(fù)雜現(xiàn)實(shí)語境對于網(wǎng)絡(luò)暴力信息傳播的潛在影響，并引發(fā)了一系列相關(guān)問題：一是信息審核存在紕漏。為保障網(wǎng)絡(luò)用戶權(quán)利，數(shù)字平臺需謹(jǐn)慎把握言論自由的平衡尺度。盡管當(dāng)前的人工審核模式能夠彌補(bǔ)算法對復(fù)雜語義理解不充分這一短板，但由于受制于審核人員的認(rèn)知偏差、標(biāo)準(zhǔn)化操作壓力與心理健康損耗等，網(wǎng)絡(luò)暴力信息的平臺審核把關(guān)面臨一定困境。二是技術(shù)治理工具具有內(nèi)在局限性。大多數(shù)防網(wǎng)絡(luò)暴力功能都需要用戶自主設(shè)置且流程煩瑣，如僅私信功能就分為“可能認(rèn)識的朋友”“我關(guān)注的人”等多個(gè)選項(xiàng)，且平臺端口進(jìn)入程序復(fù)雜，基本上需要點(diǎn)擊數(shù)次后才能發(fā)現(xiàn)相關(guān)功能入口。此外，各大數(shù)字平臺在內(nèi)容控制方面并沒有一個(gè)共同認(rèn)可或接受的技術(shù)標(biāo)準(zhǔn)框架，尤其對于網(wǎng)絡(luò)暴力受害人權(quán)益救濟(jì)、依規(guī)處置處罰違禁賬號網(wǎng)站等事項(xiàng)缺乏統(tǒng)一的規(guī)則約束[30]。更為嚴(yán)重的是，過于依賴技術(shù)對網(wǎng)絡(luò)暴力進(jìn)行治理，一定程度上削弱了網(wǎng)絡(luò)空間的自凈能力，同時(shí)也違背了技術(shù)平等理念，很容易陷入技術(shù)壟斷的治理困境。質(zhì)言之，在網(wǎng)絡(luò)暴力治理這一特殊場景下，數(shù)字平臺的監(jiān)管體量不斷擴(kuò)張，導(dǎo)致了其內(nèi)容處置成本的增加和合規(guī)體系的臃腫，進(jìn)而使得平臺步入“越管越寬、越管越累、越管問題越多”的惡性循環(huán)。

另一方面，數(shù)字平臺對于網(wǎng)絡(luò)暴力的全面監(jiān)管常常導(dǎo)致流量收益等隱性合規(guī)成本的流失。數(shù)字平臺兼具公共規(guī)則屬性以及私人屬性[31]，其本質(zhì)是多元主體之間、個(gè)體與環(huán)境之間互融共促的公共場域與私人場域的復(fù)合形態(tài)。因此，從盈利模式來看，一些數(shù)字平臺鼓勵(lì)用戶自由創(chuàng)作內(nèi)容，尤其是希望能夠通過營造爭議性話題的公共討論空間快速賺取流量。然而，在高強(qiáng)度的內(nèi)容審核要求下，數(shù)字平臺不得不放棄一定的流量收益，轉(zhuǎn)而刪除、屏蔽各類網(wǎng)絡(luò)暴力信息，對侵權(quán)用戶、網(wǎng)站等施以罰款、禁言、通報(bào)等處罰。可見，對網(wǎng)絡(luò)暴力的監(jiān)管邏輯與追求流量經(jīng)濟(jì)的市場邏輯之間長期存在著難以調(diào)和的矛盾。數(shù)字平臺在內(nèi)容監(jiān)管方面做出了大量努力，但與此同時(shí)，也面臨著用戶活躍度的下降以及具有流量效應(yīng)的營銷賬號、大V賬號入駐減少的困境，甚至觸及平臺自身生存和發(fā)展的核心利益。一旦這些義務(wù)履行對平臺持續(xù)獲取收益構(gòu)成威脅，那么，數(shù)字平臺在業(yè)務(wù)運(yùn)營中就很難保持足夠的治理熱情和投入，甚至可能采取區(qū)別對待用戶賬號、有意包庇違規(guī)用戶、對投訴舉報(bào)進(jìn)行冷處理等“數(shù)字形式主義”手段來應(yīng)對[32]

（三）數(shù)字平臺監(jiān)管方式單一，公共治理目標(biāo)偏移

目前，數(shù)字平臺對網(wǎng)絡(luò)暴力的治理，主要依賴技術(shù)層面的內(nèi)容過濾與處置機(jī)制①。數(shù)字平臺擁有強(qiáng)大的技術(shù)和數(shù)據(jù)資源優(yōu)勢，能夠完成對一般違法犯罪信息的快速識別和精準(zhǔn)篩選。但網(wǎng)絡(luò)暴力具有空間虛擬性、主體隱蔽性、群體參與性等特征，且網(wǎng)絡(luò)暴力內(nèi)容的模糊性、多義性、場景性也十分突出。現(xiàn)實(shí)中，很多模棱兩可的“不良信息型”網(wǎng)絡(luò)暴力，多表現(xiàn)為冷嘲熱諷、陰陽怪氣、幸災(zāi)樂禍、風(fēng)言風(fēng)語等形式。嚴(yán)格來說，這些信息并不屬于“法律法規(guī)禁止發(fā)布或傳輸?shù)男畔ⅰ保煌脩翎槍ι鲜鰞?nèi)容可能有不同的判斷尺度，例如，基于發(fā)布者的主觀惡意去判斷，與根據(jù)受害者的內(nèi)心感受及客觀后果來判斷，得到的結(jié)論可能會大相徑庭。正因如此，數(shù)字平臺便很難通過現(xiàn)有的技術(shù)識別模型窮盡所有網(wǎng)絡(luò)暴力信息特征，以至于經(jīng)常將網(wǎng)絡(luò)暴力信息與正常的評論信息混為一談，導(dǎo)致監(jiān)測效果欠佳。如果數(shù)字平臺機(jī)械照搬針對一般違法犯罪信息的內(nèi)容監(jiān)管模式，對“不良信息型”網(wǎng)絡(luò)暴力進(jìn)行全面消除或停止傳輸，那么很容易出現(xiàn)正常評論被屏蔽、非網(wǎng)暴賬號被封禁等“誤傷”現(xiàn)象，從而形成對網(wǎng)絡(luò)空間言論自由的不當(dāng)干預(yù)。

隨著網(wǎng)絡(luò)暴力信息形態(tài)從顯性攻擊言論向隱性表達(dá)擴(kuò)展，數(shù)字平臺面臨內(nèi)容邊界模糊化帶來的技術(shù)識別困境，而這需要通過可解釋性算法模型構(gòu)建與倫理約束機(jī)制的升級，突破語義歧義、情感偽裝等治理瓶頸。在此過程中，數(shù)字平臺治理網(wǎng)絡(luò)暴力的主體責(zé)任愈發(fā)凸顯。在網(wǎng)絡(luò)暴力信息與網(wǎng)民日常的言論表達(dá)難以區(qū)分的情況下，為避免承擔(dān)嚴(yán)格的法律責(zé)任，數(shù)字平臺的求穩(wěn)立場促使他們傾向走嚴(yán)控路線，部分平臺甚至“一刀切”地采取封禁、批量刪除等較為激進(jìn)的管控措施，對疑似網(wǎng)絡(luò)暴力信息及賬戶進(jìn)行嚴(yán)格處置。數(shù)字平臺作為公共輿論的渠道，其價(jià)值核心在于促進(jìn)多元觀點(diǎn)的自由交流與思想碰撞。而在過度審核的模式下，一方面，過度強(qiáng)調(diào)內(nèi)容合法性，將導(dǎo)致原本屬于網(wǎng)民日常互動范圍的社交內(nèi)容遭誤刪，正常輿論監(jiān)督的討論議程被阻斷，網(wǎng)民網(wǎng)絡(luò)交流及參與度降低，從而一定程度上限制了公眾的自由表達(dá)權(quán)，有違社會效益的最大化的制度設(shè)計(jì)初衷；另一方面，數(shù)字平臺過度控制網(wǎng)絡(luò)暴力信息和熱度的做法，有時(shí)不僅收效不佳，反而會刺激網(wǎng)絡(luò)用戶參與實(shí)施網(wǎng)絡(luò)暴力的行動意愿。尤其是個(gè)別網(wǎng)絡(luò)用戶自認(rèn)為“替天行道”“正義伸張”的言論，一旦被大面積刪除、屏蔽，反而可能會導(dǎo)致更多敵視、憤、抗拒等負(fù)面情緒在網(wǎng)絡(luò)空間中彌漫；而一些網(wǎng)絡(luò)用戶甚至可能使用更極端的語言暴力來挑釁數(shù)字平臺的監(jiān)管舉措，進(jìn)而造成網(wǎng)絡(luò)暴力輿情更加難以收場。

四、網(wǎng)絡(luò)暴力治理中數(shù)字平臺的角色重塑

網(wǎng)絡(luò)暴力現(xiàn)象是平臺社會中高度情境化的產(chǎn)物，其對數(shù)字平臺的治理能力、治理方式等都提出了新的考驗(yàn)和挑戰(zhàn)。為有效應(yīng)對這些考驗(yàn)和挑戰(zhàn)，應(yīng)完善從行為到信息的數(shù)字平臺治理規(guī)則體系，適度限縮釋放平臺義務(wù)責(zé)任，并通過“軟硬兼施”的手段，豐富數(shù)字平臺治理網(wǎng)絡(luò)暴力的“工具箱”。

（一）從“行為”到“信息”：完善數(shù)字平臺治理規(guī)則體系

如果僅聚焦行為，那么網(wǎng)絡(luò)暴力治理將始終拘泥于不得超過“清晰而客觀的危險(xiǎn)”這一標(biāo)準(zhǔn)框架，且面臨著違法行為和主體認(rèn)定難、違法證據(jù)取證難、損害結(jié)果認(rèn)定難、因果關(guān)系證明難等復(fù)雜問題。而網(wǎng)絡(luò)暴力本質(zhì)上是一種言論表達(dá)或者信息傳遞方式，其行為實(shí)施必須依賴于數(shù)字平臺中的信息載體，因此，有必要轉(zhuǎn)換治理視角，從信息內(nèi)容出發(fā)審視網(wǎng)絡(luò)暴力治理這一議題。

一方面，數(shù)字平臺既是網(wǎng)絡(luò)信息內(nèi)容的傳輸渠道，也是這些內(nèi)容的審查者和監(jiān)督員。與英國、德國等擁有成熟行業(yè)組織及行業(yè)規(guī)范的國家相比，我國雖針對數(shù)字平臺網(wǎng)絡(luò)暴力信息管控與審查義務(wù)做出了一定的規(guī)定，但相關(guān)條款相對來說仍較為粗疏。尤其是平臺在進(jìn)行刪帖、屏蔽、封停賬號等行動時(shí)，有關(guān)信息公開與報(bào)告流程的規(guī)定闕如，使得數(shù)字平臺處理違法信息內(nèi)容時(shí)的透明度有待進(jìn)一步提高。在數(shù)字社會，一個(gè)重要的法律原則是規(guī)范信息權(quán)力的關(guān)系，尤其是公共和私人管理者以及被治理者之間的權(quán)力關(guān)系[33]。在此基礎(chǔ)上，數(shù)字平臺數(shù)據(jù)控制及處理權(quán)限的公開透明機(jī)制應(yīng)是平臺治理保持合法性和正當(dāng)性的制度前提。因此，有必要以數(shù)字平臺“行業(yè)自律”為導(dǎo)向，盡快推動網(wǎng)絡(luò)暴力分級標(biāo)準(zhǔn)制定、協(xié)同預(yù)防制度建設(shè)等，同時(shí)，對數(shù)字平臺的治理任務(wù)進(jìn)行細(xì)化，將“內(nèi)容審查”“信息公開”等治理事項(xiàng)以權(quán)力清單的形式在平臺規(guī)則中固定下來，不斷健全網(wǎng)絡(luò)平臺責(zé)任體系[34]。

另一方面，隨著信息生產(chǎn)與傳播日益多元化，傳統(tǒng)媒介原有的邊界逐漸淡化。在盈利至上的思維助推下，平臺本身所具有的自凈與過濾功能弱化，把關(guān)失責(zé)現(xiàn)象頻頻發(fā)生，諸多事后救濟(jì)機(jī)制也很難發(fā)揮其應(yīng)有功能。在這種狀況下，數(shù)字平臺的義務(wù)配置模式理應(yīng)展現(xiàn)出高度的預(yù)防性與前瞻性，其義務(wù)履行重心也應(yīng)由事后響應(yīng)轉(zhuǎn)向事前管理，通過細(xì)化網(wǎng)絡(luò)暴力信息的認(rèn)定標(biāo)準(zhǔn)、構(gòu)建符合平臺自身特點(diǎn)及公共利益的網(wǎng)絡(luò)暴力信息預(yù)警審核體系等方式，及時(shí)阻斷網(wǎng)絡(luò)暴力信息的形成。具體而言，一是根據(jù)平臺信息傳播的特性，厘清數(shù)字平臺的消極義務(wù)，如不得在《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》十一條規(guī)定的熱搜、熱推等重點(diǎn)環(huán)節(jié)呈現(xiàn)網(wǎng)絡(luò)暴力信息，以有效防止網(wǎng)絡(luò)暴力信息擴(kuò)散傳播；不得為傳播網(wǎng)絡(luò)暴力的賬號、機(jī)構(gòu)等提供流量、資金等支持，以控制網(wǎng)絡(luò)暴力信息傳播的“推手”等①。二是科以數(shù)字平臺相對更多的積極處理、健康引導(dǎo)等義務(wù)。例如，可以嘗試借鑒歐盟《關(guān)于打擊在線非法仇恨言論的行為守則》以及《數(shù)字服務(wù)法》中關(guān)于刪除非法仇恨言論的基準(zhǔn)規(guī)定，將數(shù)字平臺一般性的常規(guī)內(nèi)容處置義務(wù)如“及時(shí)消除違法信息內(nèi)容”等進(jìn)一步明確化、具體化。尤其對于違法特征較強(qiáng)、具備多平臺跳轉(zhuǎn)等傳播特征的網(wǎng)絡(luò)暴力信息，平臺應(yīng)采取更加主動的干預(yù)技術(shù)加以識別、攔截、屏蔽或斷開鏈接等，前置性地發(fā)現(xiàn)并預(yù)警網(wǎng)絡(luò)暴力苗頭性、傾向性問題。

此外，除了突出必要的秩序維護(hù)功能，平臺的積極治理作用還應(yīng)當(dāng)突出對爭議事件討論過程的正向引導(dǎo)。換言之，面對網(wǎng)絡(luò)暴力信息，數(shù)字平臺不能僅僅采取對抗性屏蔽、刪除等手段，更應(yīng)主動搭建充滿包容性、公平性、建設(shè)性的議程框架和討論空間，避免大量被極端化情緒所裹挾的網(wǎng)絡(luò)暴力信息動搖網(wǎng)絡(luò)用戶正確的價(jià)值立場。因此，在正向制度構(gòu)建的目標(biāo)下，應(yīng)通過平臺積極治理義務(wù)的施加，引導(dǎo)數(shù)字平臺對蹭熱度、過度追逐推廣引流、濫用媒介權(quán)力等進(jìn)行自我修正，同時(shí)促使平臺不斷加強(qiáng)對熱搜、話題、網(wǎng)絡(luò)社區(qū)等方面的縱深管理，優(yōu)化跟帖評論、聊天室、網(wǎng)絡(luò)直播、通信群組等場景中的內(nèi)容治理策略，從根源上遏制網(wǎng)絡(luò)暴力信息的擴(kuò)散勢能，以理性化的網(wǎng)絡(luò)信息內(nèi)容重建健康的網(wǎng)絡(luò)秩序生態(tài)。

（二）從無限擴(kuò)張到適度限縮：釋放數(shù)字平臺自我治理潛能

近年來，數(shù)字平臺的主體責(zé)任多次被強(qiáng)調(diào)，其作為網(wǎng)絡(luò)暴力信息識別與處置的重要“把關(guān)人”，越來越被社會寄予厚望，但這并不意味著要將全部的網(wǎng)絡(luò)暴力的治理責(zé)任全部轉(zhuǎn)嫁至數(shù)字平臺。事實(shí)上，網(wǎng)絡(luò)暴力治理并不僅僅是法律問題，更需要政府、市場、平臺及其他利益相關(guān)者等多元治理主體的協(xié)同參與，才能共同推動網(wǎng)絡(luò)輿論生態(tài)整體改善。而無限平臺責(zé)任這一歸責(zé)邏輯，使得數(shù)字平臺的內(nèi)容合規(guī)與自身技術(shù)能力存在一定沖突，即日益增加的監(jiān)管體量和普遍審核負(fù)擔(dān)易使數(shù)字平臺陷入客觀履行不能的窘境，從而貽害數(shù)字平臺的健康發(fā)展。因此，有必要合理限縮數(shù)字平臺的義務(wù)履行范圍，使其能夠在合理的治理成本和風(fēng)險(xiǎn)管控范圍內(nèi)實(shí)現(xiàn)預(yù)期的治理效果。

一方面，建議優(yōu)化“平臺管用戶，政府管平臺”的雙層監(jiān)管模式。在“平臺管用戶”階段，數(shù)字平臺可以嘗試聚焦自身業(yè)務(wù)范圍、用戶群體特征、議題討論模式等方面，有針對性地完善網(wǎng)絡(luò)暴力信息特征庫和典型案例樣本庫，精準(zhǔn)排查、及時(shí)介人處置那些經(jīng)常在平臺中制造對立、激化矛盾的重點(diǎn)賬號，以此助益數(shù)字平臺從全方位審查海量網(wǎng)絡(luò)暴力信息的義務(wù)履行焦慮中脫身，從而促進(jìn)數(shù)字平臺以相對合理的成本在業(yè)務(wù)經(jīng)營與社會公共責(zé)任承擔(dān)之間實(shí)現(xiàn)平衡。在“政府管平臺”

階段，政府部門不應(yīng)頻繁通過網(wǎng)絡(luò)法立法的方式來無限制地?cái)U(kuò)張數(shù)字平臺的治理義務(wù)范圍，也不必過分抬升網(wǎng)絡(luò)暴力治理的義務(wù)履行標(biāo)準(zhǔn)。相反，應(yīng)當(dāng)在考量數(shù)字平臺治理成本的基礎(chǔ)上，充分發(fā)揮數(shù)字平臺的自我治理優(yōu)勢，協(xié)助數(shù)字平臺自主完成分級標(biāo)識確立、網(wǎng)站系統(tǒng)定級、優(yōu)化門戶身份認(rèn)證等工作，進(jìn)一步完善平臺向有關(guān)部門報(bào)告的制度，不斷提升數(shù)字平臺對網(wǎng)絡(luò)暴力的治理效能。

另一方面，應(yīng)合理限縮數(shù)字平臺治理網(wǎng)絡(luò)暴力的義務(wù)涵攝范圍，激發(fā)數(shù)字平臺參與網(wǎng)絡(luò)暴力治理的動力。換言之，與其一味增加數(shù)字平臺的內(nèi)容監(jiān)管責(zé)任，迫使其摒棄依賴流量經(jīng)濟(jì)發(fā)展的商業(yè)模式，不如將治理重點(diǎn)放在數(shù)字平臺自身環(huán)境的風(fēng)險(xiǎn)控制上。當(dāng)商業(yè)效益與公共效益之間逐漸達(dá)成平衡時(shí)，數(shù)字平臺的市場屬性將得到更多尊重，實(shí)現(xiàn)網(wǎng)絡(luò)暴力治理的阻力也會相應(yīng)減弱。此時(shí)，網(wǎng)絡(luò)暴力治理不再是依靠外部施壓來促使平臺“守門人”義務(wù)的履行，而是將治理目標(biāo)逐步內(nèi)化于數(shù)字平臺自身的發(fā)展目標(biāo)和商業(yè)實(shí)踐中，使治理目標(biāo)成為平臺內(nèi)部共同認(rèn)可的價(jià)值基礎(chǔ)。因此，平臺責(zé)任的合理限縮能夠促進(jìn)數(shù)字平臺提升監(jiān)管主動性，推動內(nèi)容合規(guī)與內(nèi)容運(yùn)行在數(shù)字平臺內(nèi)部同步發(fā)展、同步優(yōu)化。

（三）從“單刀直入”到“軟硬兼施”：豐富數(shù)字平臺治理“工具箱”

如前所述，在巨大的治理成本和行政監(jiān)管壓力下，數(shù)字平臺往往會在網(wǎng)絡(luò)暴力治理的標(biāo)準(zhǔn)設(shè)置等方面采取更嚴(yán)格的舉措。過度審核的做法易擠壓用戶在平臺場域中的權(quán)益實(shí)現(xiàn)空間，對網(wǎng)絡(luò)用戶正常言論表達(dá)造成“誤傷”，甚至?xí)l(fā)網(wǎng)絡(luò)暴力二次生產(chǎn)的反效果。因此，數(shù)字平臺對網(wǎng)絡(luò)信息內(nèi)容的管控，不應(yīng)僅限于刪除、屏蔽等“一刀切”式的硬性治理手段，更應(yīng)在適度擴(kuò)張不良信息管理范圍的基礎(chǔ)上，嘗試通過用戶培訓(xùn)、算法推薦等軟性治理手段，正向引導(dǎo)網(wǎng)絡(luò)用戶的情感表達(dá)與言論發(fā)表[35。具體而言，針對“不良信息型”網(wǎng)絡(luò)暴力的技術(shù)識別難點(diǎn)，數(shù)字平臺可以從言論的頻率數(shù)量、情感傾向等多個(gè)維度出發(fā)，設(shè)置更具針對性和細(xì)粒度的網(wǎng)絡(luò)暴力信息審核標(biāo)準(zhǔn)。對指責(zé)嘲諷、貶低歧視等違法特征較為模糊的信息內(nèi)容，可以利用人工智能大模型等技術(shù)手段，將多條言論作為一個(gè)整體語料進(jìn)行集中分析。同時(shí)，對于一些新型的網(wǎng)絡(luò)暴力表達(dá)形式，可通過用戶自主標(biāo)注來不斷加強(qiáng)機(jī)器學(xué)習(xí)，并結(jié)合發(fā)表言論的具體社會影響加以識別和規(guī)制，進(jìn)而使各類技術(shù)識別模型、人工審核規(guī)則能夠穿透網(wǎng)絡(luò)暴力與日常言論表達(dá)相近的表象，實(shí)質(zhì)性地審核特定場景中網(wǎng)絡(luò)信息的語言暴力傾向[36]。

需要注意的是，盡管數(shù)字平臺在治理網(wǎng)絡(luò)暴力方面具有顯著的技術(shù)優(yōu)勢，但在治理過程中仍需對網(wǎng)絡(luò)用戶的權(quán)利保障給予足夠的重視，規(guī)范技術(shù)應(yīng)用程序，引導(dǎo)技術(shù)向善。首先，可以嘗試以主動披露機(jī)制代替算法備案審查機(jī)制。與后者對文本規(guī)范本身進(jìn)行“形式”評估不同，主動披露機(jī)制要求特定主體必須公開或公布某些重要信息，并能夠讓公眾了解算法的特定目的及其具體決策過程，從而提高算法透明度，避免算法區(qū)隔導(dǎo)致的群體意見極化[37]。其次，積極開發(fā)調(diào)適業(yè)務(wù)場景，完善實(shí)質(zhì)性的用戶舉報(bào)和反饋機(jī)制，盡可能滿足當(dāng)事人差異化的維權(quán)訴求。尤其當(dāng)受害人已經(jīng)遭受到嚴(yán)重網(wǎng)暴侵害時(shí)，數(shù)字平臺需及時(shí)采取技術(shù)屏蔽等方式，將被害人的隱私等信息進(jìn)行封鎖隱藏，盡可能改變其在面對網(wǎng)絡(luò)暴力宰制時(shí)的被動失語狀態(tài)，提升其數(shù)字化生存能力。最后，為避免因大面積刪除、屏蔽網(wǎng)絡(luò)暴力信息而造成輿論規(guī)模的再次膨脹和網(wǎng)民情緒反向擴(kuò)張，數(shù)字平臺應(yīng)把控信息阻斷手段的漸進(jìn)性、合比例性。當(dāng)數(shù)字平臺審查后決定刪除或屏蔽相關(guān)信息內(nèi)容時(shí)，可設(shè)置向侵權(quán)人發(fā)送修改或刪除的勸阻提醒、對涉網(wǎng)暴信息標(biāo)注提示、控制傳播范圍或做折疊處理等選項(xiàng)，并告知發(fā)布者刪除理由、信息處理結(jié)果以及發(fā)布網(wǎng)絡(luò)暴言論可能涉及的民事及刑事責(zé)任，打破加害人與被害人之間與論話語權(quán)失衡的困局，真正削弱網(wǎng)絡(luò)暴力的與論宰制力。

五、結(jié)語

以數(shù)字平臺為抓手開展網(wǎng)絡(luò)暴力治理，是順應(yīng)平臺化社會發(fā)展現(xiàn)實(shí)的必然選擇。在此基礎(chǔ)上，明確數(shù)字平臺在保障網(wǎng)絡(luò)內(nèi)容安全、維護(hù)網(wǎng)民合法權(quán)益等方面的義務(wù)職責(zé)，將成為數(shù)字時(shí)代我國治理網(wǎng)絡(luò)暴力的重要制度方案。然而，數(shù)字平臺對網(wǎng)絡(luò)暴力這一高度情境化現(xiàn)象的治理面臨著監(jiān)管職責(zé)界定模糊、監(jiān)管負(fù)荷過重以及監(jiān)管手段單一等監(jiān)管責(zé)任落實(shí)難題。鑒于此，有必要轉(zhuǎn)換治理視角，構(gòu)建一套由行為層面至信息層面的數(shù)字平臺治理規(guī)則體系策略，通過合理界定數(shù)字平臺的義務(wù)邊界，激發(fā)其參與治理的積極性，并借助柔性治理策略正面引導(dǎo)用戶的情感走向與語言表達(dá)方式。誠然，學(xué)術(shù)界在網(wǎng)絡(luò)暴力治理領(lǐng)域的研究成果已經(jīng)頗為豐富，且形成了多種研究路徑，但當(dāng)前研究鮮有從平臺視角對網(wǎng)絡(luò)暴力現(xiàn)象展開審思。本文旨在探索數(shù)字平臺中網(wǎng)絡(luò)暴力信息的擴(kuò)散演化邏輯，梳理數(shù)字平臺網(wǎng)絡(luò)暴力治理的監(jiān)管困境與角色塑造路徑，屬拋磚引玉之作。未來，對于人工智能技術(shù)的倫理治理、“飯圈”文化治理、網(wǎng)絡(luò)輿情治理等新興議題，均可依循此路徑進(jìn)行更加深人的探討，進(jìn)而為構(gòu)建健康、和諧且安全的網(wǎng)絡(luò)生態(tài)環(huán)境提供借鑒和啟示。

參考文獻(xiàn)：

[1] 陳昌鳳，袁雨晴．平臺演化：中國互聯(lián)網(wǎng)30年與傳播變遷［J]．新聞與寫作，2024（4）：15－24.

[2] 管其平．空間社會學(xué)視域中網(wǎng)絡(luò)空間的生產(chǎn)及其正義［J]．學(xué)術(shù)探索，2022（8）：52-59.

[3] 孫萍．從“慣習(xí)培養(yǎng)”到“粘性使用”：數(shù)字平臺的算法生產(chǎn)——基于行動者網(wǎng)絡(luò)的視角［J］．西南民族大學(xué)學(xué)報(bào)（人文社會科學(xué)版），2022，43（1）：153－161.

[4] LOUISF，MOHAMED S.Cyberbullyingand online harassment：a multifaceted examination of digital platformviolence[J].2024（3）：15-18.

[5] 王燃．論網(wǎng)絡(luò)暴力的平臺技術(shù)治理［J]．法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2024，42（2）：121-134.

[6] 辛艷艷，方師師．網(wǎng)絡(luò)暴力治理中的平臺主體責(zé)任困境［J]．青年記者，2023（13）：88－90.

[7] 敬力嘉，胡雋．網(wǎng)絡(luò)暴力法律規(guī)制的完善路徑［J]．中國人民公安大學(xué)學(xué)報(bào)（社會科學(xué)版），2021，37（5）：142 -149.

[8] 江根源．青少年網(wǎng)絡(luò)暴力：一種網(wǎng)絡(luò)社區(qū)與個(gè)體生活環(huán)境的互動建構(gòu)行為［J]．新聞大學(xué)，2012（1）：116－124.

[9] 張瑞孺．“網(wǎng)絡(luò)暴力”行為主體特質(zhì)的法理分析［J]．求索，2010（12）：140－142.

[10] 勞東燕．網(wǎng)絡(luò)暴力刑法治理的基本立場［J]．政法論壇，2024，42（3）：39-54.

[11] 嚴(yán)丹．智媒時(shí)代網(wǎng)絡(luò)暴力主義話語的生成機(jī)理與治理策略［J]．內(nèi)蒙古社會科學(xué)，2023，44（4）：70－77.

[12] 江溯．論網(wǎng)絡(luò)犯罪治理的公私合作模式［J]．政治與法律，2020（8）：40-54.

[13] 單勇：數(shù)字看門人與超大平臺的犯罪治理［J]．法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2022（2）：76－90.

[14] 許博洋，周由，CHANGL．青少年網(wǎng)絡(luò)越軌行為的發(fā)生過程及原理——基于自我控制理論和差別交往理論的視角［J]．中國青年社會科學(xué)，2021，40（3）：79-87.

[15] 卡斯特．網(wǎng)絡(luò)社會的崛起［M］．夏鑄九，等譯．：社會科學(xué)出版社，2001.

[16] 冉華，鄭東和．戒除誘惑與重申信任：數(shù)字交往情境下的網(wǎng)絡(luò)暴力治理［J]．學(xué)習(xí)與實(shí)踐，2024（10）：25 -33.

[17] 李鎵．從網(wǎng)絡(luò)社會到平臺社會：算法風(fēng)險(xiǎn)的媒介化治理邏輯演進(jìn)［J]．蘇州大學(xué)學(xué)報(bào)（哲學(xué)社會科學(xué)版），2024，45（3）：183-192.

[18] 凱拉．媒介與社會：權(quán)力、平臺與參與［M］．任孟山，陳文沁，譯．：中國傳媒大學(xué)出版社，2023.

[19] 邵占鵬．?dāng)?shù)字平臺的三重屬性與角色沖突［J]．浙江學(xué)刊，2024，（5）：67－77，238.

[20] 朱笑延．走向媒介正義：網(wǎng)絡(luò)暴力信息治理的平臺角色與法治實(shí)現(xiàn)［J]．中南大學(xué)學(xué)報(bào)（社會科學(xué)版），2024（1）：50-62.

[21] 勒普頓．?dāng)?shù)字社會學(xué)［M]．王明玉，譯．上海：上海人民出版社，2022.

[22] 陳啟涵．平臺可供性視角下網(wǎng)絡(luò)對立情緒的流量政治［J]．新聞界，2023（1）：78－87，96.

[23] 李姝慧，劉朝璞．暴力情景、心理代償與異時(shí)空共情：深度媒介化進(jìn)程中的網(wǎng)絡(luò)暴力邏輯［J]．閱江學(xué)刊，2024，16（6）：92-99，180

[24] 郭淼，師俊艷．重構(gòu)與糾偏：算法在網(wǎng)絡(luò)輿情中的效用［J]．青年記者，2022（17）：48-50.

[25] 馬爾庫塞．單向度的人：發(fā)達(dá)工業(yè)社會意識形態(tài)研究［M]．劉繼，譯．上海：上海譯文出版社，2014.

[26] 羅讓．網(wǎng)絡(luò)暴力的微觀權(quán)力結(jié)構(gòu)與個(gè)體的“數(shù)字性死亡”［J]．現(xiàn)代傳播（中國傳媒大學(xué)學(xué)報(bào)），2020，42（6）：151-157.

[27] 馮濟(jì)海．“粉”“黑”之爭：網(wǎng)絡(luò)迷群極化的“日常化”轉(zhuǎn)向［J]．社會學(xué)研究，2021，36（6）：113－135，228 -229.

[28] 石佳友．網(wǎng)絡(luò)暴力治理中的平臺責(zé)任［J]．法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2023，41（6）：14－23.

[29] 魏露露．互聯(lián)網(wǎng)創(chuàng)新視角下社交平臺內(nèi)容規(guī)制責(zé)任［J]．東方法學(xué)，2020（1）：27－33.

[30] 趙韞誤，劉晶．“規(guī)則 + 技術(shù)”：互聯(lián)網(wǎng)平臺針對“網(wǎng)絡(luò)暴力”現(xiàn)象的數(shù)字化治理［J］．文化創(chuàng)意，2023 （2）：75-84.

[31] 肖紅軍，陽鎮(zhèn)，商慧辰．平臺監(jiān)管的多重困境與范式轉(zhuǎn)型［J]．中國人民大學(xué)學(xué)報(bào)，2022，36（4）：24-39.

[32] 朱笑延．從內(nèi)容監(jiān)管到生態(tài)調(diào)控：網(wǎng)絡(luò)暴力信息治理的平臺義務(wù)重塑［J]．南京大學(xué)學(xué)報(bào)（哲學(xué)·人文科學(xué)·社會科學(xué)），2024，61（1）：76-91，163-164.

[33] BALKIN JM. The three laws of robotics in the age of big data [J]. Ohio State Law Journal， 2017，78 （5） ：592.

[34] 單勇．?dāng)?shù)字平臺與犯罪治理轉(zhuǎn)型［J]．社會學(xué)研究，2022，37（4）：45-68，227.

[35] 宋錯(cuò)業(yè)．“算法”與國家治理創(chuàng)新——數(shù)據(jù)、算法與權(quán)力的知識生產(chǎn)與邏輯呈現(xiàn)［J］．科學(xué)學(xué)研究，2022，40（3）：401-409.

[36] 王明麗．社交媒體技術(shù)治理困境及其應(yīng)對路徑［J]．新聞文化建設(shè)，2022（10）：32-34.

[37] 李小波，翟巖．?dāng)?shù)字平臺網(wǎng)絡(luò)暴力：演化機(jī)制、治理困境與突破路徑［J]．新媒體與社會，2024（4）：76-89，415 -416.

Regulatory Dilemma and Role Reshaping of Digital Platforms in Governing Online Violence

ZHAI Yan

（School of Law and Order，People’sPublic Security University of China，Beijing 1OO038，China）

Abstract： With the deep embedding of information technology practices into social structures， digital platforms have emerged as the core spatial organizational form of modern societal operations， driving the recentralization of cyberspace. Leveraging their resource endowments and technological monopolies， digital platforms not only provide the virtual space for the emergence and spread of cyber violence， but also serve as key responsible entities in their governance. Within the specific context of digital platforms， the mechanisms through which cyber violence is generated and disseminated include： amplifying certain topics and content production， intensifying the distorion and diffusion of violent information，and reinforcing unidimensional moral judgments and justice-based accusations. Currently， the governance of cyber violence by digital platforms in China faces significant challenges， such as unclear regulatory responsibilities， regulatory overload， and rigid enforcement approaches. To address these challenges， it is imperative to shift the governance focus from“behavioral control” to “information governance”，to refine the platform regulatory frameworks by moderately narrowing the scope of platform obligations， to unleash their self-regulatory potential by adopting hybrid regulatory instruments combining coercive and incentive-based measures. These measures will help reshape the role of digital platforms in cyber violence governance and promote a more scientific and systematic approach to addressing this issue in China.

Key words： digital platform;cyber violence; platform accountability; technological governance