抖音：將網絡暴力扼殺于搖籃中

傅軍

1月24日00點02分，劉學州在微博發文：“生來即輕，還時亦凈”，隨后其家人稱其在三亞海邊輕生，雖被好心人發現并送至醫院搶救，但最終還是離開了人世。嚴格來說，導致這一事件發生的原因除了現實生活中的種種悲慘遭遇之外，很大一部分還來自洪水猛獸一般的網絡暴力，而這并不是第一例因網絡暴力導致的輕生事件。

而在現實生活中，每個人應該都會結識那么一兩個“噴子”，不過大多都能做到和諧相處、求同存異，為什么一旦歸于網絡世界就變得戾氣十足呢？因為，“在互聯網上，沒人知道你是一條狗”。正因為你不認識我，我卻知道你，這種信息不對稱就會導致更易沖動，進而產生惡意騷擾、人身攻擊、侮辱謾罵甚至誹謗造謠等行為，以較低的發布成本、較高的傳播效率給受害者帶來了較為負向的反饋體驗。

目前，網絡暴力傳播的途徑一般是評論與私信，以抖音為例，平臺每天會產生8億條評論，其中，被投訴、舉報并最終處理的評論中，“謾罵，人身攻擊”占比32.79%。所以，如果想要遏制這一現象，第一步就是要社交媒體平臺主動站出來，加強管控措施。

所以在今年1月，抖音率先推出國內首個為用戶提供各個場景預防網暴功能的服務，共有8大功能，從信息發布的多個角度來切入，首先管人，從平臺根據系統模型主動管理發送者，到接收者自我管理。其次管文，從前期的評論發送警示，到中期的私信分層管理，再到后期平臺小助手提供“心情關懷”，打通了預防網暴前中后的整個流程。

當然，說總比做簡單，抖音的這些預防網暴新功能到底好不好用呢？咱們選取了其中幾個功能來進行測試，本次測試的抖音APP版本號為19.4.2。

這就是抖音于2017年底開放的第一個防網暴功能，根據我們的測試來看，用戶可以在“我的→設置→隱私設置→誰可以私信我”里找到，可設置所有人/互關朋友/關閉，這個設置基本上可以杜絕網暴信息的直接觸達，是最基本的功能。如果你擔心被陌生人私信滋擾，這個選項就應該至少保持在“互關朋友”上，這時候我用2個互相沒有關注的賬號發私信，都無法接收到對方的信息，起到了很好的保護作用。

如果你沒有設置第一項功能，而收到了陌生人或單方面關注你的賬號發來的私信，而私信內容被系統模型認定為風險信息，抖音會通過彈出浮窗提醒你是否認識該賬戶，如果選擇“不認識”，就會指引你拉黑，舉報或移除粉絲。根據抖音官方數據，這項今年1月才上線還未滿月的功能，已經可以每天對約25萬次對話發出風險提示，引導用戶自主管理社交對象，通過拉黑舉報等手段保障自己的社交安全。

實際使用下來，這項功能很人性化，通過主動提示的方式，讓普通用戶在風險即將發生的時候收到警示，能夠非常簡單直接地進行處理。

事實上，抖音針對文本內容的系統模型已經很成熟，所以它可以主動地判斷文本是否匹配謾罵或騷擾，一旦認定就會直接將私信拉到垃圾信息中。我們用2個相互為陌生人的個人賬號進行了測試，文字中帶有明顯辱罵的內容就會被自動屏蔽。官方數據表明，這項同樣今年1月份才上線的功能，會每天將超過9萬條私信列入垃圾信息，讓7萬多用戶避免與惡意信息直接接觸，這個設計非常的不錯。

相對于私信，評論的“威力”會更大一些，畢竟評論是完全公開的，大家都能看到，而且惡意評論更容易起到煽風點火的效果，所以針對評論發文也必須要有相應的管控措施。抖音的第一步操作是針對發文者，如果判斷到發文內容存在風險，就會主動彈窗提示“確定要發送這條評論嗎？”告知用戶可能違反社區公約，建議重新編輯。

雖然發文者也可以無視提醒繼續發送，但根據我們的測試來看，雖然在發文者客戶端上可以看到評論正常出現，其他人并不能看見被密封在“真空”里的這條評論。而且每次填寫惡意信息都會彈窗，寫多少條就彈多少次，每次我們都選擇“仍要發送”，而每次的最終結果都是無法被外部看見，這樣的表現確實相當不錯。

不過，并不是所有的評論都屬于直接謾罵，很多殺人誅心的話從文字角度來說也并不犀利，比如劉學州事件里就有人評論“穿著名牌鞋在三亞玩，卻哭訴自己沒地方住，很心機”。針對這種相對隱蔽的網絡暴力，系統模型顯然無法完全屏蔽，因此抖音也新增了評論權限設置功能，可以在“權限設置-高級設置-誰可以評論”中，設置具體某一條視頻的評論權限，有“所有人”、“僅粉絲”、“僅互關朋友”、“僅自己”四個選項。

事實上轉發和合拍也有權限設置，可選擇“所有人”、“僅互關朋友”和“僅自己”，一定程度上遏制了針對本人賬號的直接網暴行為。

前面我們提到的幾項技術都是從內容端來嘗試掐斷網絡暴力的苗頭，但對于那些已經受到傷害的用戶來說，依然需要平臺提供一個可疏導情緒的窗口，因此，抖音特意推出了“心情暖寶寶”小助手，目前會以三種形式觸發對話，第一是抖音基于系統模型，比如根據你發布的內容、評論和私信命中你可能會遭遇情緒問題，這時候“心情暖寶寶”就會主動發起對話，第二是用戶主動私信“心情暖寶寶”賬號來發起對話，第三則是通過“我-我的客服-自助服務-情緒關懷助手”進入會話。

根據我們的測試結果來看，它的確可以減少推薦可能會讓人產生負面情緒的內容，實用性還挺不錯。

作為網絡暴力不時出現的互聯平臺，如何預防和懲治這種惡意行為，是包括抖音在內的社交媒體們不可推卸的義務。在國內首次系統性地推出預防網暴的8大功能，顯示了抖音的全局觀、價值觀和科技力。從方式方法來看，有平臺根據系統模型主動識別，進行警示或者關懷，也有用戶根據自身需要，對與其交流的“人”與“文”進行自主管理，體現了平臺的支持，又給予了用戶自主權與自主能力。

當然，網絡暴力絕不會因此而絕跡，因為抖音這8大功能大多是針對用戶與用戶之間的交流來進行干預，施暴者依然可以不直接評論或私信，而是通過發布內容，結合話題炒作的方式來引發群體效應，同樣可以對作為第三方的受害人造成傷害，這就需要平臺升級更多的能力覆蓋更多的場景去及時處理。

大多數時候，網絡暴力的一方不曾想到會輿論失控導致嚴重后果，另一方則因為對“網絡審判”束手無策直至絕望，雙方都缺乏法律意識，不懂得用法律武器保護自身權益，所以普法對于網絡暴力事件來說是最好的“治本”方案。社交平臺的努力方向則主要是從源頭上遏制網絡暴力的發生。所以，當我們看到抖音做出多項調整時，心里還是倍感欣慰的，愿網絡的陰暗角落也有陽光普照吧。