“監(jiān)管+自律”整治直播亂象

劉建東

作為一種新興的商業(yè)模式，近兩年，網(wǎng)絡(luò)直播發(fā)展迅猛、熱鬧非凡。花椒、映客、熊貓、微吼、樂嗨等諸多直播平臺如雨后春筍，騰訊、新浪、小米等互聯(lián)網(wǎng)企業(yè)和電信企業(yè)也紛紛進軍這一領(lǐng)域，網(wǎng)絡(luò)直播已成為2016年最火熱的“互聯(lián)網(wǎng)風(fēng)口”之一。

但直播平臺亂象叢生、網(wǎng)絡(luò)直播行業(yè)野蠻發(fā)展也是不爭的事實。文化部7月12日公布，26個網(wǎng)絡(luò)表演平臺被查處、16881名違規(guī)網(wǎng)絡(luò)表演者被處理。如何還網(wǎng)絡(luò)直播平臺清朗？本文淺析網(wǎng)絡(luò)直播亂象產(chǎn)生根源及需要管控的對象，并從監(jiān)管、技術(shù)、自律等層面進行初步探討。

“蟄伏”后迎爆發(fā)式增長

作為一種全新的信息傳遞手段，網(wǎng)絡(luò)直播顛覆著人們觀察世界、連通世界的方式，為人們提供了一種看世界的新鮮方式。偌大的直播平臺上，體育、旅游、游戲、教育等多元的直播內(nèi)容層出不窮，無論什么年齡、什么身份的人，都可以前腳跟隨主播的鏡頭，身臨其境看車展，體會指哪兒到哪兒的便捷，后腳就可以轉(zhuǎn)換頻道進入學(xué)習(xí)模式，和“意見領(lǐng)袖”一起探討如何培養(yǎng)孩子的情商……豐富而有張力的網(wǎng)絡(luò)直播內(nèi)容充滿了吸引力，讓越來越多的人尤其是年輕人欲罷不能，而其本身的即視感和互動性也迎合了年輕用戶的文化消費習(xí)慣。

據(jù)行業(yè)報告顯示，2015年直播行業(yè)市場規(guī)模約為150億元，到2020年總規(guī)模將激增至1000億元。當(dāng)前網(wǎng)絡(luò)直播平臺數(shù)量接近200家，網(wǎng)絡(luò)直播平臺用戶數(shù)量已經(jīng)達到2億，大型直播平臺每日高峰時段同時在線人數(shù)接近400萬，同時進行直播的房間數(shù)量超過3000個。可以說，網(wǎng)絡(luò)直播行業(yè)經(jīng)歷兩年“蟄伏”，正迎來爆發(fā)式增長。

但由于收益模式單一、主播進入門檻低，個別直播平臺為獲取利潤，盯住“很黃很暴力”做文章，鋌而走險。從“直播造人門”“直播脫衣門”“百人試套”到近期的“雪梨槍淫穢視頻”，表演平臺淫穢色情事件頻發(fā)，更有涉政、涉暴恐、涉賭毒等違法事件發(fā)生，網(wǎng)絡(luò)直播亂象已經(jīng)嚴(yán)重阻礙了該行業(yè)的快速發(fā)展。

利益驅(qū)使：導(dǎo)致直播亂象頻發(fā)

那么，直播平臺亂象產(chǎn)生的根源是什么？讓我們從網(wǎng)絡(luò)直播的產(chǎn)業(yè)鏈進行分析。

整個網(wǎng)絡(luò)直播行業(yè)的產(chǎn)業(yè)鏈由直播平臺、主播、工會、資本、監(jiān)管機構(gòu)、用戶、第三方服務(wù)機構(gòu)等環(huán)節(jié)組成。在網(wǎng)絡(luò)直播過程中，直播平臺一般由主播和用戶自身及互動行為來構(gòu)成，通過文字、視頻、音頻三種渠道傳播各類信息。主播、用戶是產(chǎn)生網(wǎng)絡(luò)亂象的“供需”根源，而文字、視頻、音頻是傳播網(wǎng)絡(luò)亂象的“載體”根源。

首先是“供需”根源：主播按照播出內(nèi)容分為秀場主播、游戲主播、泛生活類主播等，由于利益驅(qū)使，部分主播頻頻突破社會公德底線，甚至沖撞法律“紅線”；隨著直播平臺的用戶持續(xù)增長，一些惡意用戶開始利用直播平臺的高人氣和影響力發(fā)送不良、違規(guī)信息，直接或間接地促進了亂象的擴散。

其次是“載體”根源：網(wǎng)絡(luò)直播業(yè)務(wù)中文字分為UGC類（主播頭像、主播昵稱、頻道名稱等）和彈幕類（消息等），尤其是彈幕類內(nèi)容具有傳播速度快、范圍廣、違規(guī)內(nèi)容變化快等特點，依靠傳統(tǒng)“關(guān)鍵字+人工審核”模式不能有效解決內(nèi)容安全問題；目前視頻審核的模式是對視頻做抽幀截圖處理，然后通過圖片識別系統(tǒng)過濾，這個方式存在對違規(guī)圖片識別準(zhǔn)確率不高、通過抽幀截圖發(fā)現(xiàn)問題后立即關(guān)閉直播頻道也難以挽回影響的問題；直播業(yè)務(wù)中音頻內(nèi)容監(jiān)管難度大，目前還沒有直播平臺針對語音內(nèi)容進行識別，語音內(nèi)容違規(guī)現(xiàn)象頻發(fā)。

此外，還存在直播企業(yè)缺少回溯技術(shù)手段以及應(yīng)急保障機制、審核團隊能力欠缺，特別是對涉及意識形態(tài)問題經(jīng)驗欠缺等問題。

三對策完善內(nèi)容安全建設(shè)

要想維護網(wǎng)絡(luò)直播領(lǐng)域的清朗，需要政企雙方共同合作，在監(jiān)管和自律兩方面雙管齊下。

在北京市網(wǎng)絡(luò)文化協(xié)會的組織下，2016年4月13日，百度、新浪、搜狐、愛奇藝等20余家從事網(wǎng)絡(luò)直播的主要企業(yè)負責(zé)人，共同發(fā)布《北京網(wǎng)絡(luò)直播行業(yè)自律公約》，并逐步建立“黑名單”制度，在自律方面做出了榜樣。

而在監(jiān)管方面，從目前直播內(nèi)容依舊頻繁違規(guī)的現(xiàn)象看，依靠單一的文字識別或者圖片識別是不足以解決內(nèi)容合規(guī)問題的，還需要一套完整的內(nèi)容安全體系。因此，可以借力“人工智能”和大數(shù)據(jù)技術(shù)，打造以安全運營為核心的內(nèi)容安全體系，從事前、事中、事后三方面進行整體監(jiān)管。

首先是事前預(yù)防。“防患于未然”是治理“直播亂象”的重要基礎(chǔ)，直播平臺、監(jiān)管機構(gòu)要共同對主播、“網(wǎng)紅”、用戶等參與方加強宣傳引導(dǎo)，樹立互聯(lián)網(wǎng)良好風(fēng)氣；在技術(shù)上，直播間增加水印，實行主播實名制、用戶實名制等。

其次是事中管控。消息、視頻、音頻、主播信息、用戶信息等渠道都可以傳播違規(guī)內(nèi)容，因此“事中管控”需要包含文字識別、圖片識別、音頻識別、UGC內(nèi)容識別以及用戶行為分析等技術(shù)。具體來講包括以下四點。

文本識別：傳統(tǒng)文本識別技術(shù)主要包含關(guān)鍵字過濾、語義分析、文本指紋等技術(shù)以及近期新興起的基于自然語言的“人工智能”技術(shù)。這些技術(shù)各有利弊，在不同場景產(chǎn)生的效果不盡相同，需要組合應(yīng)用才能降低文本信息的風(fēng)險。

圖片識別：該技術(shù)模擬人腦的神經(jīng)網(wǎng)絡(luò)學(xué)識別圖片，通過大量圖片訓(xùn)練后給圖片打分。主要應(yīng)用于在圖片中識別文字、識別人臉、識別色情信息等三個場景。在直播領(lǐng)域通過抽幀截圖的方式把視頻變成圖片，然后通過圖片識別的方式判斷視頻內(nèi)容是否合規(guī)。

語音識別：該技術(shù)就是讓機器通過識別和理解過程把語音信號轉(zhuǎn)變?yōu)橄鄳?yīng)的文本。在直播業(yè)務(wù)中我們利用該技術(shù)把主播聲音轉(zhuǎn)化成文字內(nèi)容，然后通過文本識別的方式判斷語音內(nèi)容的合規(guī)性。

用戶行為分析：基于大數(shù)據(jù)分析技術(shù)，是文字、圖片、語音識別技術(shù)的有力補充，也是識別違規(guī)內(nèi)容的重要手段之一。例如當(dāng)一個直播間出現(xiàn)人流量激增、打賞禮物激增等行為時，可以采取加大監(jiān)控力度等措施。

第三是事后追溯。治理直播亂象僅僅依靠技術(shù)是不夠的，加強法律震懾、提高違法成本也十分重要。例如近期執(zhí)法機關(guān)對違規(guī)主播進行依法打擊，就產(chǎn)生了極大的震懾作用，在一定程度上遏制了網(wǎng)絡(luò)亂象的持續(xù)發(fā)酵。

治理網(wǎng)絡(luò)亂象不能一棍子打死也不能期望一蹴而就，需要多角色多崗位的長時間磨合。在技術(shù)上更需要建立一個完整的內(nèi)容安全體系，而不能僅依靠某個手段就完事大吉。