破局立新：短視頻平臺內容審核機制創新探析

黃楚新 賀文文

（1.中國社會科學院新聞與傳播研究所 ，北京 100732 ；2.中國社會科學院大學新聞傳播學院，北京 100732）

短視頻作為當今新興的傳播形態，其所具有的視覺表現力和沖擊力，使得全民參與、全民圍觀的互聯網短視頻狂歡變成全新的媒介奇觀，也為傳媒業態變革帶來新的契機。在技術革新的賦能下，短視頻、直播產業蓬勃發展。然而在人口紅利見頂，行業增速放緩的階段，部分短視頻創作者為吸引和留住用戶注意力，對內容審核機制進行特殊規避，創作內容中夾雜涉黃、涉暴等不良元素，“擦邊球”等內容生產現象頻發。龐雜的短視頻內容生態為平臺內容審核帶來巨大挑戰。智能、精準和高效的內容審核標準成為擁有龐大用戶群體的短視頻平臺新的追求目標。內容審核機制的不斷革新，對于構建健康內容生態、規范行業發展秩序、傳播社會主流價值具有重要意義。

1.短視頻平臺內容審核生態現狀

近年來，我國互聯網短視頻用戶規模穩步增長，截至2021年12月，短視頻用戶規模達9.34億，較2021年6月增長4600萬，占網民整體數量92.8%。[1]短視頻使用時長已反超即時通訊領域，成為占據用戶網絡時間最長的網絡應用。[2]以引跑中國短視頻行業的抖音為例，經過數次迭代升級，目前抖音是集創意短視頻、電商、直播等功能于一體的多領域綜合網絡社區。截至2021年9月，抖音系日活約6.4億[3]，優質內容生產是短視頻平臺維持用戶活躍度及黏性進而拓寬商業化路徑的根基，為與平臺內容創作者實現共同“增量”的雙贏局面，抖音自2020年9月以來持續推行創作者扶持計劃，以百億級流量資源扶持各垂直領域分賽道優質創作者及內容產品，助力創作者拓寬流量變現渠道，實現價值增益。巨大的流量紅利和平臺扶持刺激短視頻內容生產方的激烈競爭，平臺內容審核生態產生新變化。

1.1 生產全民化與機構化并存，待審核內容基數劇增

短視頻以其準入門檻低、內容碎片化、多場景適應等特征在行業誕生之初就迅速實現了用戶的大規模覆蓋，每一個用戶都是一家“媒體機構”。近年來短視頻領域蓬勃發展，吸引大量資本涌入市場，平臺發展定位迎合市場需求，導致大量專業MCN（多頻道網絡）機構應運而生，為短視頻內容創作者提供綜合支持。在此背景下，短視頻內容生產數量呈指數型增長，僅2021年抖音平臺視頻發布總量逾7.9億條[4]，待審核視頻內容劇增，全天候無間斷的內容上傳也使審核人員分身乏術。在傳統傳播視野下，新聞從業者從信息采集和篩選階段便開始“把關”，但短視頻平臺依賴UGC（用戶生成內容）內容生產模式，用戶往往不具備專業的媒介素養，導致信息在產制過程中的第一步“把關”環節丟失，壓力遷移至平臺后臺的AI審核及人工多輪復審。當前短視頻平臺“把關”活動日趨復雜，雖然平臺不斷規范內容審核機制、增加關口，但囿于海量待審核視頻，其效率與效力卻不如傳統媒體專業記者與編輯人員，“人人都是把關人”的口號與倡議實則并無太大效用。因此短視頻平臺的蓬勃發展帶來的不僅是巨大的經濟利益和傳媒業態變革，也帶來一系列如審核內容基數大、把關人作用弱亟須解決的核心問題。

1.2 短視頻平臺間互聯互通，打破審核技術壁壘

截至2021年11月，我國憑借115萬5G基站數量、4.5億5G終端用戶數量領先全球。5G時代的到來，為短視頻未來向更高水平發展奠定了堅實的技術基礎。以記錄與傳遞為核心功能的媒介力量正被引導著發揮更多公共性的引導價值，通過對生活圖景的完整記錄與內容共享，各大互聯網短視頻平臺正在通過連接與傳播不斷發揮更多公共性正向效能。

基于短視頻內容傳播特性，平臺間的互聯互通成為短視頻平臺發展與網絡內容風險控制的一大戰略舉措，多平臺協同分發有效提升了傳播效果與風控能力，跨平臺互動已成為眾多短視頻平臺前端面向用戶的重要功能。平臺后端則依靠云審核平臺，通過標準化和智能化提供統一服務，在降低成本的前提下最大限度滿足內容信息安全，這為短視頻內容審核機制與技術的共享提供可能。當前，我國互聯網短視頻的跨平臺聯動主要存在兩種方式。一是在上級母公司指導下構建內容生態閉環，施行企業旗下子平臺間互聯互通。典型案例是字節跳動旗下以今日頭條為主體構建的傳播矩陣閉環，下設占據不同市場定位的短視頻平臺，包括抖音、抖音火山版、西瓜視頻和抖音極速版，不同平臺間相互引流，打破內容分享與技術壁壘，實現跨平臺聯動。二是通過企業合作和技術賦能，實現短視頻內容的雙向流動。如抖音和微博采用聯動合作，一方面吸引微博用戶觀看抖音視頻，另一方面通過短視頻的強黏性增強微博用戶互動量和活躍度。平臺間內容的雙向流動，也促使短視頻平臺為保證平臺流出視頻的質量符合流入平臺的監管要求，不斷健全內容審核機制，人機協同審核能力不斷提升。

1.3 技術升級助力內容審核，“算法+人工”雙重保障

當前我國互聯網短視頻平臺內容審核機制大多施行“AI算法機器人+平臺人工審核”的雙向把關制度。抖音采用視頻消重機制、特征標簽識別機制及流量推薦復審機制等形式進行日常平臺傳播內容的審核。AI算法機器人會直接篩選出明顯有違規信息的視頻進行屏蔽以及限流，再將審核出的疑似違規內容進行打包分發，下放至人工內容審核部門進行鑒定。復審環節則是對人工審核內容和所給出的指導意見進行研判，可以說復審環節也是評判審核部門員工審核質量的重要環節。

我國短視頻平臺在發展之初，曾對人工智能審核和機器審核產生過度依賴。早期基于“對庫”審核機制下的人工智能雖可以不間斷快速識別違規內容信息，但缺點在于無法精準判斷，問題頻出。為了盡可能保證對內容的精準判斷，各大互聯網短視頻平臺不斷引進高精尖技術人才，把深度學習、大數據分析、聲音圖像識別等技術不斷融入AI算法運行中，運用于短視頻內容審核一線。但部分內容創作者仍尋找審核漏洞，突破平臺規則。在此背景下，人工審核的作用也開始被業界重視，就目前來看，我國短視頻行業人工審核職業短時間內依舊無法被代替。

在人工審核員的選擇上，無論是國家政策制定層面還是短視頻行業自律層面都進行了較為嚴格的規定。2019年國家對開展短視頻服務的網絡平臺進行了新一輪根據《網絡短視頻平臺管理規范》的規定：“網絡平臺開展短視頻服務，應當根據其業務規模，同步建立政治素質高、業務能力強的審核員隊伍。審核員應當經過省級以上廣電管理部門組織的培訓，審核員數量與上傳和播出的短視頻條數應當相匹配。原則上，審核員人數應當在本平臺每天新增播出短視頻條數的千分之一以上。”[5]

為降低風險內容的出現以及滿足龐大內容審核需求，互聯網短視頻平臺當前均實行24小時不間斷人工+AI算法機器人的方式進行審核，但由于人工審核工作中具有較強主觀性，在內容審核中依舊存在無法完全保證審核精準性與客觀性的情況。

2.短視頻平臺內容審核現實困境

在短視頻產業急速擴張的過程中，部分內容創作者片面追求“流量至上”“數據為王”，對于內容生產出現價值偏離，導致惡意競爭、虛假信息、低俗內容、版權侵權等背離短視頻創作規范的亂象頻繁出現。受審核制度、侵權形式及價值導向的影響，短視頻平臺內容審核層面仍存在諸多問題。

2.1 先放后審，把關后置：平臺內容審核滯后

互聯網短視頻平臺雖經過幾年發展已初步具備一定內容審核經驗，但以抖音為代表的頭部平臺在部分內容的審核以及把關中仍需要進行更多努力與研判，對于不良信息與不良視頻的傳播影響認識不足，未扮演好“把關人”的角色，在履行社會責任方面存在失范現象。首先，當前短視頻平臺多采用以算法推薦技術為核心對視頻內容的審核進行先放后審的后置“把關”模式。這里所說的先放后審并不是指用戶視頻上傳暢通無阻，而是需要先經過算法程序的智能把關，即初審。然而與傳統媒介環境中經過編輯層層篩選的嚴密把關制度不同的是，算法把關不具備對視頻的真實表達偏離主流價值與否進行判斷的能力，容易在流量化價值邏輯的驅使下造成窄化、失真、低俗信息的大量傳播。其次，作為算法審核的重要補充的人工審核的二次把關作用也不盡如人意。目前，抖音的內容審核部門實行三班制輪崗，對疑似違規視頻進行24小時審核，但是由于平臺用戶群體龐大，UGC內容生產作品數量不斷堆積，導致在崗審核人員工作強度大、效率偏低、失誤率較高以及主觀色彩強的情況。雖有復審機制，但一些“擦邊球”視頻采取“降流”舉措后仍然可以被小部分用戶觀看，并未對違規視頻形成嚴格限制，對日益增長的用戶群體與作品數量，當前的內容審核流程及審核處理方式并非長久之計。

2.2 規則缺失，界限模糊：短視頻內容侵權形式異化

短視頻用戶黏度日益提升，規模巨大的用戶群吸引大量資本入場，短視頻內容營銷隨之興起，內容侵權問題也伴隨內容營銷的發展愈演愈烈。短視頻內容侵權問題因其規則缺失、界限模糊的特性一直是各大短視頻平臺難以處理的領域，監管力度的薄弱也導致該問題不斷惡化，甚至出現侵權樣態異化現象。

首先是音樂版權規則缺失問題。音樂是短視頻平臺內容傳播過程中不可缺少的重要組成部分，但版權歌曲“一歌多用”“胡用亂用”“惡意剪輯”等現象層出不窮，特別是少數民族語言類音樂，受限于語言因素，其識別和審核難度升級。上述問題在內容監管中較難發現且難以處理，懲處界限模糊。短視頻內容傳播中，在助力內容創作者與其作品出圈上，音樂是不可或缺的重要元素。用戶在進行短視頻內容創作時，往往為了符合傳播內容要求忽略“先獲權，再使用”的操作路徑，把其當成“免費午餐”。當版權音樂進入短視頻平臺后，內容創作者與音樂版權方的市場鏈條缺失、短視頻傳播的強分散性使得包括二次創作音樂的內容版權如何清晰界定成為棘手問題。

其次是原創視頻的搬運抄襲問題。因為對直接搬運視頻的侵權識別與監管較為容易，所以視頻內容侵權也隨著監管機制的升級演化出各種手段。簡單的畫面顛倒、鏡像以及畫面畫幅裁減，都成為當下短視頻侵權者逃避抖音內容侵權監管的手段。此外雷同視頻內容配以不同畫面比例和畫面方向的短視頻也層出不窮。一些視頻制作者也在積極維權，在自己賬號中發布對比視頻，控訴違規者對自己的侵權行為，但維權收效甚微，甚至該條侵權視頻熱度下降后其被侵權作品會再次被剽竊。目前，各大短視頻平臺不斷出臺相關政策完善監管體系，如抖音對優質短視頻創作者進行標識認證，一定程度上保護了一批頭部創作者的短視頻內容版權，但對大多數普通用戶的原創短視頻內容尚未采取有效的保護手段。

2.3 資本裹挾，被動管制：短視頻內容審核外緊內松

針對內容生產亂象，各大短視頻運營商已制定明確的內容審核監管規則，如抖音發布網絡社區公約，其中有數十條條約明確規定平臺禁止發布和傳播的內容范圍，內容審核人員也會定期對網絡傳播生態中熱點及審核盲區進行總結。但平臺中仍存在一些低俗內容及違規短視頻并未得到有效封禁，例如，暗含涉黃、涉暴內容的視頻仍存在小范圍高熱度傳播情況，甚至經用戶多次投訴也未獲得有效快速處理。首先，短視頻平臺因其商業屬性易陷入“流量VS自律”的矛盾中。資本的逐利性使短視頻平臺追求流量化價值邏輯，以搶占用戶注意力為基本指標，忽視自身擔負的社會責任和價值引領作用，缺乏主動管制的動力。對有旺盛市場需求并為平臺帶來巨大利潤的服飾、美妝、本地生活服務等垂類領域，短視頻平臺實行寬松的監管模式，忽視部分短視頻宣揚的過度消費主義等偏離社會主流價值的內容，甚至為其提供運營和流量扶持。對平臺外的侵權行為，如大量對長視頻平臺作品的無版權剪輯、切條短視頻作品，平臺僅對被舉報的短視頻做刪除下架處理，忽視視頻版權保護義務。其次，短視頻運營商以技術中立為借口，短視頻內容審核高度依賴算法判斷。而與此相悖的是算法背后的編寫邏輯和運行規則由平臺方自主研發和調試，算法后臺“黑箱式”運作模式難以監管，內容審核的松緊程度由平臺自己把握，這就造成平臺內容審核外緊內松的現狀。

3.短視頻平臺內容審核機制創新路徑

當前短視頻行業已步入存量競爭的階段，以內容導向為起點的短視頻行業仍需回歸內容本身，才能實現拉新破局的節點性突破。著眼網絡治理全局，從政策、平臺、用戶層面加強我國互聯網視頻平臺內容審核舉措，才能遏制短視頻內容生產亂象，構建網絡良性內容生態。

3.1 政策約束：內容分級與社會監管并舉

當前短視頻平臺與傳統媒體的內容審核機制在靈活度、廣泛性、信息質量等方面均有不同定義，審核流程差異較大。傳統媒體在監管體制中注重把握規范性與專業性，謹慎執行內容審核相關法律法規。相較于專業的傳統信息傳播平臺，短視頻平臺具有強娛樂化傳播范式，因此在內容監管的法律法規制定上需要“因地制宜”，以立法立規為主，行業監管為輔，并在監管“紅線”內給予適當容錯空間。

一是政策層面，推行短視頻內容分級制度。政策出臺與法律法規制定可以從根本上促進行業健康發展，對內有力規范平臺行為，對外避免過多外界因素干預。在完善的法治體系下，可以以獎懲公開為原則實行互聯網短視頻內容分級制度，深化行業改革。當前我國小說業、影視業、游戲業分級制度逐步落實，短視頻行業內容分級勢在必行。具體來說，內容分級制度需要以政府為主導制定合理清晰的分級規則系統；以平臺為具體實施者在視頻內容發布時根據內容進行等級標注，并通過該級別劃分推送至可觀看用戶人群；以用戶為監督者，拓寬用戶投訴舉報渠道，完善平臺共治機制，強化用戶在平臺中的主體意識和責任。當前各大短視頻平臺紛紛出臺青少年模式，但青少年需求與成年人存在較大差別，一刀切的以時間限制為手段難以突破青少年網絡權利和網絡保護的博弈，內容分級制度助力平臺青少年模式構建健康有序的網絡表達空間，有效保護青少年網絡權益。

二是社會監管層面，構建由用戶、平臺、青少年家長及相關權益保護人士合力而成的短視頻監管長效機制。目前短視頻平臺的內容審核及違規信息的處理很大一部分源自用戶舉報，用戶監管發揮重要效能。因此在平臺功能設計上需健全舉報功能，設立專門的舉報模塊，拓寬用戶投訴渠道。違規內容舉報機制的設立是平臺對用戶的賦權，可以分擔當下部分短視頻平臺內容審核部門的工作壓力，使每一位短視頻用戶都成為平臺內容審核的監管力量。分權思維將為短視頻平臺內容審核降低成本，提高監管效果。

3.2 平臺約束：技術升級與復審機制共建

短視頻平臺在內容審核環節需要強化社會公器意識，承擔媒體社會責任，發揮價值引領作用。在此過程中，技術升級可成為有力抓手，深化技術在短視頻內容生態治理層面的效能。目前國內短視頻內容分級和過濾技術處于摸索階段，相關第三方軟件技術尚不健全，需要平臺挖掘相關領域技術人員研發符合平臺調性的分級過濾技術，形成高效有序的短視頻智能監控機制。

從當前短視頻平臺內容審核流程來說，只有一部分平臺設置復審機制，且力度不一。在設置復審機制的短視頻平臺中也存在復審“走過場”的現象，平臺需嚴格防范復審機制成為審核人員的績效考核指標，不能真正發揮內容二次及多次審核的實際效用，同時對復審后存在問題的短視頻也應加大打擊懲治力度。此外，復審機制有賴多方協助監督，應暢通便捷舉報通道，對AI審核、首輪人工審核未能發現的違規視頻等“漏網之魚”一網打盡。政府監管部門和平臺也要建立投訴受理程序，及時回應用戶投訴、建議并反饋整改結果。由于短視頻內容層出不窮、熱點不斷，審核機制與違規條例也應因時而變，緊跟當下熱點事件，防止出現審核規則遠遠落后于實際問題的情況，切實提高互聯網短視頻平臺的內容審核質量。2021年5月20日，抖音《電商創作者管理總則》正式落地，提出“應知明知責任”，治理效果顯著，截至2021年12月抖音平臺處罰違規創作者97.1萬名。2022年2月9日，抖音安全中心發布《關于打擊借冬奧對運動選手網暴、造謠的公告》，治理違規視頻、評論內容6780條，對331個違規賬號予以懲治。

3.3 用戶管理：劃分用戶結構，提升用戶自律

網絡社會秩序形成的初級階段主要依靠身份和心理契約。技術和硬件為網民提供了一個“大陸板塊”，“登陸者”自生、自發形成社會共同體。[6]短視頻平臺在強大算力支撐和網絡實名制政策支持下對用戶職業、年齡、知識水平等信息進行結構劃分，成為維護平臺秩序的有力措施。用戶真實信息及隱私在公共空間相互隱匿，但實名制的注冊方式為用戶示警，網絡并非法外之地，清朗網絡空間的構建需要用戶共同努力。同時，要把握技術革新對用戶結構劃分帶來的優勢，后臺可形成獨立用戶的可識別身份信息庫，實現對不同用戶的精準畫像，從而進一步預測該用戶的內容發布趨勢和質量。針對不同用戶采取不同等級的監管措施，并在后臺通過數據庫的形式，著重記錄未來潛在違規風險內容發布的相關用戶，做到提前備案及預防。

同時，作為互聯網短視頻平臺，應不斷宣傳良好的互聯網內容生態環境對用戶生活的現實意義，普及違規違法視頻的懲罰措施。目前抖音平臺已出現例如“抖音安全中心”等相關賬號，以官方賬號為載體向大眾普及平臺違規內容案例及舉報流程，在減少平臺違規內容的蔓延上效果顯著。

結語

當前，短視頻行業發展逐漸從增量市場向存量市場過渡，借助信息生產輕量化、傳播渠道立體化、市場下沉化等特征，已成為移動互聯時代的常態化表達方式。[7]為促進互聯網短視頻平臺規范向善發展，內容審核亟待加強，應在政策法規上實行內容分級與社會監管并舉，在平臺方面實現技術升級與復審機制并舉，在用戶層面合理劃分用戶結構，提升用戶自律與媒介素養。互聯網短視頻平臺在內容監管審核層面任重道遠，唯有政策、平臺、用戶三方聯動，短視頻平臺視頻內容才能呈現高質量發展態勢，打造良好內容生態。