短視頻內容失范的算法治理邏輯及路徑優化*

劉俊亭

(西北農林科技大學 人文社會發展學院，陜西 咸陽 712100)

0 引言

隨著新興互聯網技術的應用與普及，移動短視頻平臺得以蓬勃發展，得到了受眾的廣泛青睞。根據中國互聯網絡信息中心(CNNIC)發布的第49次《中國互聯網絡發展狀況統計報告》，截至2021年12月短視頻用戶規模達9.34億，人均單日使用時長已超越即時通信軟件，達到125分鐘，成為占據人們網絡時間最長的行業。然而短視頻以其豐富的內容滿足用戶精神需求的同時，也存在泥沙俱下的問題，內容失范亂象頻發，“小紅書推送未成年人性暗示短視頻”“騰訊視頻起訴抖音《掃黑風暴》侵權案并索賠1億元”等事件頻頻將短視頻內容治理的討論推向公眾視野。2022年4月至7月期間，中央網信辦牽頭開展的整治短視頻領域亂象專項行動共清理違規短視頻235.1萬條。短視頻平臺成為了滋生低俗淫穢、著作權侵害等失范內容的溫床，對網絡內容生態和社會和諧穩定造成了負面影響[1]。這一現象不僅引起了網信部門和短視頻平臺對內容失范治理的關注，同時也引起了學界的關切。

國內對短視頻失范內容治理的研究大多從著作權保護切入，對失范內容的侵權認定規則予以闡述，缺少從技術邏輯出發的思路。而近年來在互聯網治理領域時興的算法治理命題可以作為研究短視頻失范內容治理的新思路，學界就算法治理已開展了充分的探討，在肯定算法治理能夠提高治理能力和效率的同時，也指出算法治理問題具有高度的特殊性和復雜性，在推進過程中還面臨短期無法克服的局限，需要將監管部門、企業及公眾等社會主體納入到算法治理共同體中，共同應對算法風險挑戰[2]。

1 短視頻內容失范治理現狀

黨的十八大以來，網絡內容治理的戰略高度不斷提高，習近平總書記指出：“網絡空間是億萬民眾共同的精神家園。網絡空間天朗氣清、生態良好，符合人民利益；網絡空間烏煙瘴氣、生態惡化，不符合人民利益。 ”短視頻雖短，但監管不能“短”[3]，如何在短視頻內容上激濁揚清、營造良好網絡生態，需要在治理方面持續探索。當前，短視頻平臺內容失范治理呈現運動式治理和制度化治理并進的特征，而算法作為平臺運行的底層邏輯，要實現網絡內容治理的目標，算法治理不可或缺。

1.1 運動式治理

自2013年全國宣傳思想工作會議召開后，“清朗”“凈網”等系列專項行動作為內容治理的常規手段，為打擊違法不良信息、營造風清氣正的網絡空間發揮了重要作用[4]。為清理短視頻領域的失范內容，中央網信辦、國家廣播電視總局等部門陸續開展專項行動(如表1所示)，對短視頻失范內容采取集中治理模式。2022年，中央網信辦等三部門開展的“清朗·整治網絡直播、短視頻領域亂象”專項行動，集中整治“色、丑、怪、假、俗、賭”等各類失范內容，共清理違規短視頻235.1萬條，關閉違規用戶賬號12萬個。

表1 短視頻失范內容治理專項行動

與制度化治理相比，作為運動式治理的“清朗”行動能夠在短時間調動行政資源推動政策實施，具有指向性強、治理效果立竿見影等優勢。然而，這種“颶風式”的治理手段只能解燃眉之急，長期效果將日漸式微，而且在實踐中往往需要統籌跨層級、跨部門的行政力量才能順利開展工作，不可避免存在協調不良、行政資源浪費、權力尋租等問題。因此，對短視頻領域失范內容開展的運動式治理，其定位僅是制度建設相對欠缺情況下的臨時性、補強性舉措。

1.2 制度化治理

伴隨著抖音、快手等短視頻頭部平臺的基礎設施屬性日益增強，圍繞短視頻發展涌現的現實問題，強化制度建設，制定和完善相關法律法規(如表2所示)，并將算法治理納入制度化治理常效機制中，將成為未來平臺治理的常態。網信部門的機構改革以及《網絡信息內容生態治理規定》《互聯網信息服務算法推薦管理規定》等法律法規的相繼出臺，體現出當前國家在網絡內容治理的制度化建設成效。其中，《網絡信息內容生態治理規定》對鼓勵傳播的信息、違法與不良信息逐條列明，并明確了政府、企業、社會、網民等主體多元參與協同共治的治理模式。具體到短視頻平臺層面，國家為推動短視頻行業健康有序發展，密集出臺《中華人民共和國廣播電視法(征求意見稿)》《網絡短視頻平臺管理規范》《網絡短視頻內容審核標準細則》等法律法規和規范性文件，細化短視頻審核標準，標志著我國短視頻內容的制度化治理漸趨完善[5]。

表2 短視頻失范內容治理相關文件

在網信部門的主動監管和立法部門制度規制相繼出臺所形成的治理合力下，短視頻內容中的失范亂象得以有效遏制。但從治理鏈條來看，“清朗”系列行動和《網絡信息內容生態治理規定》仍屬于事中與事后監管，治理節點滯后，在事前監管方面仍存在不足，具體表現為治理手段無法介入到失范內容的生產和流通環節中，這與監管部門對平臺算法的介入不足不無關系。

2021年12月31日，中央網信辦等四部門聯合發布《互聯網信息服務算法推薦管理規定》，回應了平臺治理過程中的算法治理缺位問題。該規定強調網信部門負責統籌算法推薦服務的治理和監督工作，并明確提出“算法推薦服務提供者應當落實算法安全主體責任，建立健全算法機制機理審核、科技倫理審查、用戶注冊、信息發布審核等管理機制，建立健全用于識別違法和不良信息的特征庫，發現違法和不良信息的，應當采取相應的處置措施”。這表明在網絡內容治理領域，一方面監管部門介入平臺運行的技術邏輯，并將算法治理納入到制度化治理長效機制中；另一方面，壓實短視頻等互聯網平臺算法安全主體責任，倒逼平臺采取措施助力算法治理落地落實。

2 短視頻內容失范算法治理的邏輯

近年來，短視頻進入“強監管”階段，短視頻的技術面紗逐漸揭開，國家將監管的鏈條延伸至短視頻平臺運行的底層邏輯。為構筑良性內容生態、踐行算法治理主體責任，短視頻平臺依托算法技術逐步建立健全敏感詞網絡數據庫、違規內容數據庫等審核平臺。通過分析發現，短視頻平臺在內容失范治理中，主要存在依托算法介入失范內容生產環節的內部治理邏輯，以及依托算法介入失范內容流通環節的外部治理邏輯兩種方式[6]。

2.1 失范內容生產環節治理

短視頻平臺作為網絡服務提供者，對用戶上傳至其服務器的內容負有主體責任和注意義務，然而大數據時代是一個“信息富裕而注意力稀缺”的時代，平臺審核團隊難以應對海量內容涌入帶來的挑戰，這為實行算法審核提供了契機。平臺方需要轉變傳統審核方式，將有限的注意力投入到建立內容審核算法模型中，構建影視作品二次創作版權數據庫，依托算法將短視頻關鍵詞、視頻畫面、圖文等信息特征與平臺數據庫進行比對，審核用戶發布的短視頻是否存在淫穢低俗等違規內容以及是否超出平臺所購買的影視作品版權范圍，如果疑似存在，就會被算法攔截，通過飄黃、標紅或者顯示不健康指數等提示人工審核員注意。

在實踐中，短視頻平臺普遍采取的是先設計出一套有較高識別準確率的審核算法，在深度學習技術的加持下不斷更新失范內容數據庫，進而提高算法審核水平。如抖音開發的“靈犬”反低俗助手能夠有效識別短視頻中低俗信息，對于用戶上傳的短視頻，“靈犬”在完成關鍵詞提取、視頻分割成幀、圖像識別、聲紋分析等審核步驟后即可檢測出視頻內容的健康指數，整體識別準確率可達到75%。百度開發的短視頻審核API技術則是通過將短視頻內容的標題、簡介、視頻幀、音頻進行統一把關，將視頻內容與海量歷史數據庫進行檢測對比,被過濾出來的低俗淫穢、版權侵害等失范內容將提交人工審核，目前該內容審核模型的準確率高達96%以上。

2.2 失范內容流通環節治理

短視頻平臺作為開放性平臺，其內容傳播邊界和場景不受時空限制，因此依托算法技術對短視頻流通環節把關顯得尤為重要[7]。當通過生產環節審核進入流通環節后，短視頻不會立即進入算法大規模推薦階段，首先要進入冷啟動流量池曝光，意味著短視頻內容會經歷小規模用戶的觀看檢驗。在這個過程中，如果沒能得到足夠的正面用戶反饋(點贊、收藏、轉發或者完播率)，或者收到投訴舉報內容涉嫌違規、侵犯著作權等負面用戶反饋，算法就會對該短視頻內容進行人工復核，并進一步作出限流、降低內容推薦流量或者刪除短視頻內容的舉措。在實踐中，失范內容的發布主體較為集中，往往是基于一個“IP”地址登錄不同賬號發布失范內容，因此可以對失范內容進行溯源，對有該“前科”的發布者降權處理或者封禁。

3 短視頻內容失范算法治理的局限

在算法技術的加持下，平臺在整治內容生態方面頗有成效，較之前野蠻生長的現象已有明顯改觀。但囿于算法技術的“雙刃劍”特性，算法治理仍有滑向“技術利維坦”的潛在風險[8]，即短視頻平臺在流量思維驅使下鼓勵失范內容傳播，以及弱人工智能時代的算法技術同算法治理需求相比還存在一定差距。鑒于此，需要對算法治理的局限進行理性分析。

3.1 流量思維鼓勵失范內容

短視頻平臺失范內容叢生，并不是由于上傳者利用高明的技術破解了平臺上傳限制，而在于失范內容往往自帶話題，能夠將流量引入平臺，這契合了短視頻平臺的商業邏輯，即流量思維。如前所述，短視頻的算法推薦邏輯強調用戶的正面反饋，包括點贊、收藏、轉發等操作。在實踐中，蹭時下熱播影視作品流量二次剪輯或者打性暗示擦邊球的作品往往更能奪人眼球，短時間能收獲用戶的大量點擊，從而為平臺帶來流量紅利。受流量思維的驅使，短視頻平臺開發者設計產品之初是希望通過短視頻傳播這一途徑吸納用戶流量，進而實現流量變現，因此需要警惕算法邏輯背后的流量至上思維。

3.2 技術供給掣肘算法治理

雖然人工智能已經在某些領域嶄露頭角，但目前仍處于弱人工智能時代，只能依據算法命令處理具體工作，為平臺提供經過數據庫驗證、符合失范內容邏輯分析的結果，尚缺乏獨立的判斷思維，很難感知到更為深層次的人類感情。然而短視頻的內容識別極其復雜，即使是人類自己也沒有放之四海而皆準的判斷標準，需要結合當事人的專業知識、社會經驗以及具體話題語境等多方面因素予以衡量，比如算法會將短視頻內容中出現裸身油畫默認為失范內容，而非藝術品。短視頻平臺構建內容審核模型來甄別失范內容實屬不易，通過深度學習技術將復雜的視頻內容納入技術處理框架之路依舊漫長，因此需要持續推進短視頻深度學習技術，為算法治理提供更為先進的技術供給。

4 優化路徑：構建多元主體的協同治理模式

“算法治理”為短視頻平臺失范內容治理提供了新范式，其高效的技術機制能夠批量監測、識別、清理用戶上傳的失范內容，但算法不是全能的，還存在短期內難以克服的“利維坦”局限，只依靠算法治理失范內容難免有失偏頗。與此同時，還需破除“信息繭房”對構建良性內容生態的影響。因此，在推進短視頻算法治理過程中，需要政府部門、平臺方、用戶等不同社會主體各盡其能、協同發力[9]。

4.1 政府加強算法備案審查，壓實平臺法律責任

算法治理離不開政府的引導和制度的保障，因此在推進治理過程中，政府應當運用法治方式規范算法應用，加強對算法技術的備案審查，讓主流價值導向始終駕馭算法，并推行算法全生命周期問責機制，確保平臺落實算法主體責任。具體而言，監管部門應當嚴格遵循算法備案程序，事先對短視頻的算法設計進行評估、審查，糾正其潛在缺陷，并在實際運營中加強對算法技術的監督，讓算法“黑箱”始終處于陽光之下。同時，要嚴格落實短視頻平臺的法律責任，形成全周期監管問責機制，倒逼平臺采取措施嚴把內容關，真正做到“平臺審核預防，政府監管處罰”[10]。

4.2 短視頻平臺承擔研發與合作的主體責任

構筑良性內容生態，短視頻平臺理應有所作為，積極承擔主體責任和社會責任。一方面，短視頻平臺作為失范內容傳播的載體，應當從平臺算法技術研發切入。在算法技術設計之初就將技術帶來的社會效益和風險納入論證考慮，并在實際運營過程中不斷優化算法設計，積極防范風險，反思算法推薦技術可能帶來的技術倫理問題，避免唯經濟利益至上。另一方面，打破零和博弈思想，攜手相關方聯合應對內容失范問題。在推進短視頻算法治理的過程中，單獨依靠某一個企業很難達到治理預期，需要行業、企業實現失范內容數據庫的互聯互通，打破壁壘、加深合作、共同發力。

4.3 發揮用戶端閉環式監督的功能

用戶端是傳播的目標也是重要節點。在算法時代，單個用戶在短視頻平臺的發揮的作用看似微小，但匯聚起來將成為推動短視頻內容治理的重要力量。在弱人工智能背景下，一方面可以通過用戶體驗閉環監控體系，助推失范內容深度學習機制，當用戶對某一內容選擇“不感興趣”或者“一鍵舉報”等負面反饋時，就會增加算法對失范內容的認知程度，從而提升閉環式監督實效。另一方面，通過“黑板報”等形式提升用戶媒介素養和算法素養，教育用戶不主動發布低俗淫穢內容、不侵犯著作權搬運影視作品，自覺遵守用戶協議。

5 結論

未來，隨著短視頻用戶數量和內容數量的快速增長，內容審核的挑戰將會日趨嚴峻。“用戶生產內容”的開放式傳播方式的特征決定了平臺在應對海量內容審核時必須以算法技術為依托，方能實現對用戶上傳的內容進行批量、自動化的鑒別和處理。然而，推進短視頻算法治理的過程中還面臨流量思維、信息繭房、技術倫理等短期無法克服的局限，需要政府、短視頻平臺、用戶三方協同配合，依托算法技術形成治理合力。