互聯網企業平臺內容有效治理的幾點思考

摘要：隨著互聯網和信息技術的發展，互聯網內容呈現爆發式增長，“人人都有麥克風，人人都是自媒體”。UGC（用戶生產內容）的模式讓互聯網內容更加豐富的同時，也帶來了內容良莠不齊的嚴峻問題。互聯網內容治理成為擺在管理部門面前一項重要而緊迫的課題。本文探討了互聯網企業應發揮平臺責任，在政策學習和理解、制度建設以及應用科技手段方面進行內容治理的一些思考。

關鍵詞：平臺責任；內容治理；落實政策；建立機制；科技手段

引言

隨著信息技術的發展和手機等智能終端的普及，各種自媒體傳播方式不斷出現，互聯網已經進入“自媒體”時代，互聯網內容呈現爆發式增長，UGC的模式讓互聯網內容更加豐富，但同時也帶來了良莠不齊的嚴峻問題。黨的十八大以來，黨中央和國務院多次強調互聯網的發展要“依法治網、依法辦網、依法上網，讓互聯網在法治軌道上健康運行”。習近平總書記在“4·19”重要講話[1]中指出，“網絡空間是億萬民眾共同的精神家園。網絡空間天朗氣清、生態良好，符合人民利益。網絡空間烏煙瘴氣、生態惡化，不符合人民利益”。“我們要本著對社會負責、對人民負責的態度，依法加強網絡空間治理，加強網絡內容建設，做強網上正面宣傳，培育積極健康、向上向善的網絡文化，用社會主義核心價值觀和人類優秀文明成果滋養人心、滋養社會，做到正能量充沛、主旋律高昂，為廣大網民特別是青少年營造一個風清氣正的網絡空間。”“網絡安全是共同的而不是孤立的。網絡安全為人民，網絡安全靠人民，維護網絡安全是全社會共同責任，需要政府、企業、社會組織、廣大網民共同參與，共筑網絡安全防線。”互聯網企業作為互聯網內容平臺的運營主體，必須提高認識、加大力度，承擔主體責任。平臺運營主體必須在互聯網內容治理中發揮關鍵作用。

1. 正視問題以高度責任感擔起內容安全主責

互聯網企業作為提供內容傳播的平臺和渠道，應該以高度的責任感來承擔互聯網內容治理和凈化的職責。近年來，網站平臺積極履行信息內容管理主體責任，在保障信息安全、規范傳播秩序、維護良好生態等方面，發揮了主體作用。但是，也有部分網站平臺仍存在責任認識不充分、角色定位不準確、履職盡責不到位、制度機制不完善、管理操作不規范等問題，一定程度上導致了違法和不良信息禁而不絕，網絡生態問題時有發生。

1.1 樹立正確導向，加強黨建引領

作為以內容為主業的企業，內容安全是生命線。必須堅持政治站位，持續強化政治導向，堅持學習貫徹黨的會議精神和政策方針。始終堅持正確的政治方向、輿論導向和價值取向，確保內容安全。企業應加強員工的思想政治教育，切實提升政治意識和業務能力，進一步嚴格把好政治關、導向關。有條件的互聯網企業根據人數應該開展黨組織生活，成立黨小組、黨支部、黨總支乃至黨委各層級的黨的組織機構。充分發揮基層黨組織戰斗堡壘作用和共產黨員先鋒模范作用，提高政治站位，增強政治覺悟，強化責任擔當。

1.2 貫徹政策要求，認真對標對表

近年來，國家出臺一系列與互聯網安全相關的政策文件。2020年3月1日開始施行的《網絡信息內容生態治理規定》，明確了正能量信息、違法信息和不良信息的具體范圍，明確網絡信息內容生產者應當遵守法律法規，遵循公序良俗，不得損害國家利益、公共利益和他人合法權益，不得制作、復制、發布違法信息。應當采取措施，防范和抵制制作、復制、發布不良信息[2]。2021年9月，國家網信辦發布《關于進一步壓實網站平臺信息內容主體責任的意見》，首次系統提出網站平臺履行信息內容管理主體責任的工作要求，從完善平臺社區規則、加強賬號規范管理、健全內容審核機制、提升信息內容質量、規范信息內容傳播、加強重點功能管理、堅持依法合規經營、嚴格未成年人網絡保護、加強人員隊伍建設等9個方面，對網站平臺履行主體責任提出具體要求。作為內容治理的主體，網站平臺應嚴格按照相關政策要求，擔當作為、履職盡責，切實發揮好網站平臺信息內容管理第一責任人的作用。

2. 建章立制，以完善的機制為內容治理夯基架梁

加強網絡內容安全建設，加強風險防控，已成為互聯網行業的必然要求。互聯網企業應高度重視安全建設，定期舉辦包括公司管理層參與的專項培訓活動，特別是針對內容安全管理方面，切實提升全員的安全責任意識。在體系建設方面，企業更應全面從嚴，堅持高標準、嚴要求。企業應在遵守國家各項政策的基礎上，制定各項規章制度并落實執行，例如總編輯負責制、多層級內容審核機制、應急管理及保障制度、安全巡檢制度等，從制度層面為企業的內容安全管理工作保駕護航。

2.1 建立以總編責任制為根本的多層級審核制度

2016年，國家網信辦就互聯網從事新聞信息的網站專門提出了建立總編責任制的要求。總編輯要對新聞信息內容的導向和創作生產傳播活動負總責，完善總編輯及核心內容管理人員任職、管理、考核與退出機制。2020年，《新聞出版署關于進一步加強網絡文學出版管理的通知》中明確要求[3]，建立健全內容審核機制，網絡文學出版單位須設立總編輯，建立健全編輯委員會，強化內容把關職責，總編輯對涉及內容導向問題的事項具有否決權，對發布作品的內容質量負總責。各類生產互聯網內容的圖、文、音視頻等各類數字內容的互聯網企業，包括網絡音樂、網絡動漫、長短視頻等各類平臺。這些平臺均應建立總編責任制，總編輯作為網站內容的第一負責人和總負責人。在此基礎上，建立多層級內容審核機制。目前各類互聯網網站都已經有內容審核的相關工作，但在管理和要求上都不盡一致[4]。機制完善的網站大多建立了“三審”制度：編輯一審，責任編輯二審，分管領導三審。“三審”制度中，以“人防”為主、“技防”為輔，兩相結合，取長補短，最大程度消除內容安全隱患[5]。

2.2 建立應急管理制度

應急管理制度是為了預防和控制潛在的事故或緊急情況發生時，做好應急準備和及時響應，最大限度減輕可能產生的事故后果而制定的制度。各平臺企業應建立應急管理制度和制定完善的應急預案，包括人員、應急工作流程以及向上級匯報的渠道和途徑等各個方面，對于出現的疑似違規內容，第一時間進行證據保留并立即屏蔽和下架違規內容，同時主動向上級主管部門進行匯報。

2.3 提升崗位能力模型建設

與普通管理崗位不同，安全問題可能隨時發生，這就給安全審核人員提出了更高更切實的要求，要有敏銳的觀察力和快速決策的能力，把安全問題降到最低程度。為此，各企業針對網絡安全人員特別是內容安全審核人員建立了崗位能力模型建設，設置初級、中級、高級審核崗位，針對不同的崗位，制定明確的能力要求。初級審核員要求具備基本的內容體系知識，能夠在指導下按既定的流程完成基本工作，解決常見問題；中級審核員要具備豐富的內容安全體系知識，可獨立完成審核工作中各項流程，能夠準備發現或識別明顯的內容問題；高級審核員要求掌握領域內專業知識，具備風控意識，具備團隊管理能力，有一定正確的判定能力，定方向、定策略、定節奏來完成工作任務。

2.4 完善安全巡檢制度

日常巡檢工作是發現風險隱患的有效手段，互聯網企業應開展日常巡檢工作，包括查思想、查制度、查紀律、查管理、查措施、查隱患在內的多項檢查工作。巡檢工作應遵循“查漏補缺”的原則，突出“檢查的復查和落實”“管理的監督和考核”，在巡檢過程中做到巡檢有記錄、檢查有目標、查后有改進，推動內容管理更加完善詳盡。

3. 人技結合，以技術反制技術，以人防強化技防

20多年來，我們的互聯網發展取得了一些技術方面的成就，但是同世界先進水平相比，同建設網絡強國目標相比，還是存在不小的差距，特別是在內容審核技術成為保障互聯網健康發展重要手段的今天，適應智能化、多模態、實時性的技術發展趨勢，應對錯判率、算法攻擊、多語種審核等技術挑戰，不斷提高內容審核技術的精準度和安全性，是每個互聯網企業持續攻關的重要課題。

3.1 利用人工智能、大數據技術強化機器審核內容安全

目前市場上有專業公司提供機器進行內容審核的服務，各大互聯網企業平臺也都有自己的機器審核技術和平臺。各企業高度重視技術手段，運用最新的技術進行內容的初篩與把控，建立敏感詞庫并隨時更新，利用技術手段提升審核能力與審核效率，形成覆蓋涉政、涉黃、涉恐、惡意推廣、低質灌水、官方違禁內容庫等多維度多層面的審核維度，為業務健康發展保駕護航。平臺公司應加大技術研發和攻關，從語義分析、知識規則匹配、用戶分析、異常行為識別、命名實體識別、場景分析等多方面進行綜合處理監測，利用機器學習技術，將大量違規數據和正常數據提供給機器學習，通過機器強大的自學習能力，不斷提高鑒別的準確度，向用戶標準靠近[6]。

3.2 建立人員配備充分、培訓機制健全的組織架構

內容安全團隊管理具有復雜度高、質量要求高、業務分支多、人員數量多、跨地區溝通、協作頻繁、規則更新快等特點，這些復雜的情況給內容安全審核業務的交付質量增加了難度，也提出了很大的挑戰。各平臺企業應建立合理的組織架構，配備充分的人力保障內容安全審核工作，配備與業務規模相適應的編輯和安審人員，增加內容審核人員數量[7]。同時，制定明確的培訓計劃，可以建立月度培訓會、一定范圍內的雙周經驗交流會，以及有重大事項的專題培訓會等，對各級編輯開展定期或不定期的培訓，有針對性開展業務培訓，持續提升能力素質。

結語

網絡內容治理是建設清朗網絡空間、營造良好輿論環境的重點內容，關乎國家發展，關乎社會長治久安，更關乎青少年健康成長，樹立正確世界觀、人生觀、價值觀的重要事情，各互聯網平臺企業要在主管部門的指導下，積極承擔主體責任，擔當作為，真抓實干，切實履行好內容治理的責任和義務，為新時代網絡強國建設做出新貢獻。

參考文獻：

[1]習近平在網信工作座談會上的講話全文發表[EB/OL].（2016-4-19）[2016-4-25].http：//www.xinhuanet.com/politics/2016-04/25/c_1118731175.htm.

[2]國家互聯網信息辦公室.網絡信息內容生態治理規定[EB/OL].（2019-12-20）[2020-3-1].http：//www.cac.gov.cn/2019-12/20/c_1578375159509309.htm.

[3]新聞出版署關于進一步加強網絡文學出版管理的通知（國新出發〔2020〕11號）[A/OL].（2020-6-5）[2023-8-15].https：//www.gov.cn/gongbao/content/2020/content_5551816.htm.

[4]陳璐穎.互聯網內容治理中的平臺責任研究[J].出版發行研究，2020，（6）：12-18.

[5]張莉婧.出版融合背景下數字出版內容審核策略[J].中國傳媒科技，2020，（7）： 17-20.

[6]陳奎蓮.AI在數字出版內容審核中的應用研究[J].出版廣角，2020，（10）：15-18.

[7]孫群.自媒體內容安全審查邏輯與發展空間[J].青年記者，2019，（2）：83-84.

作者簡介：郭棟，碩士研究生，副編審。