新新聞業態下平臺媒體的內容風控實踐與反思

摘 要：近年來，以微博、微信、今日頭條、一點資訊為代表的平臺媒體（Platform Media）異軍突起，給傳統新聞業態注入了新鮮的血液。但隨之而來的問題是平臺媒體內容把關的缺失，良莠不齊、真假不明甚至一些涉嫌違法犯罪的內容充斥于網絡，給社會造成了不良影響。政府部門對此監管趨嚴，約談部分違規平臺媒體和關停部分平臺媒體旗下產品。在這一背景下，內容風控顯得尤為重要。本文以今日頭條的內容風控實踐為例，試圖呈現新新聞業態下平臺媒體的內容風控現狀，提出對平臺媒體內容風控的反思。

關鍵詞：平臺媒體；內容風控；新聞業態

中圖分類號：G206 文獻標志碼：A 文章編號：1674-8883（2020）01-0246-02

一、平臺媒體的崛起與危機

（一）平臺媒體異軍突起

中山大學傳播與設計學院院長張志安教授認為，新新聞生態主要包括4種類型媒體：一是理論上為公共利益服務的專業媒體（Professional Media），二是為特定機構或者行業傳播而建立的機構媒體（Institutional Media），三是具有草根文化和技術賦權特點的自媒體，四是具有明顯用戶規模、技術創新和資本驅動優勢的平臺媒體。[1]本文提出的平臺媒體即張志安教授所提到的第4類媒體，其中，最具代表性的就是一點資訊、微信、微博和今日頭條等平臺媒體。

最早提出平臺媒體的是美國社交網站Sulia的CEO喬納森·格里克，但是美國學者杰羅姆給出的定義更為大眾所認同：平臺型媒體是指既擁有媒體的專業編輯權威性，又擁有面向用戶平臺所特有開放性的數字內容實體。[2]從2014年開始到2018年，平臺媒體已經慢慢成熟，為傳統新聞業態注入了新鮮的血液，也成為了媒體轉型發展的一個主流模式。

（二）平臺媒體內容審核迫在眉睫

在這場平臺媒體的流量狂歡下，隨之而來的問題是平臺媒體內容把關的缺失，良莠不齊、真假不明甚至一些涉嫌違法犯罪的內容如侵犯版權和淫穢色情的內容充斥于網絡，給社會造成了不良影響。[3]因此，平臺媒體逐漸陷于被監管部門約談整改的泥潭中，社會聲譽也與日俱下。

從2017年開始到2019年，包括今日頭條、火山直播、微博問答、快手等平臺媒體因部分內容艷俗等，接連遭遇相關監管部門的懲罰并被要求下架或整改。通過以上日漸趨嚴的監管動態，本文認為，違規內容是懸在平臺媒體頭上的達摩克利斯之劍。具有社會連接屬性和社會生產屬性的平臺媒體想要持續發展，內容風控和內容審核是必不可少的一個環節。

二、今日頭條嘗試內容整改

今日頭條主要為用戶推薦信息，提供連接人與信息的服務。據其創始人張一鳴在2019年互聯網大會上介紹，截止到2019年6月底，今日頭條已有1.4億活躍用戶，每天平均使用76分鐘。今日頭條經過6年發展，已經成長為一家大型平臺媒體。但是，正如我們前面在梳理平臺媒體面臨的內容審核困境中所提到的那樣，今日頭條在內容審核方面處處碰壁，為此損失了不少“愛子”，比如擁有2.5億高黏性用戶的內涵段子APP。因此，從2018年開始，今日頭條開始正式著手布局內容風控。

一方面，平臺媒體的社會責任成為了今日頭條的關鍵詞。2018年5月17日，今日頭條替換了原先的標語口號，將原來的“你關心的，才是頭條”更改為“信息創造價值”“堅持正確價值導向”，這一做法表明今日頭條已經從內部意識到，在推行智能算法、大數據挖掘技術和追求商業利益的同時，也要將社會責任納入考量。

在2018年年底，今日頭條成立了平臺責任研究中心，統籌反謠言工作，凈化其內容生態。2019年年初，今日頭條發布了第一份《今日頭條資訊打假報告》。根據《今日頭條資訊打假報告》，今日頭條平臺內所有發出的內容必須經過謠言模型和人工審核雙重檢測，月平均攔截11萬余條疑似謠言的文章，同時滾動式清理網站內老謠言，平均每周對一千多條謠言點進行全站回溯。

另一方面，自2018年，今日頭條開始大規模招募人工內容審核編輯，據今日頭條副總編輯李彤在公開場合介紹，在2018年年初，今日頭條擁有超過4000人的內容審核團隊，這個團隊的主要職責就是把關今日頭條內容，確保質量和安全。除了人工審核之外，機器智能審核也是重要舉措。今日頭條的智能審核機器一秒鐘能夠審核100篇文章，極大地提高了內容審核的效率。在自身組建團隊進行內容審核的同時，今日頭條還將部分內容審核服務外包給專業的第三方內容審核公司。

三、國外平臺媒體內容風控舉措

良莠不齊、低俗媚俗甚至涉嫌違法犯罪的內容在網絡中流竄，是全球所有平臺類媒體都無法完全治愈的“硬傷”，這些平臺媒體也面臨著法律的制裁和民眾的抗議。[4]因此，在這一背景下，國外一些平臺媒體也陸續開始審核和把關自身平臺上的內容。

美國兩大平臺媒體Twitter和Facebook將內容審查業務都交給了第三方內容審核平臺。Twitter將其內容審核業務交給了第三方審核公司Sift science，這是一家網絡安全科技公司，于2018年3月份獲得D輪融資5300萬美元。而總部在意大利的老牌公司CPL Resources則是Facebook一直以來的第三方內容審核平臺。類似的第三方內容審查平臺還包括新加坡的CashShield、特拉維夫的Foshirter、巴黎的Shift Technology、英國的Featurespace以及亞特蘭大的Pindrop公司。這些平臺都在為國外的平臺媒體提供內容審查業務。

2018年Facebook發布了一份8000字的內容審核指南，規定了22億用戶以后可以或不能在Facebook網站上發布的內容。雖然有了第三方內容審核系統的幫助，但Facebook和Twitter等公司依然會在公司內部設置人工審核崗位，利用人工來甄別不法內容。

四、內容風控的反思

通過對今日頭條內容風控的研究，本文認為平臺媒體內容風控在一定程度上可以助推其實現長足發展。首先，平臺媒體通過內容審核屏蔽了很多良莠不齊、庸俗媚俗、格調低下的內容，凈化了新聞生態。本文認為內容風控本質上也是資本主義平臺的一種讓渡和妥協。目前平臺內容審核的成本不小，但之所以這樣做，一是因為政府的強制管制，二是為了留住用戶、獲得更多的流量。如果輸出優質內容的水平能決定平臺媒體發展有多高，那么內容審核則決定平臺媒體能夠走多遠。其次，媒體平臺通過內容審核也保護了版權。近年來，內容審核可以在一定程度上防止平臺媒體侵犯傳統媒體版權的行為。自從平臺媒體誕生以來，經常遇到傳統媒體起訴平臺媒體侵犯其著作權的案件。例如，雖然今日頭條標明了新聞來源網站的名稱和具體網址，但沒有完整地顯示來源網頁，而僅顯示其中的新聞內容。而平臺媒體推出內容風控，可以在一定程度上避免其侵權行為和，保護傳統媒體的著作權。

雖然平臺媒體的內容風控現在正如火如荼地發展，但是我們也需要對其有冷靜的思考。一方面，平臺媒體內容風控包括機器審核和人工審核，都存在審核標準模糊和審核不精準的問題；另一方面，人工審核對審核人的考驗巨大，不僅需要審核的文章數量多，而且長時間觀看血腥、暴力和色情的文字和圖片也在一定程度上會影響審核人的心理狀態。

據《今日頭條算法原理》公開信息，在機器審核內容的過程中，泛低質識別涉及的情況非常多，容易導致審核不精準。而就第二方面來看，今日頭條每一位人工審核員每周會有3次夜班，每天審核的文章數量為1000～2000篇，工作量很大。同時，在審核的過程中，還需要審核員劃分每一篇文章的傳播等級，這就要求審核員必須看完每一段文字和圖片。有內容審核員曾對《中國經營報》的記者表示，每次工作完之后腦子里總是會想起那些內容，特別是一些兇殺暴力血腥的描寫，導致自己經常失眠做噩夢，對自身身心是一種摧殘。

五、內容風控的未來發展趨勢

近年來，為了加強網絡內容安全管理，國家網信辦出臺了諸多文件，約談了眾多違法違規的平臺媒體，監管日漸趨嚴。因此，對各大平臺來說，內容風控將成為平臺媒體發展的應有之義。

那么，未來平臺媒體的內容風控將走向何方？

首先，第三方內容風控平臺將崛起。目前平臺媒體通過三大舉措來確保內容風控：一是將內容風控工作完全外包給第三方內容風控企業，如微博；二是平臺媒體內部組建內容風控團隊，建立內部媒體監控平臺，人工和機器雙管齊下完成審核；三是平臺媒體將一部分審核任務外包給第三方企業，一部分由平臺媒體內部處理，如今日頭條。[5]本文認為，隨著技術的發展和平臺媒體對內容風控重視程度的提高，平臺媒體內容風控模式將會更加多元，但是主要會向外包給第三方內容風控企業靠攏。

其次，傳統媒體將會發力向平臺媒體推出內容風控承包業務，內容風控將會是傳統媒體和平臺媒體合作的新形式之一。傳統媒體特別是一些黨報黨刊在審核媒體內容的時候，具有天然的優勢和敏銳度，能夠非常清楚地了解媒體內容屬性。此外，傳統媒體相對于平臺媒體來說，更加看重社會公共利益，比追求商業利益的平臺媒體更具有社會責任感和社會公信力。因此，由傳統媒體推出內容風控業務是合適的選擇。以人民網為代表的傳統媒體推出第三方內容風控業務，對其自身來說是一種再盈利模式，能夠緩解傳統媒體的困境。而對平臺媒體來說，將自己的內容風控外包給第三方平臺，也將極大地節約自身人力成本，提升平臺內容質量。

最后，平臺媒體的內容風控將會走向更加智能化，將人解放出來做更有意義的事情。雖然在機器審核內容的過程中，泛低質識別涉及的情況非常多，但是隨著技術的成熟和實際運用案例的增多，平臺媒體在運用機器審核內容時，其錯誤率會下降，誤刪漏刪的情況也將減少。

六、結語

“欲戴王冠，必承其重”，平臺媒體兼具明顯的用戶規模、技術創新和資本驅動優勢，如果想實現長足發展，就必須承擔相應的內容審核責任。在未來，第三方內容風控平臺的崛起、傳統媒體內容風控業務與平臺媒體的融合、技術賦能平臺媒體，使其內容審核實現智能化升級，將是平臺媒體的法寶和護身符。

參考文獻：

[1] 張志安.數字新聞業研究：生態、路徑和范式[J].新聞與傳播研究，2018（S1）：91.

[2] 張志安，姚堯.平臺媒體的類型、演進邏輯和發展趨勢[J].新聞與寫作，2018（12）：75-80.

[3] 張志安，聶鑫.互聯網內容生態變化：歷程、路徑與反思[J].新聞與寫作，2018（10）：5-12.

[4] 杰羅姆.平臺型新媒體（Platisher）是有效的商業模式嗎？[J].中國傳媒科技，2014（23）：71-75.

[5] 陳安慶.內容審核，傳統媒體盈利新模式[J].青年記者，2019（10）：47.

作者簡介：肖章鳳（1993—），女，江西贛州人，中山大學新聞與傳播專業碩士研究生，研究方向：媒介創新。