互聯網內容“守夜人”

陳光

“大家看到的這個世界是由所有人呈現的，而歷史上我們看到的世界是由少數人呈現的。今天所有人一起參與呈現這個世界，當我們以這樣的方式去觀察和感知這個世界時，背后有一些新的社會問題就出現了”。

年初至今，李軍經歷了一場穿梭于晝夜，險些“摧毀靈魂”的冒險。

90后的李軍是武漢青山區人。去年底，他經歷5天的封閉培訓和考核，簽了保密協議，成為快手的內容審核員。他沒想到，剛入職3個月，就親歷了一場凈化短視頻平臺的“最強整頓”。

4月4日，國家廣播電視總局約談快手和今日頭條兩家網站的主要負責人，要求其全面清查庫存節目，立即下線低俗、暴力、色情等有害內容，并追究相關人責任。約談之后，罰款、下架、永久關停等幾大監管手段齊下，急速發展后，今日頭條、快手等互聯網內容平臺亟需邁過監管這道坎。

“新的社會問題”

快手創始人兼CEO宿華沒有出來說任何話，直接道歉。

4月3日，宿華在其個人微博上發表長篇文章《接受批評，重整前行》。當天，宿華還出現在快手和清華大學合作成立未來媒體數據聯合研究院的活動上，他說，“大家看到的這個世界是由所有人呈現的，而歷史上我們看到的世界是由少數人呈現的。今天所有人一起參與呈現這個世界，當我們以這樣的方式去觀察和感知這世界時，背后有一些新的社會問題其實就出現了。”

這些“新的社會問題”比所有人預想的嚴重。

隨著短視頻平臺壯大，每天都有海量新類型的用戶生成內容被上傳到網上。這其中包含不少傳統色情、暴力等分類覆蓋不到的新型違規內容。快手成立8年，有7億用戶，審核成了頭等難題。

3月31日，央視《新聞直播間》節目報道了快手和今日頭條旗下火山小視頻等短視頻平臺出現大量未成年人懷孕視頻，以未成年人生子為噱頭廣泛傳播，造成不良社會影響。4月3日晚間，新華網微博也發文《別讓“社會搖”等低俗視頻晃散了你的“詩和遠方”》。“社會搖”是從短視頻平臺興起的一種舞蹈形式，人們跟著強勁的節奏搖擺，即興發揮。這類行為引得部分小學生和中學生模仿，對校園環境造成影響。

就連曾經深愛著它們的用戶也開始漸漸對平臺產生反感。北京白領王峰算是快手的老用戶，現實中，他幾乎沒機會和快手上的網友接觸。他認為，是技術讓這部分人把自己的生活剝出來一部分，拓寬了他的體驗，而且這份分享是真實的，不是演出來的。

快手、今日頭條旗下的抖音、火山小視頻等都依托于算法推薦，每個用戶的頁面都獨一無二。平臺會根據用戶點擊的視頻類型，迅速分析用戶感興趣的領域，并馬上推送類似內容。

一開始，王峰對推送的內容很滿意。但漸漸地，王峰發現，有時快手會自動向他推薦一些從未關注過的視頻，如美女主播類，疑似家長拍的小孩子裸體視頻。這觸碰了王峰的底線。他也看到一些低齡孕婦的視頻，他認為，這些孕婦并不是記錄真實的日常生活，而是利用自己的身份特點去博眼球、要關注，是以炒作盈利為目的。

王峰也一直好奇，算法的背后到底有沒有人工指導。“背后如果是一個人的話，這個人是誰？他憑什么？如果真有這么個人，還蠻可怕的。他是算法還是人？”

“算法有無價值觀”

“分發機制理想狀態靠算法，實際操作看人工。”一位短視頻運營人員說。據他介紹，每個大平臺都會從企業盈利角度推選一些他們認為會火的話題，至于這些推送是否低俗則不是企業的首要考量。

成立于2012年，今日頭條是國內早期以數據挖掘技術和智能推薦算法為核心競爭力迅速壯大的平臺。在這里，“你關心的，才是頭條”。在去年一場活動上，今日頭條創始人張一鳴稱，“今日頭條不是媒體。我們更關注信息的吞吐量和信息的多元。我不能準確判斷這個好還是壞，是高雅還是庸俗。”這翻話讓張一鳴一度陷入輿論漩渦。

而宿華則一直對算法持謹慎態度，他說就算法是否有價值觀這個問題，自己想了30年。“小時候是看科幻里面，經常會討論機器人有沒有意識、價值觀，其實算法本身是沒有價值觀的，但是算法是人去定義、搭建的。”他曾說。

內蒙古赤峰市的阿其也是快手用戶。去年大學畢業， 他在一家牛肉干工廠做車間工人，那時開始用快手，在快手，他發現了很多設計簽名的網友，也開始發自己設計字體的視頻，有1萬多粉絲，本來通過快手展示才華，找到志趣相同的朋友是件好事，但一些莫名出現的視頻讓他不舒服。

當看到一些穿著暴露的主播視頻時，阿其會根據系統規則，選擇減少此類作品出現的功能，但他發現這種拒絕不管用，類似視頻還會時不時地出現。

有次，阿其舉報了一位滿身文身，說大量臟話的男網紅，但快手系統回復他說該用戶被認定沒有違規。

然而，阿其自己的內容卻被判定違規。他是蒙古族人，有一次在快手直播時用蒙古語和朋友聊天，內容是他今天有空，大家可以一起吃飯，每句后面他都用漢語再翻譯一次。當時他還放了一首蒙古語的流行歌曲《雨》，歌曲懷念草原上的雨和逝去的愛情。

這在阿其看來極為平常的內容，卻突然收到系統通知：“您的直播A類違規：政治，已被永久封禁直播。”

阿其不明白用家鄉話和朋友約飯，放抒情歌曲怎么就和政治有關了？在違規申訴中，他寫道，根據國家法律，自己有權合法使用民族語言。快手可請懂蒙古語的人回放視頻，絕無任何違法違規內容。

“守夜人”

阿其算得上是一樁“冤案”，他的賬號終被解禁。

而4月10日，今日頭條旗下“內涵段子”應用程序及公眾號面臨的則是永久關停，其原因是存在導向不正、格調低俗等突出問題。

人民日報微評論稱，“只要價值，不要價值觀，甚至鼓吹‘算法沒有價值觀，就難免出事。產品不能淪為算法的奴隸。”這次整頓的一項重點內容就是對平臺的算法推薦進行優化，增強審核能力。

風口浪尖上的算法到底是什么？快手CEO宿華曾給了個簡單版本的介紹。“算法核心是理解。理解內容和人的屬性，人和內容歷史上的交互數據，然后通過一個模型，預估內容與用戶之間匹配的程度（也叫特征）。比如有這么幾個人都共同喜歡同樣一個人，我們就會認為這些人具備了相同的某個特征。”

然而，看似很聰明的算法卻失靈了。當前階段，人工智能并不能完全勝任視頻流內容的審核，多用于文字內容。比如在用戶發布的帖子、留言、文章中檢測到非法詞匯內容，就會刪除這些內容，并向用戶發出警告，甚至直接封號。很多低俗的圖片或者視頻，人工智能無法像識別文字般精準審核，因而只能成為人工審核員的助手。

今日頭條內容質量中心負責人、副總編輯李彤也表示，“對于廣告信息，機器會識別并標注;對于標題黨，機器會識別并提醒作者，如果作者不修改，機器會降低推薦權重或直接攔截，對于虛假信息、違法信息、色情信息，則主要依靠人工審核。”

遇到監管這一難題后，今日頭條宣布將審核團隊從6000人擴大到10000人，“快手”宣布將審核團隊從2000人擴大到5000人，月薪4000-9000元，都要求“共產黨員優先”。目前快手在北京、天津、武漢等六地建有審核中心。

“你們看不到的，我們都看了。”李軍說從1月入職起，他和同事每天工作12小時，做一天休一天，一個月有4到5次通宵班。忙的時候，每人一天要審核150部視頻，正常的工作量是人均120部，視頻20秒到4分鐘不等，多以兩倍速度快進播放，李軍大概每日會遇到40部正常視頻，30部“比較辣眼睛”但不涉及違法內容，25部屬于反人類的，15部涉黃，剩下10部血腥暴力。

高強度熬夜讓一般人扛不住。由于夜晚正是用戶上傳視頻的高峰期，快手相關負責人也指出為高效整改，宿華特地提出了“守夜人”的概念。

然而，審核人數還是承載不了瀑布式的視頻量。

2018年春節期間，快手用戶單日上傳視頻數量突破1500萬條，每分鐘上傳視頻的峰值達到43000條，創歷史新高。這意味著快手原本的2000名內容審核員，要在機器的配合之下，對每天1500萬條視頻內容進行審核。

“低俗”，是這輪整肅中出現最多的一大“罪名”。但是包括《網絡安全法》在內，都沒有對“低俗”的定義和說明。在實際操作中，情色、淫穢、下流好判斷，但低俗和色情就不好判斷。此外，每個平臺對它認定的標準都不一樣，比如某些直播平臺，對女主播在直播時，蹺二郎腿的換腿頻率有規定，多少次以上就屬于性暗示，就涉黃。

睜一只眼閉一只眼

尺度一直是網絡監管的難題。

雖然《網絡安全法》和去年施行的《互聯網視聽節目審核通則》等相關法律法規不斷完善，但復雜的審核標準和多變的違規內容讓審核員頭疼。

更讓他們琢磨不透的是飄忽不定的“內部標準”。早在央視曝光低齡孕婦視頻前，李軍和同事就已注意到這類視頻的勢頭。一低齡媽媽哺乳的視頻讓李軍判斷應該審掉，雖然畫面并沒有露點。李軍認為，哺乳本身沒問題，但把這一行為拍成視頻發到網上就變了味。但這類視頻“老大”都讓過了，“老大”就是部門領導。

李軍和同事也比較反感社會搖這類視頻，“一天看50部社會搖，你煩不煩？”他們覺得這種視頻沒有營養，和低齡媽媽類視頻一樣，容易帶壞未成年人，算低俗，但“老大”也都通過了。

“這類國家沒有明令禁止但內容又有些不妥的，老大就睜一只眼閉一只眼。我必須說一句，那些看了腦殘視頻后說我們審核員是腦殘，這種視頻都讓放的，這鍋我們不背。”

其實，宿華也經常糾結，他發現一位身患罕見貧血病的用戶經常以一些出格的方式炒作，獲得關注和打賞。他知道此人會用這些打賞的錢治病，但有時他博關注的行為過分了，經過權衡，審核人員還是會刪掉一些內容，并通過系統勸誡他。

得知快手招聘審核員的第一時間，阿其投了簡歷。他是共產黨員，大學專業是馬克思主義學院下的行政管理系，他應聘這份工作有個私心，因為有過被快手“封號”的經歷 ，阿其希望快手能有一些他這樣會少數民族語言的審核工作者，減少出現類似誤會。

自救運動

卷入了短視頻的“最強整頓”風暴后，快手查封了大量違規賬號，無限期關閉推薦相似用戶的功能，并將對視頻分級，嚴格過濾未成年人看到的視頻。截止4月14日，快手已經清理問題短視頻31萬條，封禁5.6萬名用戶，清理6.5萬個用戶名。

宿華道歉信中稱，算法的價值觀就是人的價值觀。快手將優先推薦個性化的更符合用戶興趣的正能量作品，放大優秀作品的影響力。

“快手的審核規則一定是越來越嚴的，我們的遞進邏輯是，法律法規為底線，公序良俗為參照，重點打擊低俗三觀不正的內容。”快手負責人說。

“網絡監管全世界都有，是個很正常的事。不過，我們國家的監管相對較嚴。”李振華說。面對全球性的網絡監管大勢，李振華覺得不管在法律、技術、產業和道德倫理等領域，都有很多值得社會各界共同探討和思考的空間。

（王允薦自《看天下》）