社交媒體遭遇AI審核危機

李恒宗

漏洞！合法新聞文章標記為垃圾郵件

因為貼紙被標記為違反了垃圾郵件社區標準。網友發疑問：湯姆·漢克斯怎么會是垃圾郵件，我只是分享新聞

全球性健康危機席卷全球，數以百萬計的人被限制在家中，社交媒體平臺已成為人們共享信息和彼此進行社交的最重要方式之一。為了保護其員工和商業客戶的健康，Facebook和其他科技公司也制定了內容管理措施，但是他們的工作通常很難在家中完成，沒有專業團隊的協作辦公，互聯網很多問題無法及時解決。

加州大學洛杉磯分校信息研究教授、《屏幕背后：社交媒體陰影中的內容審核》一書的作者莎拉·羅伯茨說：“平時我們會看到許多人工干預網絡內容的痕跡，這些痕跡往往會被隱藏。”在2016年美國總統大選之后，Facebook大幅提高了其內容審核的能力，截至2019年底，它擁有超過30000名從事安全和保安工作的人員，其中大約一半是內容審核員。這些人大多數是合同工，在全球各地的辦公室中都被埃森哲或Cognizant（業務涉及管理咨詢、信息技術和業務流程外包）等公司雇用。他們的工作是讓Facebook免受暴力、兒童剝削、垃圾郵件以及其他不受歡迎的內容的侵害。

因為疫情在美國的蔓延，為了填補內容審核的空白，Facebook正在將更多工作轉移到人工智能上，首席執行官馬克·扎克伯格多年來一直將其視為內容審核的未來。扎克伯格在電話中對媒體說，為了保障網站運營，最敏感的內容還是要提供給全職員工審核，這些人將繼續在其辦公室工作。

扎克伯格說：“我個人非常擔心與家人隔離可能會導致更多的抑郁癥或心理健康問題。”為了為潛在的危機做準備，Facebook正在增加致力于調解諸如自殺和自殘之類的內容的人數。另一個擔憂是錯誤信息的傳播，尤其是在公共衛生危機期間。作為對Covid-19的更廣泛回應，Facebook還宣布將在新聞源中部署冠狀病毒信息中心，使人們可以從權威來源獲得有關大流行的最新信息，而非被虛假信息所誤導。

機器學習露短板

隨著對垃圾郵件故障的投訴增加，Facebook員工懷疑它可能與公司最近的工作流程變更有關。Facebook前安全主管亞歷克斯·斯塔莫斯在推特上說：“看起來，FB的反垃圾郵件規則變得混亂，由于公司做出的隱私承諾，內容審核員無法正常工作，機器人的AI學習變得瘋狂起來。”

Facebook的副總裁蓋伊·羅森迅速做出澄清：“這是反垃圾郵件系統中的錯誤，與內容審核人員隊伍的任何變化無關。我們正在修復所有這些帖子，并將其重新發布。”

但是研究人員說，如果沒有強大的人工審核團隊，像星期二晚上這樣的問題可能會變得更加普遍。YouTube和Twitter3月16日宣布，他們的員工也被要求居家辦公，會更加依賴自動標記工具和基于AI的審閱系統。

人工內容審核員減少，對于如今依賴社交媒體與外界溝通的數百萬人而言，可能會發生巨大變化。Facebook、YouTube、Twitter和其他站點使用的自動化系統各不相同，但它們通常通過檢測關鍵字、自動掃描圖像以及查找帖子違反規則的其他信號來起作用。

圣約翰大學法學院的教授、耶魯大學信息社會項目的研究員凱特·科洛尼克說，科技巨頭可能需要過于寬泛地進行審核，以減少自動化系統錯過重要違規的可能性。人工審稿很多時候都做得不好，但是自動下線系統更加糟糕，將會有很多內容被錯誤地歸類。

YouTube在宣布更改措施的博客文章中指出：“用戶和創作者可能會看到視頻刪除量增加，包括一些可能不違反政策的視頻。”該網站的自動化系統非常不精確，計算機在更大程度上負責審查上傳內容。機器學習有助于檢測潛在有害的內容，然后將其發送給人工審核者進行評估。

辦公室變得冷清，人工智能正在代替人類做更多的工作

作為對Facebook計劃中的監督委員會成員（該委員會將審查有爭議的內容審核決定的獨立小組）的研究的一部分，科洛尼克審查了該公司的執法報告，其中詳細說明了其在Facebook和Instagram上監管內容的程度。科洛尼克說，11月份的最新報告令她感到震驚，Facebook撤銷的大部分決定都來自其自動標記工具和技術：“錯誤率很高，他們太容易受到過度審查。”

業內人士指出，軟件是基于機器學習構建的，可以根據違規類型和本地語言來識別模式，在某些情況下，我們的軟件還沒有經過足夠的培訓，無法自動大規模檢測違規情況，因此還得要經過訓練有素的人工團隊進行審查。