Facebook利用人工智能清理不良內(nèi)容

Cade Metz Mike Issac

Facebook的首席技術(shù)官邁克·斯科洛普夫（Mike Schroepfer）流下了眼淚。

在Facebook總部的一間會(huì)議室，周?chē)怯盟{(lán)色和紅色馬克筆寫(xiě)滿了字的白板，斯科洛普夫談起了從社交網(wǎng)絡(luò)刪除不良內(nèi)容的技術(shù)難題，又談到了最近一次讓人感到這項(xiàng)工作困難重重的悲慘事件：新西蘭基督城槍擊案。

今年3月，一名犯罪分子持槍在基督城的兩座清真寺射殺51位平民，還在Facebook上全程直播。技術(shù)人員花了約一小時(shí)才將視頻從網(wǎng)站上刪除。那時(shí)，這段血腥視頻已經(jīng)在全網(wǎng)四處傳播。

斯科洛普夫沉默了。一分鐘以后，他試著恢復(fù)平靜，然后說(shuō)：“我們現(xiàn)在正在解決這個(gè)問(wèn)題，它顯然不是明天就能解決的。但我不想6個(gè)月以后還在跟你討論這個(gè)問(wèn)題，我們可以做得更 好。”

過(guò)去3年來(lái)，F(xiàn)acebook已經(jīng)因用戶在該平臺(tái)散布虛假、誤導(dǎo)和不實(shí)信息而接受了調(diào)查。作為回應(yīng)，公司首席執(zhí)行官馬克·扎克伯格（Mark Zuckerberg）調(diào)用了一款據(jù)說(shuō)能夠刪除不良信息的技術(shù)：人工智能。

去年出席國(guó)會(huì)聽(tīng)證時(shí)，扎克伯格的證詞是，F(xiàn)acebook正在研發(fā)一套基于機(jī)器的系統(tǒng)來(lái)“鑒別不良活動(dòng)的等級(jí)”。他還宣稱，“未來(lái)5到10年，我們將用AI工具”來(lái)監(jiān)測(cè)和刪除仇恨言論。此后他還多次在媒體和華爾街的會(huì)議上，以及Facebook的活動(dòng)上宣布了這一舉措。

斯科洛普夫正是Facebook利用自動(dòng)工具來(lái)分析和刪除帖子的牽頭人。在近期接受的3次采訪中，他都表示，這項(xiàng)工作困難重重。

這是因?yàn)椋看嗡箍坡迤辗蚝?50多名工程師設(shè)計(jì)出針對(duì)某些不良內(nèi)容的AI解決方案后，AI系統(tǒng)又會(huì)碰到新的模糊信息—?jiǎng)傁氤龅姆桨笗?huì)把它們漏掉。最困難的地方是，只有犯罪分子才知道什么是“有害活動(dòng)”，普通人很難具備這種判斷力，更別提機(jī)器了。

斯科洛普夫承認(rèn)，AI工具本身無(wú)法解決Facebook的頑疾。“我覺(jué)得最后會(huì)以殘局收?qǐng)霭桑豢赡苷f(shuō)到最后什么問(wèn)題都能解決，大家就高高興興回家了。”

然而，壓力已經(jīng)來(lái)了。Facebook在面臨眾人對(duì)基督城視頻的指控后變更了政策，限制用戶使用直播功能。一個(gè)周三，在巴黎和法國(guó)總統(tǒng)馬克龍以及新西蘭總理杰辛達(dá)·阿德恩（Jacinda Ardern）會(huì)晤后，扎克伯格簽署承諾，會(huì)明確禁止傳播恐怖主義和暴力極端主義內(nèi)容。

44歲的斯科洛普夫硬著頭皮接下了這項(xiàng)重任。多年來(lái)，他的工作一直都是幫助Facebook搭建起全球領(lǐng)先的AI實(shí)驗(yàn)室，招募頂尖人才來(lái)解決人臉識(shí)別等技術(shù)難題。他和扎克伯格想研發(fā)出能夠與Google競(jìng)爭(zhēng)的AI系統(tǒng)，因?yàn)镚oogle擁有最前沿的AI研究員。為此，他從紐約大學(xué)、倫敦大學(xué)和巴黎第六大學(xué)招募了眾多博士。

不過(guò)一路下來(lái)，他的角色慢慢變成了內(nèi)容劊子手。現(xiàn)在，他和團(tuán)隊(duì)大部分時(shí)間都在研究怎么用AI來(lái)發(fā)現(xiàn)和刪除死亡恐嚇、自殺視頻、不實(shí)信息和謊言。

約翰·黎力（John Lilly）曾是Mozilla公司的首席執(zhí)行官，目前則是Greylock Partners公司的風(fēng)險(xiǎn)投資人。他曾在1990年代中期和斯科洛普夫一起學(xué)習(xí)計(jì)算機(jī)科學(xué)，他說(shuō)：“我們都沒(méi)有預(yù)見(jiàn)到這些事，誰(shuí)都不知道這個(gè)問(wèn)題該怎么解決。”

斯科洛普夫在他的蘋(píng)果筆記本電腦上找到了兩張照片，一張是西蘭花，另一張則是一株大麻。會(huì)議室里的所有人也一起看了這兩張照片，有些人沒(méi)法判斷到底哪張是西蘭花，哪張是大麻。

斯科洛普夫是想通過(guò)照片來(lái)說(shuō)明，雖然有人無(wú)法鑒別這兩者，F(xiàn)acebook的AI系統(tǒng)已經(jīng)可以通過(guò)上千萬(wàn)張圖像找到規(guī)律，發(fā)現(xiàn)大麻。一旦AI標(biāo)記出大麻照片，許多使用了這些照片在Facebook上貼出大麻廣告的帖子都會(huì)被刪除。

問(wèn)題在于，“西蘭花還是大麻”的實(shí)驗(yàn)不僅證明了進(jìn)步，也反映出了Facebook的局限。斯科洛普夫的團(tuán)隊(duì)搭建了能夠識(shí)別和刪除大麻照片、裸露照片和恐怖主義內(nèi)容的AI系統(tǒng)。但是這個(gè)系統(tǒng)永遠(yuǎn)不能一網(wǎng)打盡，因?yàn)榭倳?huì)有漏網(wǎng)之魚(yú)。這也就意味著，有上千萬(wàn)張裸露照片、大麻照片和大量恐怖主義內(nèi)容已經(jīng)被用戶看到了。

對(duì)于AI來(lái)說(shuō)，識(shí)別不良圖像的任務(wù)很簡(jiǎn)單，難處在于如何發(fā)現(xiàn)虛假新聞或仇恨言論。虛假新聞可以輕易偽裝成真新聞，而仇恨言論對(duì)于機(jī)器來(lái)說(shuō)還很難甄別，因?yàn)闄C(jī)器無(wú)法識(shí)別細(xì)節(jié)性的語(yǔ)言。每個(gè)語(yǔ)言的細(xì)節(jié)性都有所不同，對(duì)話的展開(kāi)也需要語(yǔ)境，而語(yǔ)境千變?nèi)f化，這對(duì)機(jī)器來(lái)說(shuō)還沒(méi)法企及。

AI基金會(huì)（AI Foundation）是一家研究用AI打擊不實(shí)信息的非盈利性機(jī)構(gòu)，其首席研究員德利普·拉奧（Delip Rao）表示，要拿下這項(xiàng)挑戰(zhàn)，就好像是要贏一場(chǎng)“軍備競(jìng)賽”。AI都是基于過(guò)去的體系搭建的，但過(guò)去完全沒(méi)有這樣的體系。行為總在變化，不法分子也總是會(huì)有新方法。這是場(chǎng)貓和老鼠的游戲。

“有時(shí)候你能先發(fā)制人，有時(shí)候反倒是人家有可乘之機(jī)。”拉奧表示。

斯科洛普夫表示，F(xiàn)acebook能夠自動(dòng)識(shí)別和刪除有問(wèn)題的直播內(nèi)容，但還是沒(méi)有發(fā)現(xiàn)3月的槍擊直播視頻，因?yàn)檫^(guò)去從來(lái)沒(méi)有這樣的視頻被傳到網(wǎng)站上，他們沒(méi)有什么先例可以參考。

版權(quán)聲明

本文內(nèi)容由《紐約時(shí)報(bào)》提供版權(quán)