AI決定拍什么 非虛構(gòu)作品面臨風險

田英

幾乎每位搞創(chuàng)作的人，都感受到了人工智能（AI）那只看不見的手。

在北美主流社交媒體上，TikTok用戶根據(jù)AI算法推薦，產(chǎn)出精心策劃的內(nèi)容，刺激網(wǎng)友多巴胺，從而獲得更高點擊量。在好萊塢，制片人根據(jù)流媒體平臺的AI大數(shù)據(jù)開發(fā)項目，和AI推薦的演員簽訂薪酬豐厚的合約，而各平臺卻對收視數(shù)據(jù)采取了避而不談的微妙態(tài)度。

收視數(shù)據(jù)是建立在推薦引擎的環(huán)形反饋上的，觀眾的行為首先被這些推薦引擎塑造，之后又加強了引擎的環(huán)形反饋。所以有人說，人類的價值創(chuàng)造正在逐漸被AI取代，無論是TikTok，還是各個流媒體，“以人為本”的寶貴創(chuàng)新空間正在關(guān)上大門。

當下美國編劇協(xié)會舉行的罷工，主要訴求之一就是抵制AI，這當然沒問題，但眼下更迫切需要抵制AI的領(lǐng)域是紀錄片和非虛構(gòu)類題材的內(nèi)容。

目前，創(chuàng)造性職業(yè)都面臨著極大的不確定性，但就更為廣泛的文化領(lǐng)域而言，算法主導的業(yè)界生態(tài)面臨的最大威脅，并非來自于自下而上、由AI生成的社交媒體內(nèi)容（比如，近期在網(wǎng)絡上流傳的AI生成韋斯·安德森風格《星球大戰(zhàn)》預告片），真正的威脅來自于自上而下、由AI驅(qū)動的藝術(shù)平臺化，這已經(jīng)發(fā)生在整個媒體領(lǐng)域——AI算法正在全球范圍內(nèi)決定講述哪些故事，以及如何講述這些故事——在非虛構(gòu)領(lǐng)域，這種趨勢愈演愈烈。

MRC娛樂公司非虛構(gòu)部門執(zhí)行副總裁阿米特·戴伊（Amit Dey）認為，“將AI應用于紀錄片的創(chuàng)作和實際制作中，這沒什么，我們的主要威脅來自于AI進行決策。人類制作的作品和人工智能制作的作品在市場上競爭，這是一回事；但當觀眾應該看什么皆由AI數(shù)據(jù)、算法決定時，那就完全是另外一回事了。比如，讓AI決定該在什么時間購買什么項目，這些項目將會投放哪些平臺，以及最重要的，讓AI決定我們要講什么故事，是否明智？”MRC娛樂公司目前正在制作跟音樂人斯萊·斯通（Sly Stone）與美國政客魯?shù)婪颉ぶ炖材嵊嘘P(guān)的兩部紀錄片。

美國資深媒體人及制片人埃文·夏皮羅（Evan Shapiro）不久前在2023春季戛納電視節(jié)（MipTV）上發(fā)表演講，指責“外包”這個在好萊塢有悠久歷史的傳統(tǒng)如今正在被人工智能“模式化”，“從電話調(diào)研、小組訪談到民意調(diào)查，某些公司的電視部門高管長期以來把給項目亮綠燈的決定權(quán)外包給第三方，這等于給自己編織了一張不用為失敗決策負責的保護網(wǎng)——外包環(huán)節(jié)讓他們得以在節(jié)目成功時名利雙收，節(jié)目不成功時推諉過錯。如今，把這個決定權(quán)交給AI，更是給了他們一個時髦的借口?！?/p>

事實上，AI已經(jīng)涉足好萊塢電影制作的各個層面。

為蘋果旗下流媒體平臺Apple TV+制作NBA球星約翰遜紀錄片《魔術(shù)師傳奇》（They Call Me Magic）的XTR工作室CEO布林·穆瑟（Bryn Mooser），最近開發(fā)了一套名為蕾切爾（Rachel）的專有算法，以幫助指導項目開發(fā)。穆瑟把他的算法稱為“時代精神機器”，這一算法通過梳理社交媒體，找到時下流行趨勢，然后圍繞這些元素開發(fā)項目。

穆瑟說：“自從ChatGPT出現(xiàn)，世界就在一夜之間改變了。我們一直把AI看作一種工具，而作為工具，它相當有用——當下流行什么話題，人們在談論什么……我們搜集這些數(shù)據(jù)，并與紀錄片領(lǐng)域的歷史數(shù)據(jù)相結(jié)合，就可以預知哪個項目能成。讓AI作為幫助電影制作人把握方向的工具，能力卓著且非常重要，我希望人人都擁抱AI?！?/p>

雖然，目前各大影視傳媒公司最終做出定奪的還是人類高管，但隨著AI產(chǎn)生的數(shù)據(jù)洞察強力推動觀眾參與度——出現(xiàn)公司高管一意孤行、不撞南墻不回頭的可能性也將越來越低。

舉例來說，如果大數(shù)據(jù)顯示真實犯罪題材是穩(wěn)賺不賠的買賣，為什么好萊塢公司決策層還要在更新奇的概念上冒險？高管們趨利避害，這是人的天性，不應該受到指責，尤其如今好萊塢大公司都在施行減員增效，并不提倡承擔風險的行為。在AI驅(qū)動下，高管們更是可以完全逃避因為自行決策而承擔的不利后果。

但是，一味追求關(guān)注度最大化的競爭無疑是惡性競爭。在非虛構(gòu)領(lǐng)域，從職業(yè)道德角度來說，這是一種通往無知和謬見的競爭。

2021年，美國電影制作人摩根·內(nèi)維爾（Morgan Neville）在紀錄片《流浪者》（Roadrunner）中，使用AI技術(shù)重新創(chuàng)建了知名美食家安東尼·布爾丹（Anthony Bourdain）的聲音，引起極大爭議。摩根·內(nèi)維爾從媒體刊發(fā)過的布爾丹訪談中提取了他曾說過的言論，并使用名為深度偽造（deepfake tech）的AI技術(shù)，“讓文字變成聲音”。去年，Netflix系列紀錄片《安迪·沃霍爾：時代日記》（The Andy Warhol Diaries）也曾運用這一技術(shù)合成沃霍爾的聲音，作為解說旁白。

到了今年，此類爭議的話題性逐漸減弱，因為AI技術(shù)已經(jīng)發(fā)展到能夠“無中生有”地生成以假亂真的音頻、視頻和照片。

無論是否使用AI作為電影制作工具，就紀錄片領(lǐng)域不斷變化的道德標尺，業(yè)界人士有不少意見。有人指出，人類的決策權(quán)讓渡給算法，利用大數(shù)據(jù)來決定購買哪個項目，甚至一步步來塑造項目，這種行為可能會挑戰(zhàn)整個行業(yè)從業(yè)者的職業(yè)道德標準。雖然不管是各個公司的民意調(diào)查、電話調(diào)研，還是尼爾森公司整合的收視數(shù)據(jù)，這些數(shù)據(jù)的處理過程都是透明的，包含了人類的責任在內(nèi)。當業(yè)界把決定權(quán)越來越多拱手讓給并不透明的AI時，技術(shù)就不再是提高開發(fā)效率和成本最小化的工具，而是成為決策者自身，而且還是一個無法洞悉其內(nèi)部運作的“黑匣子”。

非虛構(gòu)敘事塑造了人們對真實世界的理解。正因如此，紀錄片領(lǐng)域保留由人來策劃這一緊迫性高于其他類型的內(nèi)容。好萊塢一直試圖保持商業(yè)主義和藝術(shù)表達之間的平衡，這讓它得以打造出自己的藝術(shù)品牌。但現(xiàn)在，世界與真實世界之間的關(guān)聯(lián)岌岌可危，甚過歷史上的任何時刻。推特、Facebook等社交媒體上虛假信息泛濫，很大程度上要歸咎于算法無法有效篩選內(nèi)容。

紀錄片旨在告訴大眾真相，非虛構(gòu)作品需要建立起觀眾的信任—信任根植于透明度和完整性—這完全依賴于人為的端到端的控制。

以深度偽造技術(shù)為例，如果觀眾不能相信他們看到的圖像、聽到的聲音是真實的，紀錄片就會失去其最大意義。與電影或電視劇不同，如果觀眾不能相信一部紀錄片作為非虛構(gòu)作品的完整性，這就是一部一敗涂地的紀錄片。

由人類決策并主導一部紀錄片的拍攝、制作，觀眾可以質(zhì)疑出品方或播出平臺批準制作這部紀錄片的動機，但觀眾無法質(zhì)疑AI算法推薦內(nèi)容的動機，因為算法肯定認定這些內(nèi)容是大眾“喜聞樂見”的。

潛水艇公司是一家業(yè)內(nèi)知名的紀錄片公司，其總裁之一喬希·布勞恩（Josh Braun）認為，隨著娛樂業(yè)將AI整合到業(yè)務的各個方面，技術(shù)必須只是作為工具存在，而不是代替人類做出判斷并承擔責任。這正是美國編劇協(xié)會目前罷工對峙中表達的重要訴求——保護非虛構(gòu)敘事的完整性至關(guān)重要，它是少數(shù)幾個神圣不可侵犯的領(lǐng)域，“歸根結(jié)底，在AI的影響下，無論做任何事情都必須以強大的道德作為指南針，以誠實、透明和尊重故事中人物的尊嚴為指導原則。”

但現(xiàn)在說這些，或許為時已晚。