隱形的把關人：人工智能語境下新聞出版的算法偏見困境

摘要：人工智能的興起抬升了算法在社會信息分配中的地位，而以物理世界為學習原料的算法將現(xiàn)實社會中的偏見延伸至網(wǎng)絡虛擬領域，通過隱形的力量塑造著賽博空間的潛在秩序。新聞出版行業(yè)是大眾信息獲取的“把關人”，如何與算法這一隱形力量有效合作，保證新聞客觀與新聞真實成為亟待解決的問題。文章將新聞出版業(yè)中算法偏見的表現(xiàn)形式分為意識形態(tài)偏見、主流文化偏見、個體特征偏見三類，并從宣傳引導、系統(tǒng)建構、人才培養(yǎng)三個方面，為紓解算法歧視提供思路借鑒。

關鍵詞：人工智能；新聞出版；算法偏見

隨著人工智能計算機系統(tǒng)被廣泛運用在社會的各個領域，計算機強大的數(shù)據(jù)搜查與整合能力受到越來越多新聞出版者的青睞，并開始協(xié)助工作人員挖掘話題、梳理大綱、審校文本。有些生成式人工智能甚至搖身一變成為新聞出版的主體，自主撰寫新聞文章。2020年9月8日，英國《衛(wèi)報》刊登了GPT-3（可生成類人文本的人工智能程序）生成的一篇文章。文章首段開門見山地表示：“我不是一個人類，我是機器人，一個會思考的機器人?！北M管這篇文章由人類進行過編輯和校正，但依然在新聞界引起了軒然大波。算法逐步打破原先網(wǎng)絡的虛擬限制，走進真實的社會。與此同時，算法偏見的出現(xiàn)打破了人們原先對計算機系統(tǒng)“完全客觀、完全公正”的片面認知，人工智能似乎已不再是對人類的模仿。這引起了公眾對人工智能這一新興事物及其背后算法的擔憂。

一、新聞出版業(yè)中的算法偏見

（一）意識形態(tài)偏見：賽博空間中強權政治的開疆拓土

從現(xiàn)階段來看，歐美等西方國家借助其自身在信息技術方向的先決優(yōu)勢，持續(xù)推進人工智能的開發(fā)，將本民族政治文化納入機器學習的大背景，機器模擬不再是作為世界公民的個體，而是開發(fā)者所在階層、所持政治態(tài)度的縮影。文化霸權主義從物理空間進一步蔓延至虛擬世界，看似客觀的算法存在著被規(guī)訓的政治視角，代表規(guī)訓者發(fā)言，強權政治在信息技術上繼續(xù)“開疆拓土”，占據(jù)話語主導，弱勢國家、民族被持續(xù)打壓，建構出強者越強、弱者越弱的新一輪沉默螺旋。在我國，新聞業(yè)是黨和人民的耳目喉舌，作為該事業(yè)重要組成部分的新聞出版也不能例外。因此，當人工智能進入新聞出版行業(yè)時，其輔助的選題策劃、信息采集、內(nèi)容建構、營銷推廣實際上包含著規(guī)訓者借助技術滲透的意識形態(tài)，如果未能及時辨別，國家安全將受到嚴重威脅。

（二）主流思想偏見：多元社會下新聞嚴肅的消解

當前，社會日益呈現(xiàn)出多元化傾向，網(wǎng)絡空間被各種內(nèi)容填滿，這些龐雜的信息良莠不齊，受眾往往因為淺層需求而大量攝入不用思考的娛樂化內(nèi)容。利己主義、娛樂至上等非主流思想驅逐主流思想，兼具深度、高度和銳度的新聞嚴肅被消解。

一方面，算法偏見加劇受眾疏遠主流思想。個性化推薦系統(tǒng)所運用的協(xié)同過濾算法是當前網(wǎng)絡環(huán)境中最常見的算法系統(tǒng)之一，作為人工智能計算程序，它主要是以不同用戶和商品間的相關性檢測為根據(jù)，并借此計算消費者偏好，制訂個性化廣告、內(nèi)容推送?；谶@種邏輯，算法天然地會將受眾好惡作為衡量信息價值高低的決定性標準。受眾的選擇不斷肯定著個性化算法的基本邏輯，算法也不斷向受眾投放相似的觀點和內(nèi)容，塑造出信息繭房，公眾誤認為自己喜愛的觀點是正確的，完全沒有意識到正在同主流思想漸行漸遠。

另一方面，算法偏見被非專業(yè)主體用來制造邊緣文化?；ヂ?lián)網(wǎng)的誕生整合了以往傳統(tǒng)媒體文字、圖像、音頻、視頻等各類表達方式，新聞傳播的主體由最開始的記者、新聞工作者轉向大眾。部分非專業(yè)力量片面追求流量利益，迎合受眾需求，將內(nèi)容中心遷移到純粹娛樂上來，吸引快節(jié)奏和高壓生活下的受眾點擊瀏覽，受眾的推崇鼓舞算法判定這類內(nèi)容具備價值，將之推薦給更多人。非專業(yè)力量的影響通過算法偏見得以擴大，不斷擠壓專業(yè)新聞出版主體的生存空間，增加新聞出版行業(yè)的發(fā)展壓力，許多專業(yè)化媒體、傳統(tǒng)媒體迫于維持經(jīng)營的需求，向算法妥協(xié)。

（三）個體特征偏見：刻板印象內(nèi)個體特征的標簽化

人工智能囿于本身是對“人”的模仿，在應用中顯露出類人的刻板印象，通過將各種群體打上標簽的形式加以生硬區(qū)隔，這種分眾路徑帶來了性別、年齡等偏見。

一是性別偏見。由喬伊·布蘭維尼發(fā)起的“性別陰影”研究發(fā)現(xiàn)，微軟、國際商業(yè)機器公司、曠視科技三家公司生產(chǎn)的人臉識別產(chǎn)品均存在著對女性面部識別的誤差，而這一現(xiàn)象在男性面部識別中頗為少見。另有一則案例是亞馬遜的人工智能招聘軟件，該軟件在運行過程中被發(fā)現(xiàn)存在嚴重的性別歧視，更多的工作機會、求職信息向男性傾斜，而那些在平臺上輸入性別為女的求職者相比之下難以找到合適的工作。相似的事件同樣發(fā)生在中國，作為現(xiàn)象級社交軟件的“抖音”吸引了諸多新聞行業(yè)的入駐，這些官方客戶端在抖音上出版新聞滿足受眾信息需求。然而，網(wǎng)友們發(fā)現(xiàn)a6b8b93d12877f4c5db7d89c22777fd1，不同性別的人所看見的評論區(qū)內(nèi)容大相徑庭。算法抓取信息是現(xiàn)代新聞出版行業(yè)了解事實變動的重要渠道，“見人說人話”的人工智能實際上阻礙著媒體全面、客觀地探索民意，錯誤的數(shù)據(jù)收集可能帶來反饋的失實，新聞工作者越來越難以把握受眾的實際需求。

二是年齡偏見。2022年，世界衛(wèi)生組織發(fā)出警告稱，人工智能系統(tǒng)恐會加深對老齡人口的歧視，影響其健康狀況。老年人作為數(shù)字弱勢群體，明顯表現(xiàn)出對高智能化信息技術的不適應，很大一部分老齡人獲取信息的渠道同年輕人錯位，依然保持著傳統(tǒng)的紙媒、廣播或電視新聞了解方式。與之相反的是，傳統(tǒng)媒體在求取生存的轉型中將主要陣地轉移到網(wǎng)絡平臺，許多紙媒停產(chǎn)。新聞出版不斷年輕化的同時，高齡人口的信息需求被逐漸忽略，他們的信息來源也隨之減少。

二、人工智能語境下新聞出版算法偏見的治理路徑

（一）加強社會主義意識引導，創(chuàng)新主流思想宣傳形式

應對算法偏見，首要的是應對意識形態(tài)和主流思想偏見。新聞出版行業(yè)要堅持用社會主義核心價值觀引領新聞出版發(fā)展，堅守思想陣地，加強理論武裝，真正使人工智能算法為黨的新聞業(yè)所用，為國家的新聞業(yè)所用，為人民的新聞業(yè)所用。一方面，新聞出版業(yè)要增強風險意識，守住意識形態(tài)底線。新聞出版行業(yè)工作者在使用各種人工智能信息技術輔助出版時，要警惕算法中西方意識形態(tài)的滲透，建立健全產(chǎn)業(yè)內(nèi)部自查體系，嚴肅對待人工智能，尤其是生成式人工智能這一新興技術。人工審核不應在新聞出版的全過程中缺位，面對尚處于發(fā)展階段的算法，身為意識主體的人的存在是避免技術越軌最好的保障。新聞出版行業(yè)工作者警惕技術風險的同時，要善于反向利用算法篩選、過濾與國家意識形態(tài)相悖的惡意論調。另一方面，新聞出版業(yè)要堅持黨性原則，打造思想高地。黨性原則問題是社會主義新聞工作中的重大理論和重要實踐問題，是新聞出版行業(yè)在每個時代必須回答的問題。當今世界是思想多元化的世界，堅守黨性原則就是要有正確的政治導向，新聞出版行業(yè)工作者要發(fā)揮主觀能動性，在把握底線思維的基礎上積極宣傳黨的政策與主張，弘揚主流思想，引導輿論回歸正軌；充實大眾媒介素養(yǎng)，激發(fā)全社會向善、向好的精神氣力；不斷創(chuàng)新創(chuàng)造宣傳形式，將人工智能算法有機地運用在擴大受眾媒介可及性上，充分延展新聞觸角。

（二）支持國內(nèi)人工智能產(chǎn)業(yè)發(fā)展，構筑符合本土環(huán)境的算法體系

算法受到開發(fā)者固有思想、社會制度和數(shù)據(jù)采集實踐的影響，想要真正紓解算法偏見問題，就需要避免被技術“卡脖子”。各級政府支持國產(chǎn)人工智能發(fā)展，首先要著眼政策，落實科技興國戰(zhàn)略，切實營造出智能智造的科技氛圍；其次，要完善版權保障體系，尊重研究成果，既要保護符合本土語境的算法創(chuàng)新，又要保護公眾隱私，在公眾被告知且同意的情況下獲取數(shù)據(jù)集，將技術發(fā)展建立在符合倫理道德的基礎上；最后，要大力推進人工智能產(chǎn)業(yè)高層次人才培養(yǎng)，適當擴充財政教育支出，引導高校合理分配研究資源，進行知識交流合作，為新時期信息技術發(fā)展貢獻合力。人工智能產(chǎn)業(yè)的發(fā)展要杜絕以短期效益為目的，這不僅要求科研人員坐得住“冷板凳”，更要求全社會對技術研究有耐心，為人才培養(yǎng)、技術發(fā)展塑造和諧的大環(huán)境?？萍脊ぷ髡咭掷m(xù)對現(xiàn)有算法進行優(yōu)化，在改進計算邏輯的基礎上盡可能避免業(yè)務理解偏見、數(shù)據(jù)集偏見、技術偏見和實踐偏見。科技工作者要端正態(tài)度，以辯證的思維看待算法技術，對于其中合理的部分加以學習轉化，對于其中敵對、沖突的內(nèi)容進行改造。中國本土語境算法的構筑絕非爭奪賽博空間政治權利，而是要抵制單一話語權帶來的霸權主義，是世界多元化的重要和平力量。

（三）打破專業(yè)壁壘，打造復合型新聞出版工作者

規(guī)避算法偏見需要新聞出版工作者對算法運行的基本邏輯有初步的了解，只有明確技術運作的原理，才能從實際問題出發(fā)，探討誘發(fā)問題的現(xiàn)實因素，從而選擇更客觀、合理的實踐路徑。打造復合型新聞出版從業(yè)者是全面建設高素質出版人才隊伍的必經(jīng)之路，也是緊跟時代潮流、反映時代脈搏的要求。對于已經(jīng)在出版行業(yè)工作的技術人員，出版社應積極組織繼續(xù)教育，國家級出版社要依托現(xiàn)有黨政資源和影響力，向下帶動省市地區(qū)級出版社，為缺乏資金和教育資源的弱勢組織提供助力，舉辦多次、多種培訓，在意識形態(tài)、主流思想上組建統(tǒng)一戰(zhàn)線、統(tǒng)一口徑，貫通垂直體系；省市地區(qū)級出版社要拓寬視野，新聞出版企業(yè)之間要多溝通交流，把彼此看作為了共同的社會主義現(xiàn)代化目標奮斗的好伙伴，而非搶占市場份額的競爭者，同時保持謙虛心態(tài)，合理樹立榜樣意識和比拼意識，在你追我趕中延伸橫向連結。對于尚未進入出版行業(yè)的、仍在校園中的學生，學校要開設與人工智能語境下新聞出版相關的課程，培養(yǎng)理論基礎扎實，且具有復合型思維的人才。此外，新聞出版企業(yè)要同高校緊密聯(lián)系，為學生提供實習實踐的崗位。

三、結語

人工智能塑造的網(wǎng)絡虛擬空間并非完美無缺的“樂土”，映射著人類真實偏見的算法實際上為大眾建構了一個與自己有相近觀點、充滿娛樂性色彩的擬態(tài)環(huán)境。對待技術，我們理應正視它內(nèi)部的意識形態(tài)邏輯，引導其向更符合社會主義現(xiàn)代化要求的路徑靠近，弘揚好以社會主義核心價值觀為代表的主流思想，打破從刻板印象中脫胎的痼疾成見，將算法從流量的桎梏中解放，切實為人民更美好的物質文化需求服務。

參考文獻：

[1]王悠然.全球認知生態(tài)系統(tǒng)興起[N].中國社會科學報，2021-07-09.

[2]劉海龍，連曉東.新常人統(tǒng)治的來臨：ChatGPT與傳播研究[J].新聞記者，2023（6）.

[3]葉青，劉宗圣.人工智能場景下算法性別偏見的成因及治理對策[J].貴州師范大學學報（社會科學版），2023（5）.

[4]卜素.人工智能中的“算法歧視”問題及其審查標準[J].山西大學學報（哲學社會科學版），2019（4）.

[5]賈詩威，閆慧.算法偏見概念、哲理基礎與后果的系統(tǒng)回顧[J].中國圖書館學報，2022（6）.

[6]謝梅，王世龍.ChatGPT出圈后人工智能生成內(nèi)容的風險類型及其治理[J].新聞界，2023（8）.

（作者單位：南昌大學公共政策與管理學院）