媒體傳播中智能算法的社會風險與治理策略研究

高志華 馮甜甜

摘 要：新媒體傳播領域中人工智能技術的飛速發展正在深刻地改變著公共信息傳播的作用方式和效果。智能算法在信息傳播環節的全面滲透已經成為一個現象級的話題，其帶來的虛假新聞、算法偏見、信息繭房、隱私與安全等問題給社會治理帶來了巨大挑戰。本文從新媒體中人工智能算法的應用現狀與社會影響入手，剖析算法底層邏輯，研究基于算法透明度的公開原則，探索以智能算法為對象的治理策略，促進傳媒現代化治理體系建構和治理能力提升。

關鍵詞：新媒體；智能算法；算法治理

中圖分類號：G206 文獻標志碼：A 文章編號：1674-8883（2020）01-0077-01

信息技術的飛速發展將人類帶入全媒體時代，正如習近平總書記所說：“全媒體時代是個大趨勢，媒體融合發展是篇大文章。”在全媒體時代，每個人、每個組織或機構都有可能成為信息的生產者和傳播者，而且未來新聞信息傳播的各個環節，參與主體未必僅僅是“人”，萬物互聯、萬物皆媒，智能體或將進一步參與信息采集、處理與傳播的全過程。隨著移動互聯、云計算、人工智能等技術的逐步成熟，媒體的智能化進程不斷加快，面對輿論生態、媒體格局、傳播方式發生的深刻變化，如何在這一場前所未有的大變革中“破繭而出”，是主流媒體面對的重大課題，是政府治理能力創新的重要契機。

一、智媒時代的算法權力

人工智能的高速發展得益于3個主要技術因素：計算能力的增強、海量數據的積累、算法的進步和優化。人工智能的本質在于算法，算法即權力。新媒體中的信息獲取、傳播與控制的方式得到技術賦權，智能算法和傳統的信息傳播活動融合形成全新的信息傳播網絡，在一個媒體和代碼無處不在的社會，權力越來越存在于算法之中。

算法與媒體的正式結合始于2002年谷歌推出谷歌算法新聞。谷歌的算法抓取與算法呈現是媒體技術的創新，這種算法新聞極大地提升了新聞傳播與信息流通的效率，Facebook（臉書）、谷歌、今日頭條等都是典型的算法模式的新媒體。如今，人工智能算法在新聞傳播領域的全面滲透已經成為一個現象級的情況。隨著媒體網絡信息技術的不斷優化，原來新聞傳播中的諸多人工職權，如記者的新聞線索發現與內容生產、編輯的新聞發布等，逐漸被讓渡給算法，算法的應用場景和權力范圍不斷擴張。

在新聞線索獲取階段，傳統媒體時代下信息采集、新聞線索獲取完全依賴人力，并由人工完成新聞制作所需信息和數據的材料收集整理。在智能媒體時代，以傳感器為載體、大數據處理技術為支撐豐富和優化了新聞源頭，與此同時智能機器人承擔著收集、整理新聞線索的任務。在新聞寫作編輯階段，當前由機器人撰寫的自動化新聞在整個新聞報道中的比重越來越大，例如今日頭條的寫作機器人寫出來的文章已經不輸于專業記者，特別是體育類、娛樂類新聞。與此同時，新媒體的互動環節通過各種算法，把最好的評論排上來，在評論、跟帖區呈現大眾的智慧，更好地吸引用戶參與。在新聞推薦與分發階段，采用的新聞推薦算法的類型不斷進化，這些基于網絡的新媒體智能推薦算法正在成為新形式的權力。智能算法的內容分發所占的比例越來越大，截至2017年底，算法內容推送與分發已經占到整個社會性信息分發的70%左右。[1]

二、智能算法的社會風險

新媒體中的人工智能算法解決了互聯網時代的傳統信息傳播范式超載危機，大大提升了信息生產、分發、管理等各方面的工作效率。人工智能具備工具理性、科技理性的條件與特點，精準、快速、高效，但是算法在新聞傳播中帶來的黑箱問題、信息繭房、算法偏見等諸多問題也引起了政府、學者和業界的反思，“算法焦慮”已經成為亟待解決的問題。

算法單一和取值偏差容易成為媒體負面效應放大器，導致虛假新聞、“標題黨”、低俗信息泛濫等問題層出不窮，出現導向偏差，甚至出現劣幣驅逐良幣的現象。算法的設計、目的、數據使用等都是設計開發者的主觀選擇，其主觀偏見有可能被嵌入算法系統。在商業利益驅使和流量思維導引下，算法偏見、算法歧視和算法操控的情況屢屢發生。算法智能分發和精準推送滿足了用戶的興趣需求，導致信息偏食問題凸顯，容易形成“信息繭房”。“信息繭房”中的受眾容易固化自我信念與價值體系，促使個人極化，極易形成集體偏見，引發群體盲思。2017年《人民日報》曾連發3篇評論《一評算法推薦：不能讓算法決定內容》《二評算法推薦：別被算法困在“信息繭房”》《三評算法推薦：警惕算法走向創新的反面》，批評算法推薦引發的亂象。[2]

“黑箱”在控制論中一般是指既不能打開、又不能從外部直接觀察其內部結構的系統。在新聞媒體傳播領域，算法對用戶，或者說對被算法計算的受眾來說，其源代碼和工作原理被封裝于模型框架之中，構成一個黑箱。算法黑箱使得廣大受眾以現有的認知水平難以判斷其生產、傳播的信息的真實度和可信度。無法透視算法的運作黑箱與背后的利益操縱，使得監管十分困難。智能時代下算法即權力，人工智能技術不僅在新媒體領域突顯其優勢與力量，還不斷滲透進人類生產生活的各個方面。算法具有政治性，且其自身無法實現技術中立，在新媒體領域已經開始主導人工選擇的方向和內容。因此，探索研究新媒體中的智能算法治理極其必要與緊迫。

三、算法治理策略初探

（一）算法分級監管機制

建立完善的基于算法透明度的公開機制。建立算法公開的審查與監管機制必須考慮公開與保密的平衡，畢竟人工智能算法作為一種技術秘密和商業秘密，[3]要實現完全公開是不現實的，這也是在實踐監管中存在的一個難題。在具體算法監管中要遵循有限公開原則，一方面人工智能采用的有些機器學習算法具有自組織、自學習能力，其算法模型的解釋有一定技術障礙；另一方面，有限公開是平衡算法透明和企業商業秘密的結果。

因此，算法監管需要建立分層次、分類別的分級審查與監管機制。根據對社會公共利益和公共基本權利的影響程度分級，影響大的應該采用更高級別的算法公開，影響小的則可以采用更靈活的算法公開方式。與此同時，考慮算法使用的不同場景、不同領域，采用分類公開方式。例如在新聞源頭，新聞線索獲取、編輯階段，應強調數據來源的全面公開和解釋；新聞寫作機器人應強調模型的價值遵循；新聞推薦與分發則更強調公開推理依據和前提假設等要素。另外，要確定算法監管職能機構，屬于商業秘密的核心算法只對政府監管公開，其他低級別的則可提供給第三方監管機構或面向社會公開。以算法有限公開為原則對算法的開發者、使用者和維護者確定不同程度的公開義務，旨在增強企業平臺的社會責任感。

（二）多元協同的算法治理模式

算法的治理需要考慮為新技術的發展預留空間，相關政策制定應兼顧不同利益主體的關切和要求，政府鼓勵企業平臺、第三方機構以及廣大網民多方參與政策制定，形成多元協同的算法治理模式。政府致力于頂層設計，推進人工智能領域的立法體系建設，劃定技術倫理、權限邊界和行為規范，同時培養和引進人工智能和大數據相關領域的人才，提高黨員領導干部的信息素養和治網馭網能力。企業和網絡傳播平臺需要用正確的價值觀指導算法推薦，例如2018年今日頭條旗下產品內涵段子被關停后，今日頭條表示要全面糾正算法和機器審核的缺陷，不斷強化人工運營和審核。政府和企業在算法監管與治理的良性互動過程中壓實企業平臺主體的責任，充分發揮企業技術優勢，強化算法技術對新聞源頭的篩選，規范新聞信息來源和內容生成方式，倡導“正直向善、科技創新、擔當責任”的企業社會責任。鼓勵引入第三方機構或社會組織監測和評估算法，定期或不定期公布各大媒體新聞信息傳播平臺智能算法的測評報告。考慮用技術來解決技術帶來的問題，設計開發專門用于監測算法和內容的算法，利用算法審查和監管算法。同時，加大人工審核的投入力度，采用“人機結合”的方式，[4]進行內容與算法的雙向審查。加強宣傳，提高廣大網民對算法推薦的認知度，提升受眾應對算法偏見和信息繭房的元認知能力，完善舉報、核實、獎勵機制。

四、結語

在新媒體時代，隨著大數據、云計算、人工智能等新興技術的發展與成熟，媒體數字化、智能化進程不斷加快，同時帶來了輿論生態、媒體格局、傳播方式的深刻改變。智能算法逐漸滲透到信息傳播的各個環節，權力越來越存在于算法之中。智能算法在信息獲取、加工、生成、傳播、推送的過程中呈現出無與倫比的精準性、快速性和高效性，但同時在新聞傳播過程中也帶來了黑箱、信息繭房、算法偏見等諸多問題，引起了政府、學者和業界的反思，“算法焦慮”已經成為亟待解決的問題。因此，必須建立完善的基于算法透明度的分級審查與監管機制，探索政府、企業、第三方機構以及廣大網民多方參與、多元協同的算法治理模式。

參考文獻：

[1] 喻國明.人工智能與算法推薦下的網絡治理之道[J].新聞與寫作，2019（1）：61-64.

[2] 陳明.算法推薦的“歧途”及規制之策[J].視聽，2018（10）：123-124.

[3] 網絡時代應如何規范算法[N].人民日報，2018-07-04.

[4] 鄧杭.算法推薦的風險防范和導向管理——發揮算法推薦對網絡輿論的正向價值[J].新聞戰線，2018（11）：62-64.

作者簡介：高志華（1979—），女，湖北人，博士，講師，主要研究方向：網絡社會治理。