人工智能技術發展與新媒體倫理規制研究

郭海威 張守信

【內容提要】人工智能技術在推動新媒體創新發展和迭代升級過程中，不良信息滋生、信息繭房等現象時有凸顯。面對紛繁復雜的技術環境，注重新媒體在應用新技術過程中的倫理規制，避免技術濫用誤用等問題，對于推動媒體健康發展、切實增強主流價值傳播力影響力至關重要。本研究基于對智媒時代新媒體發展邏輯及所面臨風險挑戰的梳理剖析，探索性提出了人工智能環境下新媒體倫理規制的有效路徑。

【關鍵詞】人工智能? 新媒體? 倫理規制? 價值共創

當前，人工智能在新媒體中的應用廣泛深入，加之物聯網、大數據等技術支持，人類社會進入智媒時代。信息內容生產與傳播表現出顯著的扁平化、大眾化、平等化等特征，多元化社會主體、多樣化技術支撐、多媒介形態和內容樣態趨勢愈發凸顯。然而，由于應用過程中技術主導權不斷增強，算法黑箱、唯數據導向等所引發的不良信息衍生、信息繭房等問題有所凸顯。面對紛繁復雜的技術發展現實，注重新媒體應用過程中的倫理規制，避免濫用誤用等問題，是實現新媒體健康發展、切實增強主流價值傳播力與引領力的重要前提。

一、智媒時代新媒體的發展邏輯

人工智能的快速發展及在信息傳播領域的深度嵌入應用，不僅有效推動著信息傳播流程、傳播格局與生態的重塑，同時也有力推動著社會變革。智媒時代，新媒體面臨著新的發展環境、發展需求，為實現自身不斷發展升級，新媒體內在的發展邏輯正在發生深刻變化。

（一）強化技術支撐：推進智能化升級

人工智能旨在依托大數據、算法、深度學習以及相關傳感器，對人的核心智能進行模擬、延伸與拓展，表現出高度的邏輯性、學習性和預測性。人工智能結合其他前沿技術應用，使得新媒體的內容采集與生產機制、傳播邏輯等都發生深刻變化，驅動信息傳播不斷走向個性化、移動化、智能化。隨著人工智能應用更加成熟，其愈發成為媒體深度融合的技術基石。人工智能有效提升了信息生產與分發效率，以人工智能為支撐的智能編輯部能夠融合各類信息數據，并實現快速提取、有機整合、高效制作、精準分發。通過人機協作，信息生產與分發在技術理性和價值理性上將逐漸趨向平衡，驅動媒體生態走向最優化。

從信息采集環節來看，人工智能技術應用將實現全時段、多場景、多模態的內容采集，新媒體的信息來源將不再局限于新聞工作者自主挖掘及用戶反饋，其開始更多交由媒體的智能大腦進行挖掘處理，通過連接各類交通信息數據庫、環境信息數據庫、行業發展數據庫等，其將在第一時間獲取精準信息數據。從內容生產環節來看，人工智能應用能夠實現對已有內容資料的迅速整合制作，基于對媒體已有信息內容的深度學習模仿，人工智能技術能夠仿照媒體固有風格和模式進行內容生產制作。從內容分發環節來看，人工智能應用能夠實現對信息內容的個性化、差異化、精準化分發。從用戶體驗方面來看，人工智能在推動媒體融合走向深入的過程中，其所提供的信息內容形態更加豐富，主題更加多樣，有助于進一步拓展用戶視野，為用戶提供多樣化、個性化內容產品服務。

（二）堅持人本至上：凸顯人性化趨勢

目前，我國政府部門對人工智能技術與產業發展的政策較為開放，以促進激勵為主，鼓勵各類主體積極利用人工智能發展優勢，努力成為新一輪技術和產業變革的引領者。在新媒體的應用實踐過程中，如何實現對人工智能安全風險的有效管控尚處于摸索階段，堅持以人為本、探尋具有行業針對性的技術安全框架，推動新媒體更加人性化，是今后人工智能技術應用的發展與研究重點。

智媒時代，無論是技術的迭代升級，抑或是行業的創新演進，歸根結底，其最終目標都是服務于人的發展，以滿足人的各方面需求為終極目標。具體到信息傳播領域同樣如此，人工智能應用于新媒體，其對信息內容生產、傳播、反饋等的流程革新與再造，顯著提升了內容生產效率，變革了新媒體運營模式，但是其價值的根本體現依然在于對用戶需求的滿足。滿足多元化的需求，優化內容獲取、接收與交互體驗，無論在當前還是今后發展過程中，都是新媒體中人工智能應用的重要價值追求。

隨著人工智能在新媒體領域實踐程度的加深，媒體將進一步成為人身體的延伸，能夠準確感知用戶的所思所想所需，并通過多渠道、多模式為用戶提供多樣化、多模態的內容服務。人工智能驅動下，新媒體的人性化趨勢將進一步凸顯，在滿足用戶信息需求的同時，為不同用戶制定更加個性化、差異化的服務策略。

（三）創新運營模式：提升市場競爭力

隨著我國對媒體領域的市場化運營進一步放寬，一些新媒體依托自有優勢資源，加快創新市場化運營模式，展現出旺盛的發展活力，發展潛力不斷被釋放。在人工智能技術驅動下，新媒體能夠充分整合內容資源、用戶資源與技術資源，著力提升其自身的核心競爭力，加上逐漸涉足各類商業領域，數字經濟時代的新媒體市場規模正在快速增長，并由此反作用于內容產品力的提升，推動打造具有強大競爭力的新媒體平臺。

就內容產品而言，智媒時代的新媒體通過提供多樣化的內容產品來贏得用戶關注，基于內容進行變現是新媒體市場化過程中的基本發展邏輯，用戶可以通過對內容產品的訂閱、打賞等實現對相應信息服務的付費使用。就內容衍生服務而言，智媒時代的新媒體正在逐漸涉足到信息傳播領域之外的商業場景中，以期打通更多盈利渠道，創新盈利模式。

人工智能技術應用為新媒體實現價值變現提供了更多路徑選擇，今后發展過程中，推動新媒體自身數據要素市場化也是其市場化發展的重要方向，商業模式的創新探索能夠為新媒體發展提供經濟資本與支撐，是保證其持續輸出優質內容產品的基礎所在，隨著技術支撐更加有力，各種傳媒新業態將相繼出現，為新媒體賦能，推動更好實現社會價值和經濟價值。與此同時，人工智能技術的廣泛應用也為新媒體的運營模式變革與創新提出了新的挑戰，如何以人工智能技術應用為支撐，將新媒體運營做大做強，實現業務轉型、經營拓展，是當下和今后一段時期新媒體發展所面臨的重要議題。

二、智媒時代新媒體發展面臨的風險挑戰

隨著人工智能、大數據、云計算等新一代信息技術愈發深刻嵌入到新媒體的運作系統之中，信息傳播領域正迎來巨大變革，信息采集、內容生產、傳播渠道、用戶體驗方式等都在不斷創新演進，各種新形態、新業態、新體驗層出不窮，人類社會正在進入萬物皆媒的互聯時代。在此背景下，新媒體發展也迎來了更廣闊的機遇空間，為基于新媒體內容本身的價值創造創新提供了更開放的舞臺。但是在此過程中，一些過度重視經濟效益而忽視社會效益、對技術應用監管不力等現象時有發生，新媒體中的人工智能技術應用所產生的濫用用戶數據、容易滋生不良信息內容等問題有所凸顯，無形中對社會主流價值帶來沖擊，導致主流價值根基可能被動搖。

（一）算法黑箱沖擊社會價值底線

人工智能技術以算法為重要支撐，在新媒體的實踐應用中，人工智能以特定算法模型嵌入和影響信息采集、內容生產、內容分發、用戶體驗等各個環節，算法邏輯愈發在媒體實踐中占據主導地位，對于議題選擇、議程設置、輿論引導等產生重要作用。然而在此過程中，由于算法本身具有高度的復雜性，其設計機制、計算原理等的透明性較低，其黑箱化特征導致其往往難以被有效管控，繼而由算法主導的傳播過程存在一定的安全風險。

在新的傳播格局下，以往的媒體本位開始讓位于算法本位，算法作用于信息傳播的全流程、全鏈條。在此過程中，標榜技術中立的算法很難完全做到價值平衡，從而導致不良信息進入信息傳播鏈條之中，對社會主流價值帶來威脅。究其原因，一方面是算法在設計過程中，夾雜進入了設計者自身的價值觀，由此導致算法在介入內容生產與傳播過程中，表現出一定的傾向性，但是這種算法偏見與歧視又往往難以被外界所察覺，用戶作為內容消費者仍具有一定的被動性。另一方面是在算法運作過程中，其通過不斷進行學習來實現自主演化，然而，其學習資源來源于互聯網這一龐大的數據庫，其中摻雜的多元化的價值取向、社會思潮等，使得算法在學習演化過程中不自覺地將其內化為計算規則，進而將其在具體的信息傳播操作實踐中體現出來，對社會主流價值和意識形態造成干擾。

（二）個性推薦阻礙主流價值傳播

人工智能應用于新媒體領域中最為突出的表現就是能夠實現個性化、差異化的精準傳播，人工智能基于對用戶數據、消費場景等的深度學習分析，能夠精準識別用戶的消費偏好，從而在內容數據庫中找尋最相關的內容，向用戶進行定向精準分發。簡而言之，即人工智能能夠準確了解用戶看過什么、喜歡什么、想看什么。過去由媒體機構或新聞工作者主導的擬態環境構建逐漸開始交由人工智能主導，為人們提供定制化、類型化的信息內容，但是當人們開始沉浸和適應于由人工智能所構建的擬態環境時，信息繭房效應也逐漸凸顯，算法或用戶既有的對于事物的認知印象及模式會在人工智能精準推薦的機制下愈發得到強化。在此過程中，算法對用戶需求的迎合與滿足雖然一定程度上優化和提升了用戶體驗，但同時卻也容易將用戶困在自己的興趣偏好圈子內，固有認知不斷強化，圈層化趨勢開始凸顯，社會思想觀念出現極化和分化現象，嚴重者甚至導致激烈的輿論紛爭和社會撕裂。

人工智能主導的精準推薦使得信息繭房、過濾氣泡等效應凸顯增強，在促進社會觀念多元多樣的同時，也容易形成價值觀對立，尤其在涉及民生、環境保護等各類熱點議題時，社會輿論中的多元思潮交織交鋒愈演愈烈，嚴重者可能上升至激烈的意識形態紛爭，對主流價值、主流意識形態帶來沖擊風險。

（三）數據導向造成隱私泄露風險

目前來看，數據導向可能導致的隱私泄露風險主要表現在兩個方面。一是算法本身不受限制，在被賦予特定的數據收集與挖掘目標后，并未被指明有哪些信息不能被采集，繼而，在強大算力面前，各類隱私數據在用戶不知情的情況下被提取出來，并被挖掘應用，服務于下一步的使用目標，導致用戶在算法面前完全成為了透明人，沒有隱私可言。二是數據使用與保護不規范，人工智能在許可范圍內進行數據收集與分析，致力于服務社會價值生產與創造，然而在此過程中，出于特定目的的數據使用或披露容易使數據背后的用戶被精準識別，特定用戶隱私被暴露在公眾面前，同時，由于數據存儲安全機制不健全問題，容易導致數據被盜用甚至用于非法交易，對用戶帶來安全隱患。

在此形勢下，推動新媒體實現價值共創極為迫切，只有將多方主體納入到數據采集、使用執行和監督過程中，才能確保數據導向始終符合主流價值導向。通過多方共同參與，及時查找和不足數據安全漏洞，規范數據使用機制與模式，制定相關的數據安全策略，保證數據創造正向社會價值，助力社會主流價值傳播與引領，同時保障用戶隱私安全。只有確保數據的收集與處理合理合法合規，才能確保新媒體的價值生產與創造是正確和有意義的。

三、智媒時代新媒體倫理規制的實施路徑

面對新媒體在人工智能技術應用過程中出現的問題與挑戰，為更好推動技術向善，使新媒體在個體發展與經濟社會進步過程中發揮更大建設性作用，更好引領社會主流價值，探索在多主體協同參與的視野下，發揮各自比較優勢，強化新媒體倫理規制，具有重要現實意義。

（一）多方協同實現共創共享共治

人工智能技術有效促使新媒體發展邏輯變革轉向，新媒體的倫理規制與價值體現超越了傳統媒體環境下的價值生成與創造模式，傳統媒體作為價值創造的主體地位有所削弱，新媒體、用戶等在價值創造過程中的作用和影響力愈發凸顯，媒體價值創造從一元主導走向多元協同。在人工智能、大數據、云計算等技術支撐下，價值的創造不僅取決于新媒體，更多取決于多主體之間的協同關系，不同參與者的相互配合程度對于所創造價值的大小、價值實現程度具有重要影響。

就新媒體自身而言，借助人工智能技術，能夠對社會熱點議題、輿論走向進行準確識別和預測，繼而根據特定議題進行內容生產制作，并將主流價值蘊含其中，實現價值創造與引領。就用戶而言，隨著人工智能在新媒體中的應用趨向廣泛深入，滿足用戶需求、優化用戶體驗成為新媒體價值創造的重要目標。用戶的主動性進一步提升，借助各種技術應用人人皆媒體的時代到來，至此，用戶成為價值創造的重要主體。就傳播鏈條中其他主體而言，同樣在新媒體倫理規制和價值共創中承擔重要角色。技術平臺、行業協會、監管部門、商業服務提供商、金融提供商等，新媒體要實現有效的倫理規制和價值共創，這些力量缺一不可。多方力量共同介入，能夠形成強有力的共創共享共治系統支撐，在資源整合與互補中，不斷探索新媒體倫理規制的新機制、新模式。

（二）依托比較優勢形成規制合力

在新傳播生態中，得益于技術驅動與各類新型應用支撐，用戶對信息內容的選擇權更大，選擇范圍更廣，能夠基于自身需求和設備基礎實現對信息內容的個性化接收與使用，傳播渠道、呈現形態、使用場景等都得到有效延伸和拓展，用戶能夠輕松參與到信息內容生產至傳播結束的全過程。用戶的各種行為數據都成為新聞選題、內容制作、渠道選擇、形態業態創新的重要根據，與此同時，此類數據也是新媒體倫理規制的重要參考和對照指標，為新媒體倫理規制提供新思路和新方向。新媒體自身在內容生產傳播過程中的主導角色仍不可撼動，應充分發揮好自我規制、自我約束作用。技術平臺、監管部門、行業協會、商業組織等同樣應結合自身資源，在新媒體倫理規制中發揮制度、資本、輿論等力量，推動新媒體發展向好向優。

新傳播格局下，新媒體的倫理規制是在多主體、多渠道的共同作用下實現和完成的，其中設計多個環節和階段，整個過程可以被視為圍繞信息傳播流程管理規制的資源整合與優勢互補過程，且伴隨參與主體的多元化，新媒體倫理規制作為一項系統過程，復雜性不斷增加。在此過程中，資源整合是實現推動新媒體倫理規制順利推進的基礎性條件，調動多方能動性、創新性，為新媒體倫理規制提供支撐，優勢互補是新媒體倫理規制高效達成的核心路徑，通過發揮比較優勢，為新媒體倫理規制提供強勁合力。

（三）開放合作構筑新型價值生態

人工智能在新媒體中的應用推動信息傳播在內容形態、傳播渠道、接收方式等方面發生變革，構筑形成新傳播格局。在此背景下，新媒體的價值創造也置身于新的價值生態系統中，不同于傳統媒體時代的價值生態，智媒時代的價值生態在結構上呈現出更加交互化、扁平化的特征，在此生態系統中，價值共創的各方參與主體基于系統結構進行開放合作，形成融合共生的新型價值共創模式。隨著人工智能、大數據等技術應用更加深入，價值共創的系統結構也在不斷發生變遷演化，參與主體、參與邊界、參與效果、參與模式、參與邏輯、參與情境等都在發展深刻變革，但總體而言，結構的變革與創新仍是為價值創造服務，是新傳播格局下新媒體倫理規制的重要表征。

在新型價值生態系統中，其結構組成更加復雜，形成多節點、多連接、無邊界的價值共創網絡。要實現新媒體倫理規制的有力有效，這種開放交互的結構關系應始終堅持以主流價值為引導，遵從共同的價值理念、規范體系，防止突破主流價值框架而滋生不良信息。

融合共生環境下，各傳播主體之間的銜接更加緊密，跨界合作成為常態，新媒體的倫理規制也在突破傳統視角下的傳播規制模式，繼而置身于整體社會價值生態系統中，圍繞價值共創共享共治，新媒體傳播所涉多元主體開放合作，立足更廣闊視野進行價值創造，推動提升主流價值傳播力、影響力。

【本文系國家社會科學基金重大項目“我國新聞傳播業人工智能應用現狀與發展趨向研究”（項目號：19ZDA327）階段性成果】

參考文獻：

[1]黃楚新. 避免出現算法推薦亂象[N]. 中國新聞出版廣電報，2021-08-31（005）.

[2]黃楚新，許可.當前中國媒體深度融合的熱點、難點與機制突破[J].傳媒，2021（14）：12-14.

[3]安珊珊.2020年中國社交媒體用戶使用行為研究報告[J].傳媒，2021（14）：19-22.

[4]狄多華，朱昱熹.移動互聯網時代輿情反轉特點及對策研究——以2020年國內反轉輿情為例[J].傳媒，2021（14）：30-33.

[5]黃楚新.技術驅動視域下信息傳播生態的變革與發展[J].人民論壇，2021（18）：92-95.

[6]于璇，郭海威.智能算法對意識形態安全的挑戰與應對策略[J].科技智囊，2020（10）：33-36.

作者簡介：郭海威，中國社會科學院新聞與傳播研究所助理研究員;張守信，天津大學新媒體與傳播學院副研究員

編輯：白潔