網絡推薦算法中的意識形態安全風險研究

摘要：隨著社會信息化的加速推進以及網絡技術的深刻變革，網絡安全與國家安全和現代化建設產生深刻聯系。當前，互聯網的意識形態安全面臨著全新的挑戰和風險，并且互聯網在意識形態安全層面走在了工作的前沿。隨著我國網絡進入全面信息化、智能化時代，網絡推薦算法不斷更新和應用，在為人類提供便利的同時也帶來了網絡意識形態安全風險，可能產生價值分化、技術黑箱、主流意識形態話語權被削弱以及信息繭房等問題。文章研究網絡推薦算法中的意識形態安全風險，以推進網絡安全與國家安全得到保障。

關鍵詞：意識形態;推薦算法;互聯網

中圖分類號：G641 文獻標識碼：A 文章編號：1004-9436（2021）22-00-03

意識形態關乎旗幟，關乎道路，關乎國家政治安全。“在新的歷史條件下，互聯網已成為輿論斗爭的主戰場。”[1]習近平總書記多次提到，過不了互聯網這一關，就過不了長期執政這一關。據統計，截至2021年初，中國互聯網用戶的數量接近10億，每個星期人均使用互聯網的時間長達26.2個小時，而移動終端的使用者比例為99.7%，社交平臺對全球信息傳播具有極為重要的作用[2]。由此可以看出，互聯網，特別是移動互聯網的快速發展和傳播，在人們的生活中起著關鍵的作用，其快速傳播歸功于算法推薦的普及和使用。但隨著網絡推薦算法在移動網絡平臺的大規模應用，網絡意識形態領域也面臨著新的風險。

1 基于網絡推薦算法的信息推送導致價值分化

在信息化快速推進的網絡時代，相當一部分人獲取信息的渠道主要是社交媒體，而其中由新聞算法主導的新聞媒體發布的信息受眾更為廣泛。但是各個行業的壟斷者、資本家，能夠依靠先進的算法技術促使人們獲取的信息更多源于其瀏覽習慣和興趣，而很難獲取到更加全面、多樣的信息。長此以往，受眾的思維會受到限制，獲取的信息類別也會相對固定，從而導致他們的思維方式單一固定[3]。這部分被束縛在固定信息之中的人，不但思想意識會受到影響，其在群體決策中的思想還會出現極端化的傾向。智能化新聞算法為受眾提供的信息展現出的是商業模式下的需求。在以商業利益為主導的形勢下，公眾更傾向于瀏覽娛樂信息，其意識經常被一些有意引導的文案左右，而嚴肅的信息話題往往不受重視。在這種算法定制化模式下，人們的思想會被推薦的信息影響，不利于公共話題的傳播和參與，長期下來還會危害到社會秩序。

馬克思·韋伯（Max Weber）采用理性二分法將理性分解為價值（合）理性和工具（合）理性兩種類別，并使其具有能夠解釋社會現象的能力。價值理性強調行為不計后果地遵從某些價值信念，如“義務、尊嚴訓示、孝順，或者某一件‘事’的重要性的信念”;工具理性更關注如何通過更加合理有效的方式取得更大的效用。算法推送的技術核心是快速獲取用戶的喜好并且為其推薦感興趣的信息，這種方式能夠有效推送能夠滿足用戶喜好的信息。但是因為用戶感興趣的信息各有差異，其信息鑒別能力也有很大差別，尤其是在當前的社會環境下，拜金主義、功利主義等盛行，單單根據用戶的喜好推送信息，往往會導致含有負面傾向的信息被大量推送給特定用戶。這有可能給用戶留下“很多人都有這種價值取向”的印象。

在信息飛速傳播的網絡時代，個性化的定制信息以及固定類別信息的推送會讓有相同喜好、價值觀的用戶聚合到一起，并且他們的思想和思維方式會越來越統一，最后形成多個不同類別的網絡部族。在這些部族中，一些極端的信息會得到前所未有的推崇，這些人也更加認可自己的思想和觀念，甚至將一些具有明顯負面傾向的信息當作真理。在這種形勢下，能夠體現正確價值觀的信息反而很難進入這類群體之中，這不利于良性社會秩序的維護和建立。而這些擁有算法技術優勢的公司大都會開放用戶注冊權限，從而讓用戶都可以發布信息。在算法公司和信息發布者的聯合作用下，一些特定的價值觀會在一定的范圍內得到廣泛傳播。

2 網絡推薦算法下的技術黑箱存在意識形態安全隱患

算法推薦技術的進步和應用推動了價值共識的形成。在信息化飛速發展的形勢下，網絡推薦算法在人們的生活中被廣泛運用，且這一技術在各大平臺中被普遍使用，具有個性化信息定制、智能信息推薦、信息傳播等功能。網絡推薦算法的傾向會在一定程度上影響人們的價值觀，這是因為算法本身就不是絕對中立的，對算法技術進行操作的程序員會進行相關的控制，并且每條信息都含有發布者的個人主觀色彩。程序員在設定網絡推薦算法的時候，就在其中融入了主流價值觀的內容，因此算法在推薦信息的時候，會持續推送含有主流價值的信息，而用戶就會接收和瀏覽主流價值的信息。根據算法原理，后臺會對用戶接收信息的情況進行整理和反饋，從而重復推薦具有正向價值觀的信息，這能使用戶傾向獲取的信息始終含有主流價值，避免這一類信息因為推薦機制被屏蔽。另外，隨著算法技術的不斷進步，再加上平臺對信息推薦比例的平衡，用戶能夠根據自己的喜好獲取推薦的信息。含有主流價值的信息數量有所欠缺時，系統就會自動進行補充推薦，這能夠有效加強主流價值信息的傳播，從而推動正確的社會價值觀的形成。

圓形監獄是邊沁（Jeremy Bentham）為監管和改造犯人而設計的一種新型監獄，由外圍環形建筑和中心瞭望塔兩部分組成。這種特殊的建筑結構能讓處于中心瞭望塔的獄警將所有犯人所有的行動都收入眼中，所以，在這種建筑中的犯人毫無隱私可言。從這個角度來看，算法推薦技術也與這種圓形建筑有相似的地方，算法可以看作是中心瞭望塔，用戶是環形建筑中的囚犯。之所以這么說，是因為如果用戶想要獲取某個方面的信息，首先就要暴露自身的信息，如年齡、位置、通訊錄、朋友關系、閱讀興趣等。系統只有獲取這些個人信息之后，才能夠對用戶的喜好進行精準定位，從而根據其喜好向其推薦需要的信息。

3 網絡推薦算法削弱主流意識形態的話語權

在國內外文化思潮的沖擊下，社會總體價值觀多元化現象加劇，主流價值觀在互聯網中的話語權和影響力日益弱化，特別是隨著移動互聯的飛速發展，自媒體、短視頻等平臺不斷推陳出新。現階段，對于國內互聯網輿論場而言，針對熱點事件的評議、討論等多維交流方式日漸替代了以往單一的新聞播報的傳播模式。比如當前微信平臺的公眾號數量接近30萬個，而其中與“中國特色社會主義”相關的公眾號數量不足10個，數量極少、話語權極弱，成為主流宣傳不得不盡快破解的難題。

因為互聯網具有開放、共享、隱蔽、即時、動態等屬性，其可以融合種類繁多的意識形態觀點，讓它們在同一個輿論陣地中相互碰撞，導致多樣化的意識形態碰撞和摩擦變成不可忽視的現實。同時，各類網絡思潮均深刻意識到了互聯網中的話語權本身便是一類極為重要的政治資源，因此其把互聯網當作宣傳自身理念的“跑馬場”，并在陣地中展開了極為激烈的、爭奪政治人心的“角逐賽”。在此過程中，互聯網中意識形態論爭的激烈程度、復雜程度日漸提升。因為涉及的參與方、熱點內容、表達方式均表現出多樣化屬性，學術辯論同意識形態論爭相互滲透，而某些意圖挑起紛爭、別有用心的群體以學術討論為掩蓋手段，公然挑釁社會主義意識形態。

參與討論的群體中不僅有普通的網友、公民，還有很多境外敵對分子及其選擇的代理人，這部分群體依托我國開放的互聯網輿論場開展各類政治活動。熱點的內容范圍極廣，其中有帶有政治色彩的方面，如圍繞我國近代史和革命先烈的評價、圍繞改革開放以來取得成就的評價、國家大政方針、圍繞社會道德層面進行的討論等，這均為現階段互聯網意識形態領域討論得極為激烈的內容。而在討論的形式層面，不僅有從理性層面開展的心平氣和的探討，也有為了發泄情緒進行的謾罵和攻訐，其不僅涉及互聯網平臺虛擬世界的論爭，還發展成線下的“人肉搜索”等網絡內外相互滲透的意識形態論爭。

在互聯網平臺中，特別是微博、微信等具備很多匿名使用者的平臺中，擁有一定話語權的“意見領袖”可以依托互聯網使用者的從眾想法，構筑起能夠促使自身觀念更好地擴散的“沉默的螺旋”。在這種背景下，互聯網中的論爭時常會構筑起輿論風暴，可以在短時間內聚集起規模巨大的響應者和跟風網友在其中推波助瀾，讓網絡輿論按照其預設和引導的方向推進。

4 網絡推薦算法導致信息繭房

現階段，中國互聯網使用者的數量突破了8.5億，然而部分使用者的網絡素養仍然不高。部分網絡媒體使用者仍熱衷于追逐八卦、謠言，熱衷于挖掘和泄露他人信息等。現階段，部分地區，如鄉鎮、縣級網絡媒體的宣傳模式、載體以及話題引導水平仍然有較大的提升空間，輿情掌控和處置水平不高。為了能夠在較短的時間內得到較多的關注和較高的點擊率，部分APP借助智能算法向外界傳遞大批低級但能夠吸引眼球的內容，使用戶受困于大量低劣內容形成的信息繭房中。

“信息繭房”最早由美國學者桑斯坦提出，他還對此進行了說明，指出其是“我們只聽我們選擇的東西和愉悅我們的東西的通信領域”。按照上述解釋，處于繭房內的群體無法進行周密和理性的思考，這是由于該群體已經有了先入為主的觀點。互聯網中根據智能算法為使用者推送的具有針對性的內容，指的便是桑斯坦提出的“我的日報”。該智能算法融合了使用者的歷史瀏覽數據、點擊記錄等，對相關數據進行匯總、剖析、挖掘、計算，歸納出該使用者的個性化偏好，并為其推送其可能感興趣的內容，而長時間被這樣的內容浸潤，會使用戶的思想固化、視野狹窄。因此，個性化推薦算法模式如同蠶蛹吐絲，利用不同的過濾機制篩選出固定類型的信息，如同絲線一樣把用戶包裹其中，最終導致用戶被關閉在思想扭曲以及異化的模式之中。當前，大量的新聞類APP內容低劣，其中包含著各類標題黨信息，很多內容主觀色彩鮮明，甚至還會用低俗的模式編寫。

上述情況在心理學中能被納入“尖叫效應”的范疇。此處所說的“尖叫效應”可以解釋為馬路上的人群里有一個個體，在安靜的環境里突然尖叫，那么這個個體便可以聚焦周圍群體的目光。而此概念可以較好地描述紛繁復雜的新媒體傳播渠道。現階段，在移動互聯蓬勃發展的環境中，大量自媒體或作者依托剪裁、拼接、夸大、胡編亂造的手段制造大量博人眼球的內容，上述信息可以在短時間內獲得較多的關注和較高的點擊率。但是用戶之所以可以觀看到這些內容，智能推薦算法發揮了根本性作用。算法把此類滿足“尖叫效應”的內容推送給相應的群體，使得用戶時刻被低俗的內容包圍。在傳統媒體的話語權逐漸被削弱的背景下，用戶特別是中老年群體、青少年群體很難明晰信息的真假。在這樣的背景下，用戶能夠依托自身所接觸的互聯網中的圈子分享內心的想法、表達情緒，也會極為草率地在內心形成傾向性觀點[4]。上述問題均為推薦算法影響下的新聞傳播帶來的不良后果。

互聯網平臺中輿論的非理性宣泄會造成極大的混亂，同時會產生溢出效應并引發連鎖反應，其后果為互聯網用戶在篩選內容時出于個人喜好，更傾向于選擇同內心想法一致的內容，而內嵌智能推薦算法的網站能夠按照用戶偏好推送個性化內容，由此構成了“回音壁”效果。另外，在瀏覽的過程中，用戶會隨著時間推移持續固化內心的觀點[5]。本質上，“回音壁”不但將讀者困于某個范圍內，而且壟斷了“事實”和“價值共識”，讓讀者不斷強化對與自身價值觀趨同的內容的認同感。

5 結語

網絡推薦算法被社交媒體廣泛應用，在給人們社會生活帶來便利的同時也帶來了意識形態安全風險。正確、全面、客觀地認識網絡推薦算法會引發的意識形態安全風險，有利于我們日后有效規避風險，促使網絡推薦算法更加安全、更加科學地被應用。

參考文獻：

[1] 習近平新聞思想講義[M].北京：人民出版社，2018：44.

[2] 第47次《中國互聯網絡發展狀況統計報告》[EB/OL].中國互聯網絡信息中心，http：//cnnic.cn/gywm/xwzx/rdxw/20172017_7084/202102/t20210203_71364.htm，2021-02-03.

[3] 喻國明，曲慧.“信息繭房”的誤讀與算法推送的必要：兼論內容分發中社會倫理困境的解決之道[J].新疆師范大學學報（哲學社會科學版），2020（1）：127-133.

[4] 陳昌鳳，霍婕.權力遷移與人本精神：算法式新聞分發的技術倫理[J].新聞與寫作，2018（1）：63-66.

[5] 尼爾·波茲曼.娛樂至死[M].章艷，譯.北京：中信出版社，2015：4.

作者簡介：王玉婷（1981—），女，湖北武漢人，博士，副教授，研究方向：高校意識形態安全。

3644501908278