算法推薦技術的邏輯“陷阱”及規避

高一丹，李演軍

（蘭州理工大學圖書館，甘肅 蘭州 730050）

“媒介即信息”（麥克盧漢語）。在萬物互聯、萬物皆媒的智媒時代，人與算法皆為媒介。無論你是否愿意，人與萬物彼此相連而產生大量的信息，從而形成一個巨大的數據系統。在智媒時代的今天，我們常常會遇到這樣一些現象：當你在互聯網上搜索或者購買某款產品后，你的首頁就會被同類產品所占領。同樣，電腦、手機好像很“懂你”，同款的設備，年輕人與中老年的首頁、搜索引擎頁面完全不同。正如流行語所言，“你相信什么，媒體就會讓你看見什么”“你有什么樣的觀點，你就會經常看到與你相同看法的文章”。在人工智能、大數據、云計算以及5G 應用技術主宰的智媒時代，“千人千面”的個性化、精準化服務已成常態，高科技在給用戶帶來信息便捷服務的同時，伴隨而來的是過度的“索權”和“信息黑箱”。他們違規收集個人信息，侵害個人隱私，泄露個人數據，對用戶造成極大的傷害。人們普遍感受到自己已經變成“透明人”，無時無刻不處于恐慌、焦慮和無奈之中。這種現象如果得不到及時有效地規制，將會引發一系列社會問題。

1 算法推薦技術的邏輯

人工智能和大數據的核心技術在于算法，算法的本質是一種權力的讓渡。作為數據與人工智能的節點，算法在新聞內容生產和分發環節中起著關鍵的邏輯控制作用，在信息的準入、準出方面發揮著重要的過濾作用，在檢索、分類方面發揮著記錄和判定作用[1]。而算法推薦技術是以計算機為平臺，利用用戶在互聯網上的行為軌跡，包括時間、地點、場景等；通過對用戶的年齡、性別、職業、愛好、興趣等數據收集進行偏好分析，推算用戶可能的物質、精神需求。然后基于內容推薦、協同過濾推薦、關聯規則推薦等技術，對收集的信息進行整理，對環境、內容、個人特質進行分析判斷，計算出相關性、熱度指標、協同性等方面的特征，形成“用戶畫像”。再根據“畫像”匹配、分發信息，為用戶精準推送量身定做的資訊信息產品。算法就是以此為基礎進行分析、篩選、分揀、匹配內容，調試人們的價值關系，推送資訊信息產品。

當然，在算法沒有足夠的數據進行計算時，平臺會推送一些極具誘惑力的內容，如文不對題的“標題黨”，低俗誘惑的“強烈推薦”，博人眼球的“熱點關注”等，引誘用戶點擊、關注，甚至互動、評論。通過這些操作和內容，進一步試探用戶愛好興趣，吸引用戶點擊關注，以此收集用戶更多、更詳細的信息，完善算法元素。為獲取更多的數據，算法會不斷刺激用戶使用產品和信息內容，吸引用戶“沉浸”其中，迷戀于網絡而不能自拔。隨著點擊、互動的深入，在完全不自知的情況下讓渡更多的“權力”，在奉獻“流量”的同時，奉獻更多的隱秘信息，讓“機器”完全掌握“人類”，在不斷地匹配、調試中提高算法的精準度。

2 算法推薦的技術倫理與“陷阱”

2.1 算法推薦技術的倫理失范

“技術是把雙刃劍”。算法推薦作為一種“技術”的存在，并沒有“好”“壞”的屬性，但傳播者如果將這種技術與追求最大利潤結合起來，與用戶的需求偏好和價值取向結合起來，編織信息繭房，攫取流量，自然就會涉及到一些技術倫理的問題。

（1）信息的客觀性和公正性受到挑戰。有學者認為，堅持新聞信息內容傳播時的真實性，是對傳媒機構及其從業人員最基本、最底線的要求和應遵循的新聞傳播準則，也是媒體最重要的倫理功能之一[2]。信息有“公共產品”的社會屬性，傳統媒體的信息傳播強調的是信息的真實、客觀、公正，“正面引導”。傳媒機構要牢牢把握傳播的內容和方向，而依靠算法推薦技術的運作，按照用戶的需求和偏好推薦信息，缺乏人工審核“把關”，信息的重要性、時效性、導向性無法落實，信息的客觀性、公正性無法保障。為增加“流量”，提高流量變現能力，傳播平臺勢必會討好用戶，以“非主流”信息內容增加點擊率、評論量、用戶活躍度等指標，來增加用戶黏性，從而消解傳媒機構的權威性和公信力。

（2）對用戶的真正需求存在“偏見”。“機器”可以識別人在互聯網上的“數據腳印”，但無法識別人的情感變化。人在不同時期、不同環境有不同的需求。所以，算法不可避免的存在“偏見”和技術漏洞。很容易出現把用戶偶然隨意性的行為認為是必然性的行為，這樣就有可能造成對用戶真正的信息需求進行錯誤的分類和推薦，在一定程度上反而限制了用戶的選擇權，形成對受眾歧視、偏見性的推薦[3]。

（3）用戶信息和個人隱私面臨風險。尊重和保護個人隱私是社會生活中應遵循的基本倫理，但受利益的驅動，一些傳媒機構和資訊平臺基于完善算法數據和“精準畫像”的需要，大量違規收集、跟蹤用戶個人信息和互聯網記錄，分析用戶興趣和偏好，造成信息侵害和個人隱私曝光，人們在強大的數據旋渦中處于“裸奔”狀態。一些應用APP 利用自己市場壟斷地位，在安裝更新軟件時，迫使用戶接受其所謂“協議”，否則就不能繼續正常使用。甚至出現如央視“3·15”晚會上曝光的一些平臺竊取數據和出售個人信息的違法案例。

2.2 算法推薦技術的“陷阱”

（1）互聯網編制的數據“陷阱”。算法推薦通過數據分析，為用戶匹配內容，目的是提高網絡應用的效率。但是不得不說，算法不僅存在加劇用戶使用網絡時長的風險，甚至使用戶逐步陷入互聯網和數據編制的“陷阱”，難以全身而退。互聯網的基本思維是“聯結一切”，算法在此基礎上通過龐大數據系統，追求更精準的價值關系聯結[4]。可見，我們需要具有從互聯網為我們編織的“陷阱”中脫身、逃離的能力，要認清算法的接受邏輯，對算法推薦技術有清醒而冷靜的思考，對這種技術有所認識和防范，有意識的保持一定的距離。決不能沉溺于“上網模型”，過度“娛樂至死”，被碎片化的無效信息所包圍，掉進“時間的黑洞”。

（2）追求流量強化“數據黑箱”。算法在技術數據的編制上是“資本追求利益”的導向。在當前媒體激烈地競爭下，為了謀求自身更好地生存和發展，獲取更大的利潤空間，提高流量變現能力成為必然的選擇。一些媒體平臺為追求經濟效益降低了社會效益，放棄傳媒承擔的社會責任。為增加點擊量和關注度，增加用戶黏性，會強化“算法黑箱”，“水軍”注水，使用戶在不知不覺中掉入技術和資本的“陷阱”。個人數據信息過度商品化，形成了用戶行為數據足跡的永久存儲，甚至造成對用戶的“全景監獄式的無縫監視”，價格歧視上的“大數據殺熟”等現象[5]。

（3）“信息繭房”導致認知窄化。傳統媒體的消息分發、推薦、傳播，注重的是公共、多元、開放、單向的傳播模式，而智媒時代的傳播，接受信息是雙向、多維、互動的模式。過度依賴算法會導致用戶主動、自主選擇信息產品權力的喪失，如果對資訊平臺推薦的信息內容照單全收，就會不斷強化“信息繭房”，形成“回音壁效應”，造成認知窄化，甚至自我封閉，排斥其它信息，固化已有的思維,被困于“過濾器泡泡”的“陷阱”之中。有學者指出，隨著算法介入數字新聞業，憑借著極強的素材抓取與數據搜集能力，個性化推送成為算法新聞的“標配”，展現在眼前滿足我們要求的信息，使用戶不自覺陷入“被計算好的領域”，生活在過濾后的泡沫之中。

3 規避算法“陷阱”的路徑和策略

有學者認為，過度依賴人工智能會“把人推到一邊”，以人為中心的社會體系會逐步讓渡到以數據為中心。算法推薦技術無疑將重構傳播業態，重塑人們對世界的認知。我們探討算法推薦技術帶來的倫理失范問題，研究如何規避算法“黑箱”在信息推薦過程中對用戶設置的種種“陷阱”，并不是要否定和排斥算法這一技術。而是要規制這一現象，規避這一問題，在傳媒機構的“商業利益”與公民、用戶“合法權益”兩者之間找到一個平衡點。近年來，國家有關行業主管部門已經開始著手治理算法推薦技術帶來的負面問題，對用戶規模龐大、問題突出、反映強烈的多款應用APP 采取了公開曝光、約談、下架等處理。我們認為要從以下幾個方面綜合施策：

3.1 從法律法規層面建立他律與自律相結合的責任機制

從制度層面完善相關網絡傳播法律法規，規范算法權力的濫用，建立健全網絡隱私權、公民個人信息保護、傳播內容及傳播生態保護等規章制度，規范行業行為準則。以問題為導向，對已經發現和暴露出的問題要及時解決，強化行業不正之風要加強監管力度。對網絡收集個人信息，公眾要有知情權、同意權，對一些壟斷性平臺的“霸王條款”，要有應對和治理措施。

3.2 從資訊傳播平臺監管層面實施技術把關與人工把關“雙把關”審核機制

把交給“機器”的權力重新收回來，從技術層面設置主流價值觀和傳播道德倫理審查的因素，確保用戶獲取主流價值產品，維護信息傳播的客觀性、真實性、公正性原則，對虛假信息、“三俗”內容進行過濾識別，增加“人工審核”在內容把關中的權重和力度，履行好傳媒的社會責任。

3.3 從完善算法推薦技術層面建立多元推薦系統

在算法推薦基礎上加入傳播價值、社會效果、用戶滿意度等指標，讓技術服務人，而不是給人“挖坑”“算計人”，確保為用戶提供更多更好，更有價值的內容產品。用戶要有意識地使用多個“信息源”，從不同渠道獲取多元信息，從信息獲取習慣上打破信息壁壘，走出、突破長期消費習慣形成的“舒適圈”。

3.4 從用戶自身層面要培育公眾的“算法素質”

對于算法推送的信息，用戶要提高鑒別力和防范能力，避免陷入算法設置的“陷阱”。在社會范圍內加強算法相關知識的宣傳普及非常必要，人們應主動、有意識地學習了解必要的算法知識，清楚算法的基本“套路”，提高對技術的駕馭能力，而不能被技術所奴役。審慎對待和評價算法推送的資訊、信息，反思它所帶來的負面問題，培養自身獨立的思考能力與批判思維，不過度依賴算法，自覺抵制算法帶來的不良影響[6]。

總之，治理算法推薦技術的倫理失范，規避算法“陷阱”的問題是一個復雜的系統工程。國家政策要規制，資訊平臺要配合，用戶個人也要自省自律。要從源頭上為互聯網應用程序明確底線，劃出底線，讓技術不要“跑偏”，在人與技術共同發展中，人機協同共進，推動傳播生態的凈化和傳播業態的健康發展。