基于“AI識謠”技術的微博謠言治理研究

2023-12-29 00:00:00胡淼

新聞研究導刊 2023年15期

摘要：隨著移動終端的普及，人們發布信息、傳遞信息的能力和速度得到空前提升，但也使網絡謠言不斷滋生。微博以其強人際傳播關系、傳播范圍廣、傳播速度快的特點成為網絡謠言的一個主要滋生地。微博謠言常常內容模糊、形式多樣、不易辨別，給平臺進行網絡治理帶來了一定難度，對網絡環境安全和社會穩定造成了惡劣的影響。文章通過研究現存的微博運用人工智能識別謠言的技術，發現該技術治理邏輯是“鎖定信息、判斷信源；抽取信息，對比文庫；監控傳播路徑，追溯傳播源”。通過對這一技術治理過程的研究，發現該技術存在著造成用戶隱私泄露、謠言治理效果欠佳等困境。最后通過文獻分析法，總結“AI識謠”技術在微博謠言治理上可優化的路徑有：提高對用戶隱私的敏感性，謠言識別模式由檢測式向預測式改變，結合區塊鏈、大數據技術等共同治理，提高“AI識謠”技術在微博謠言識別上的效率和效果，希望從源頭上遏制微博網絡謠言的傳播，通過對技術的改進側面提高網民的媒介素養，打擊網絡謠言泛濫的現象，營造清朗的網絡空間。

關鍵詞：“AI識謠”；微博；謠言；微博謠言；謠言治理

中圖分類號：G206；TP18 文獻標志碼：A 文章編號：1674-8883（2023）15-0102-03

一、微博謠言的治理現狀

（一）微博平臺官方辟謠的治理

網絡傳播時代，夸張情緒詞匯成為激起公眾情緒的簡單方法。一些網民和媒體為了表達態度，甚至編造事實以吸引關注和共鳴，導致網絡謠言頻繁出現[1]。為了應對這一問題，新浪微博在2010年創立了官方辟謠賬號，專門檢測并發布與謠言相關的信息，確保24小時不間斷地進行辟謠工作[2]。公安部于2015年6月在微博上線了首批各省市公安的“網警巡查執法”賬號，旨在通過24小時巡查及時發現網絡上的各類違法犯罪信息和謠言信息。例如，微博賬號“微博辟謠”“科學辟謠”“中國互聯網聯合辟謠平臺”等，有官方認證的資質，會針對相關的謠言進行文章發布，對謠言的信息內容進行更正和澄清，及時的辟謠信息發布有力地遏制了謠言傳播，有利于維護網絡環境的秩序[3]。“中國互聯網聯合辟謠平臺”主頁顯示有多個話題，辟謠話題有#辟謠課堂#、#護航高考#、#全民反詐進行時#、#聯合辟謠#等，這一賬號的官方認證為“中國互聯網聯合辟謠平臺官方微博”，從認證以來其博文獲得了40.3萬轉評贊，視頻累計播放量達到897.6萬，具有強大的傳播力和公信力。

（二）基于人工智能技術的治理

1.基于用戶觀點的微博謠言識別技術

微博平臺采用了多種方法來檢測和辟謠。用戶舉報和投訴是重要的信息來源，相較于簡單的數據庫檢測方法更具說服力。在謠言識別過程中，平臺會將博文的評論和轉發與謠言詞庫進行比對。一條句子會被分成多個詞組，這些詞組成為謠言識別的關鍵詞。評論中的每個語句都會進行層層劃分，并使用謠言識別系統生成離散化分詞。通過特征工程處理，這些分詞被轉化為特征詞語。接著，利用特征詞語對相似或完全相同的特征詞語進行反饋打分比對。最終，通過數據模型分類器確定微博內容是否為謠言，有效識別和辟謠[4]。

2.基于觀點和情感交融的微博謠言識別技術

該技術的目標是通過分析用戶觀點和情感，來判斷謠言的真實性和可信度。通過對用戶評論和轉發的謠言進行關鍵詞提取和特征工程處理，可以對相似或完全相同的特征進行比對，最終確定謠言的識別結果。這種技術的應用可以幫助識別和應對網絡謠言的傳播，提供更準確和可信的信息。基于用戶觀點和情感分類的融合謠言識別技術是一種針對微博謠言的新方法。傳統的謠言識別技術只能識別單一文本特征，準確性較低，對謠言的遏制作用有限。而基于用戶觀點和情感分類的融合技術采用了不同的數據集進行訓練，可以提取謠言不同方面的特征。通過互相彌補各子分類器之間的不足，包括數據訓練過程中的過擬合或欠擬合狀態，提高了謠言識別的準確性和可靠性。這一技術的應用可以有效防止謠言在微博平臺的傳播，維護網絡信息的真實性和可信度[5]。這種融合技術相較于傳統的基于用戶觀點的識別技術大大提高了網絡謠言識別的準確性。

二、“AI識謠”技術在微博謠言治理中的應用

（一）“AI識謠”技術對微博謠言的治理邏輯

AI識謠的目的是檢測出網絡謠言，對其進行識別和治理，及時引導社會輿論，減少社會恐慌。新浪微博于2010年11月開始實施微博辟謠計劃，旨在及時核實微博中的惡意和有害不實信息，并進行辟謠[6]。“AI識謠”技術采用兩種方式進行謠言識別：自動檢測和預測式識別。自動檢測方式在謠言傳播過程中對相關信息進行檢測和揭露，而預測式識別在謠言信息尚未大規模傳播之前，通過分析相關話題和后臺數據來預測其可信度，算法步驟更為復雜。用得較多的是早期自動檢測，這種方式具有一定的滯后性，具體運行過程如下：

1.檢測內容特征，判斷信息源頭

在微博謠言檢測中，特征抽取挖掘是一個重要的方面。常用的特征包括用戶特征、內容特征和傳播特征。通過對用戶的行為、社交網絡關系等進行分析，可以得到用戶特征。內容特征則是指微博文本中的一些關鍵詞、情感傾向等信息。傳播特征主要關注微博的轉發、評論等傳播行為。通過提取和分析這些特征，可以輔助識別和判斷微博中的謠言信息[7]。“AI識謠”技術通過對傳播謠言的用戶進行鎖定，并對其人口統計學信息進行數據分析，綜合考量用戶的信用度來判斷其發布內容的可信度。例如，一些賬號在水滴籌、輕松籌等平臺上發布虛假籌款信息，識別系統會分析賬號的發布歷史、認證情況以及所附鏈接的風險提示等信息，綜合判斷該博文為虛假信息并采取相應措施，如設為不可見并對相關賬號進行關停，有效打擊謠言傳播和詐騙行為，保護用戶利益。

2.抽取信息，對比文庫

微博消息或事件中所包含的內容特征在重新分類方面表現出明顯優勢，相較于基于用戶和基于網絡的特征更加具有準確性[8]。通過以往的檢測經驗，識別系統積累了一定案例的數據庫，會將攔截內容涉及的關鍵詞以及時間、地點等細節信息與案例中的數據進行對比。如果在內容及關鍵信息等細節上與以往案例較大程度地吻合，那么該系統就會將這類信息識別為謠言。例如某營銷號發布的“某地發生泥石流事故造成10人死亡”的視頻，在AI系統檢測并攔截到這一博文之后，將其與數據庫相關案例對比發現關鍵信息吻合度較高，該文章內容的可信度比較低，則識別該消息為謠言，最后經過后臺處理刪除相關文章。

3.監控傳播路徑，追溯傳播源

AI系統識別出某條謠言后，該系統會對這條信息主要的轉發人群進行監控，以便追溯到謠言的最初傳播者，并且統計出轉發過該信息的人，針對這些人精準發送辟謠文章。例如，“唐山燒烤店打人”事件發生后輿論發酵不斷，微博平臺在進行廣場審查時同時也收到了網友的舉報，一些賬號發布“燒烤店女子被車碾壓”“打人者為政府工作人員”等謠言信息，平臺立馬采取封禁行動，其中包括禁言、官方通報、注銷賬號等，并通過賬號“微博辟謠”發布文章，及時遏制謠言的大肆傳播。

（二）“AI識謠”技術的治理成果

尼葛洛龐蒂在《數字化生存》中指出了計算對我們生存的重要性[9]。“AI識謠”技術在微博謠言治理中起著關鍵作用，通過不斷改進算法，實現了高效的謠言識別和治理，有效地遏制了微博謠言的傳播。根據微博辟謠的數據報告，去年共處理了66521條不實信息，成功辟除了406例謠言。每條不實信息平均受到42個網友的舉報，已標記了2206條不實信息。微博辟謠平臺的閱讀量達到103.2億次，討論量達到667.8萬次，人工智能在微博謠言治理方面已初見成效。

三、“AI識謠”技術在微博謠言治理中的困境與解決思路

（一）“AI識謠”技術在微博謠言治理中的困境

1.用戶隱私泄露嚴重

AI識謠系統最關鍵的一環就是對用戶畫像進行分析，在用戶未察覺的情況下侵犯用戶的數據隱私。我國在隱私權立法方面仍然存在缺陷，關于人工智能侵犯隱私權的立法仍然是空白，如果有人工智能侵害用戶隱私權的情況出現，維權也只能借助傳統的隱私權被侵犯的相關法律法規獲得一定程度的保護。

2.技術漏洞導致謠言識別有“漏網之魚”

識別微博網絡中的關鍵節點，對關鍵節點進行免疫，能有效地縮小謠言在微博網絡上的傳播范圍[10]。即使人工智能機器關鍵節點算法技術在不斷進步，但仍然存在以下問題：一是人為故意干擾，及人為插入一些干擾數據庫進行比對的數字符號，如“+%π_π”，這些符號的插入打亂了句子的結構，導致在比對的過程中產生了阻礙。二是在識別的過程中關鍵詞是否準確也影響到謠言識別的準確性，比如以“抽獎”為關鍵詞來判斷該信息是否為謠言就會產生不準確的現象。

3.無法從源頭上根治謠言，網民媒介素養得不到提升

AI識謠的識別機制存在滯后性，在謠言產生和傳播之后再進行識別和辟謠，此過程中，謠言影響已經產生，并不能從源頭上提高人們的網絡媒介素養，增強人們辨別信息的能力。根源上還是要提高人們的媒介素養，減少謠言發生的可能性以及傳播的可能性。比如在“袁隆平去世”這一謠言當中，系統識別到了該信息為虛假信息，對相關話題和帖子進行了封禁，但是造成了更大的輿論影響。

（二）“AI識謠”技術在微博謠言治理中的優化思路

1.提高對用戶隱私保護的敏感性

“隱私權”這一概念起源于美國，經過百余年的演變，消費者隱私保護的法律法規日益健全。然而，近年來迅猛發展的社交媒體平臺卻頻繁利用新技術手段侵犯用戶隱私，給政府監管和內容管理帶來了全新的挑戰[11]。蒂奇諾提出的“知識溝理論”在網絡隱私保護中也同樣能適用，一些用戶可以清晰地了解相關權利并進行有效的隱私防護，但相關知識比較薄弱的人群可能將隱私泄露出去，被相關平臺利用，AI系統應該提高對用戶隱私保護的敏感性，盡量避免泄露用戶隱私。

2.謠言識別模式由檢測式向預測式改進

“辟謠”是指在謠言產生和傳播之后采取的一種行動措施。然而，即使辟謠的效率再高，也存在滯后的問題。因此，為了實現精準治理，需要采取更有針對性的措施，使謠言產生之前得到遏制。這就需要利用先進的算法技術來識別各類虛假信息中的關鍵詞和所隱含的社會情緒。通過深入了解各類謠言的文本特征和傳播語境，我們可以實現精確的監測和有效的預警，防止謠言的產生和擴散[12]。目前，AI識謠的方式有待進步，預測式的識別方式更新仍不完善，而檢測式的識別方式具有一定的滯后性，不能很好地進行識謠辟謠。AI謠言識別技術應盡快開發出預測式模型，實現及時預警，并對其發展趨勢進行判定，可從根源上減少謠言產生的數量，并且從根源上消除謠言，也有利于消除受眾的質疑心理，平衡輿論生態，增強微博平臺的公信力。

3.結合區塊鏈、大數據技術共同治理

網絡謠言的識別、傳播及阻斷一直是網絡輿情治理的核心問題，也是社會治理的重要內容，互聯網技術在謠言治理方面已經有了較為廣泛的應用[13]。區塊鏈技術的特點包括共識機制、防篡改和追溯，這些特點為構建可信的互聯網提供了有力的支持。盡管鏈上節點之間可能相互陌生，但區塊鏈技術創造了可信的環境。通過排除各種干擾因素，區塊鏈確保了人們之間的互信，并有效地防止謠言的產生和傳播[14]。人工智能技術也應該和區塊鏈技術、物聯網、大數據等前沿信息技術深度融合，同時推動其在不同領域的應用，致力于提高網絡服務的智能化，集約化[15]。

四、結語

本文通過對微博謠言治理研究現狀的梳理以及治理困境的探究，發現“AI識謠”技術在微博謠言治理的痛點主要在技術層面。研究得出微博“AI”識謠技術可進步的層面包括提高用戶隱私保護的敏感性、謠言模式從檢測式向預測式轉變以及結合互聯網技術共同治理。除技術層面的改進外，高效地治理微博謠言還需要國家出臺相關法律法規及政策，實現機制和法治相結合，從而智能化、高效化地整頓網絡謠言頻發的環境。