多元輿情智能檢測系統設計

屈翼展，伍建昌，陳 新

（中國人民解放軍空軍預警學院，武漢 430019）

1 凈化網絡環境

日前，國家網信辦依法查封了某些用戶以及公眾號，責令相關負責人對涉及到的查處內容并進行全面整改。究其原因，是一些個人消息平臺、自媒體或者是面向公眾的網絡宣傳平臺錯誤散布虛假、消極內容、突破道德底線，造成不必要的社會恐慌，對社會風氣造成極大的危害。所以針對虛假和反社會反人類信息的互聯網治理顯得迫在眉睫。現在社會上常見的輿情監測方式有人工監視、軟件檢索等方式。這些方法都存在一定的缺陷，比如人工監視費時費力；軟件搜索往往需要人工提供樣本，使得監視不夠及時和有效，同時在檢測準確度上也有待提高。目前大部分檢測方式都不能兼顧檢測文本、圖像以及視頻信息，而當今的信息卻又不是單一的，往往都是多種形式信息源相互交疊出現。多元輿情智能檢測系統則將傳統檢測算法與當前熱門的深度學習算法結合，兩者優勢互補，整個系統對網絡輿情的檢測速度和準確率較傳統檢測方式都有較大提高，并且具有檢測文本和圖像兩種信息源的能力。本系統旨在保證互聯網信息安全，凈化網絡環境，并促進社會和諧與穩定。

2 系統設計與實現

2.1 系統原理

圖1 系統原理框圖

本系統主要針對負面文本、惡意篡改圖像進行檢測。對于負面文本，本系統主要運用基于深度學習算法來進行檢測，檢測識別率得到明顯提高；在篡改圖像檢測方面，本系統基于經典匹配算法與深度學習模型相結合的方法來對篡改圖像進行檢測，傳統算法用于檢測復制-粘貼篡改類型的圖像，深度學習模型主要用來檢測拼接篡改類型的圖像，在檢測的速度和準確度上都有提高。對于輸入的測試樣本，系統將根據樣本類型（文本或者圖像）來選擇相應的檢測模型，通過檢測模型檢測后輸出檢測結果。如果是文本型樣本，輸出結果給出的是文本的情感判別（正面、中性、負面）；若是圖像型樣本，輸出結果則在原始樣本上標注出篡改區域和類型。

2.2 系統特點

當前絕大多數檢測系統都只能對單一形式的樣本進行檢測（文本或者圖像），并且很多時候采用人工檢測，經過P圖軟件惡意篡改后的圖像肉眼很難分辨且費時費力。在信息形式圖文并茂的今天檢測效率較低，并且由于檢測不夠全面，其結果可信度也較低。本系統將文本檢測模型與圖像檢測模型結合，能同時檢測惡意評論和篡改圖形。在圖像篡改檢測方面，傳統特征點匹配算法與深度學習算法結合，能夠檢測兩種不同篡改類型的圖像。系統對于目前互聯網上絕大多數負面評論和篡改圖像檢測都有較高的檢測速度和準確度，并對檢測樣本給出一個綜合評價，給網絡惡意信息檢測部門提供一個參考，給網民提供更好的網絡生態環境。

2.3 應用前景

目前，網絡負面信息以及虛假圖片肆虐情況愈發嚴重，對于圖文負面以及虛假信息的及時檢測和跟蹤了解，對于凈化網絡環境具有十分重要的意義。對于最近網絡突然爆紅的AI換臉，本系統也能做出不錯的檢測判斷。系統利用爬蟲再加上實現數據流處理功能后，不僅針對可以達到實時檢測的目的，還能夠實現被動檢測以及預警的功能，為政府網安部門或者是企業對于負面信息的發現以及處理提供了更加高效便捷的工具。對于已經標記為正面或負面的評論，可以通過云端平臺作為模型的訓練樣本；對于檢測到的經過篡改的圖片樣本，同樣可以作為模型的訓練樣本進行保存，為后續的系統提供了更大的潛力。

隨著研究的不斷深入，可以將本系統更好地進行完善，發展出更加多元化的功能，向著輿情的全態勢掌控分析的方向發展。本系統將來不僅可以在電腦等平臺上實現，也能夠在手機平臺上實現，方便用戶在移動終端也能通過本系統得到是否為虛假信息的反饋，能為規避負面信息爆發式傳播、促進社會更加和諧穩定做出工作。

3 結束語

互聯網通信技術的普及，加速的信息的傳播，同時增加了負面信息，惡意信息甚至是非法信息的數量，互聯網通信成為不法分子傳播謠言、反動言論、暴力色情和惡意煽動群眾的工具。本系統提供一種智能高效的網絡負面信息的檢測方法，提出將傳統檢測算法與深度學習算法結合，文本檢測與圖像檢測結合，可對負面網絡言論和惡意篡改圖像進行檢測，并且具有檢測速度快、準確度高，檢測覆蓋面廣的特點，解決了傳統檢測方法存在的問題，有利保障了網絡信息安全。