基于神經網絡的輿情情感分析研究熱點與趨勢
——基于CiteSpace 的可視化分析

譚坤彥，楊孔雨

（北京信息科技大學 信息管理學院，北京 100192）

0 引言

隨著人工智能技術的迅速發展和各類社交平臺的出現，互聯網用戶可以隨時隨地在網絡平臺上傳播信息。大量的信息往往蘊含著用戶的情感傾向，獲取這些信息中的情感傾向或觀點就是情感分析。對于決策制定者來說，可以理解民意，掌握輿論，判斷其走向。早期的情感分析主要基于情感詞典和傳統機器學習，隨著機器學習技術的飛速進步，深度學習方法已經成為情感分析的主流。在Mikolov等人（2013）首先提出了Word2Vec 工具中的模型后，文本可以表示為詞向量矩陣，為引入各種神經網絡模型打下了基礎。基于神經網絡的輿情情感分析研究具有重要的意義與價值，本文利用知識圖譜軟件CiteSpace，運用文獻計量法，通過將結果可視化的方式，從發文量趨勢、作者、機構、關鍵詞的多元角度進行研究，分析國內外結合神經網絡技術進行輿情情感分析的文獻發展動態、研究熱點、演變過程、前沿研究方向等，期寄能夠給相關領域的研究者帶來一定幫助。

1 分析方法與數據來源

CiteSpace 是基于Java 開發的一款信息可視化軟件，由美國Drexel University 計算機與情報學教授陳超美研發，基于共引（co-citation）分析理論和尋徑（PathFinder）網絡算法等，對特定領域文獻計量，以探尋出學科領域演化的關鍵路徑及其知識轉折點，并在相關領域中，查究到具有開創性、標志性、關鍵性和相互關聯的文獻，同時研究該領域的演變。

本文以CiteSpace 軟件為主，Excel 等工具為輔，國內中文文獻來源于中國知網（CNKI），經過人工進行剔除和篩選后，得到2011～2021 年的877 篇樣本相關文獻。國外英文文獻來源于Web of Science（WOS）的核心合集數據庫，人工剔除圖書閱讀筆記、廣告等不相關內容后，導入CiteSpace 進行文獻去重，最終得到423 篇樣本相關英文文獻。

2 基于CiteSpace 的文獻可視化分析

2.1 文獻計量分析

年度發文量變化趨勢圖能夠反映研究領域的總體情況，在時間維度上反映每年的不同發文量和活躍度。根據檢索獲得的中英文相關文獻繪制發文量趨勢圖，各年份不同變化如圖1 所示。國內輿情情感分析結合神經網絡技術開始于2011 年，此后發文量逐漸增加，于2020 年達到最高峰，2011～2015 年誕生階段結束、進入發展階段，2017～2020 年發文量迅速增長，雖然2021 年發表中文文獻161 篇，數值有所回落，但仍持續受到關注。結合研究背景來看，情感分析的概念由Nasukawa 等人在2003 年最先提出，同年Bengio 等人提出了神經網絡語言模型，國外相關文獻最早發表于2006 年，初期發展趨勢和國內基本一致，2018 年結束快速上升期、進入平緩發展階段，同樣也于2021 年發表Web of Science 核心合集81 篇，較上年發文量最高峰有所回落，相關理論研究也將更加完善。

圖1 發文量隨年份變化趨勢圖Fig.1 Variation trend of documents volume with years

2.2 作者共現分析

通過作者合作共現圖譜可以分析該領域各個作者的重要性、中心性和合作關系。對CNKI 中文文獻作者進行分析處理后，得到國內作者共現圖譜如圖2所示。圖2 中，作者節點數為214，連線數為30，密度為0.001 3，連線代表有合作關系，線條粗細代表合作關系的密切程度。由此可見，各個作者之間的聯系和合作關系極為分散，多處于個人獨立研究狀態，未能形成明顯的合作網絡圖譜，發文量最多的作者為張英、黃道英、范濤、王昊，發表文獻數均為3 篇。

圖2 國內作者共現圖譜（節選）Fig.2 Co-occurrence graph of domestic authors（excerpt）

對WOS 核心合集進行可視化共現圖譜分析，時間為2006～2021 年，作者節點數為247，連線數為162，密度為0.005 3，部分作者形成了小規模的合作網絡，其中發文量最多的作者是Erik Cambria（10篇），匯聚成以其為核心的網狀合作圖譜。國外作者共現圖譜如圖3 所示。由圖3 可見，國外作者的節點和連線數都比國內多，可知國外發文作者間的聯系與團隊合作比國內更加密切，說明國內應該加強作者間的共同合作關系。

圖3 國外作者共現圖譜（節選）Fig.3 Co-occurrence graph of foreign authors（excerpt）

2.3 機構共現分析

為分析該研究領域中的研究力量分布，對CNKI中文文獻機構進行處理分析，得到國內合作機構共現圖譜如圖4 所示。網絡裁剪方法同作者分析，發文量前三的機構分別為國家統計局8 篇、南京理工大學7 篇、南京大學信息管理學院6 篇，機構與機構間聯系較為分散，尚未建立明顯合作體系。

圖4 國內機構分布共現圖譜Fig.4 Co-occurrence graph of domestic institutions

對國外發文機構可視化分析發現，發文量前五的機構分別是新加坡南洋理工大學（Nanyang Technological University）13 篇、中國科學院（Chinese Acad Sci）10 篇、北京航空航天大學（Beihang University）5 篇、哈爾濱工業大學（Harbin Institute of Technology）5 篇、清華大學（Tsinghua University）5篇，國外合作機構共現圖譜如圖5 所示。

圖5 國外機構分布共現圖譜Fig.5 Co-occurrence graph of foreign institutions

從國內外研究機構分析發現，發文量最多的都是各地高校及學院、科研機構，對神經網絡和網絡輿情情感分析做出了主要貢獻，但是相互之間的合作仍然亟待加強。

3 關鍵詞可視化分析

3.1 關鍵詞聚類分析

關鍵詞是一篇文獻的核心和主題，CiteSpace 在使用關鍵詞共現分析的基礎上，使用對數似然比（Log-Likelihood Ratio，LLR）算法進行聚類，中文文獻共生成14 個聚類，分別對每個類的主題進行歸納總結，前8 類見表1；英文文獻共生成9 個聚類，總結主題，選取7 類見表2。國內外共同研究熱點有數據挖掘、深度學習、文本分類、情緒分析等，國外主要關注情緒傾向分析及預測，國內更關注于輿情文本分析。同時，聚類不僅可以集中于驗證研究熱點，還能夠指出其在各種領域上的具體應用，如表2 中聚類0 是電影預測領域的應用，聚類6 是電動汽車評論領域的應用，在研究計算機相關應用熱點的時候，也要重視聚類關鍵詞在非計算機類領域的應用。

表1 中文文獻聚類表Tab.1 Chinese literatures clustering table

表2 英文文獻聚類表Tab.2 English literatures clustering table

表1 中聚類＃3 深度學習、＃4 長短期記憶網絡LSTM（Long Short-Term Memory）、＃5 機器學習主要圍繞情感分析的技術展開。

早期的情感分析主要基于情感詞典（＃6 號聚類），其關鍵是情感權重及情感計算規則。情感詞典最早由Whissell 于1998 年提出，王科等人（2016）將情感詞典自動構建方法歸納為三大類：基于知識庫的方法、基于語料庫的方法和基于知識庫和語料庫相結合的方法。目前最常用的3 個中文開源情感詞典有HowNet、臺灣大學的NTUSD 和大連理工大學的詞匯本體庫，在此基礎上，陽愛民等人（2013）選用若干個情感種子詞，通過改進的PMI（Pointwise Mutual Information）算法計算情感詞的情感權值，從而構建出一種分類性能更加穩定的情感詞典。陳國蘭（2016）通過與具體社交網絡（＃7號聚類）結合，針對微博（＃2 號聚類）文本的特點，構建了一個包括微博網絡新詞和表情符號的情感詞典，與傳統方法相比，判斷正、負面情感的準確率更高。

隨著人工智能技術的發展，情感分析逐漸與機器學習（＃5 號聚類）相結合。傳統機器學習大多是有監督學習，分類器主要有樸素貝葉斯（Naive Bayes，NB）和支持向量機（Support Vector Machine，SVM）等。

基于情感詞典和有監督學習的情感分析人力資源消耗過多，效率低下。為了提高文本分類的準確率，深度學習（＃3 號聚類）通過構建神經網絡模型對文本進行特征抽取和自動學習優化模型輸出。＃4 號聚類中包括“卷積神經網絡（Convolutional Neural Networks，CNN）”關鍵詞，利用卷積層，CNN可以學習局部特征。梁斌等人（2017）提出一種情感分類方法，通過結合3 種注意力機制來構造多注意力卷積神經網絡模型，準確表示每一個詞在句子中的重要性。＃3 號聚類中包括關鍵詞“循環神經網絡（Recurrent Neural Networ，RNN）”，＃4 號聚類還包含“LSTM”關鍵詞，LSTM 是一種特殊的RNN。梁軍等人（2015）提出了一種利用文本上下文信息、結構化信息和情感語義信息的模型，來解決情感極性轉移問題。

國外的聚類還圍繞具體應用領域展開研究，主要是＃0 號聚類電影銷售和＃6 號聚類電動汽車，＃0號聚類主要包括關鍵詞預測、情感分析、口碑。口碑是由有經驗的消費者創造的有用且可信的信息，也就是用戶生成內容（User-Generated Content，UGC）。互聯網技術的發展使人們能夠在網絡平臺上與他人分享、交換意見，通過在線渠道實時傳播評論信息等。電子口碑的早期研究傾向于只使用數量和評分，而不分析內容的語法，不足以解釋在線交流的動態。在電子口碑中，情感應該作為一個重要參數，Liu（2006）分析了從雅虎電影的留言板上收集的40 部電影的評論，結果表明電影上映前的電子口碑對票房收入有顯著影響。Duan 等人研究電影銷售與在線評論和收視率之間關系，結果顯示2 個領域之間存在影響，但高的評價不能確保高的銷售額。Rui 等人（2013）分析電影的電子口碑，表明消費者觀看電影的意愿受電子口碑影響很大。

＃6 號聚類電動汽車包含關鍵詞social media（社交媒體）、review mining（評論挖掘）和deep learning（深度學習）。公眾對電動汽車的看法和使用電動汽車的普遍意愿對推廣電動汽車起到了重要作用，XU 等人（2018）研究并確定了影響電動汽車接受和拒絕的因素。消費者對電動汽車技術特征的態度和對電動汽車效用的看法是影響是否選用電動汽車重要因素。消費者情緒和感受也會影響電動汽車的選擇，了解消費者的情緒有助于改進客戶關系管理（CRM），Jena（2020）通過情感分析，對電動汽車的情感進行分類。幫助用戶獲得對各種產品功能的高層次的看法概述，并大幅縮短用戶閱讀和提取有關產品、服務意見的文本長度。

＃8 號聚類多模態情緒分析包含的關鍵詞有：支持向量機、極限學習機、特征。情感分析中文本、聲音和視覺模式的融合最近引起了越來越多的關注，多模態情感分析通過分析在線視頻中的口語情態、聽覺情態和視覺情態三種模式，擴展了傳統的文本情感分析。Chaturvedi 等人（2017）提出了一種基于貝葉斯網絡的ELM（Extreme Learning Machine），克服了傳統ELM 不能推廣到非線性數據集的缺點。

通過對該領域研究熱點的分析，得到關鍵詞聚類圖譜，節點與節點之間的連線顏色越淺代表出現得越晚。國內關鍵詞聚類圖譜如圖6 所示。圖6 中共有347 個節點，622 條連線，密度為0.010 4，值為0.631 5，值為0.874 4，國內關鍵詞聚類圖譜如圖7 所示。圖7 中共有173 個節點，454 條連線，密度為0.030 5，值為0.886 6，值為0.757 2。模塊值（Modularity）用于評價聚類的有效性，平均輪廓值（Mean Silhouette）用于衡量聚類的同質性。當0.3 且0.5 時認為該聚類模塊性顯著、合理。

圖6 國內關鍵詞聚類圖譜Fig.6 Domestic keywords clustering map

圖7 國外關鍵詞聚類圖譜Fig.7 Foreign keywords clustering map

中文文獻關鍵詞聚類后按詞頻排序前13 位見表3，高頻關鍵詞代表了該領域研究的相關熱點，關鍵詞出現的頻率越高，說明領域越熱；關鍵詞與其他關鍵詞之間的聯系越多，說明中心度越大。中文關鍵詞聚類詞頻表見表3，通過分析可以看出，國內詞頻出現較高的關鍵詞為“情感分析”、“深度學習”、“情感分類”、“詞向量”、“神經網絡”和“機器學習”。

表3 中文關鍵詞詞頻表Tab.3 Chinese keywords frequency table

英文高頻關鍵詞，見表4，國外詞頻出現較高的關鍵詞為“classification（分類）”、“sentiment analysis（情感分析）”、“LSTM（長短期記憶網絡）”、“neural network（神經網絡）”、“CNN（卷積神經網絡）”和“model（模型）”。國內的研究熱點和國外也存在差異，國內更重視輿情中文文本的自然語言處理和中文文本分類方面，國外更重視神經網絡模型的研究和具體領域的應用。

表4 英文關鍵詞詞頻表Tab.4 English keywords frequency table

3.2 關鍵詞時間線圖譜分析

在CiteSpace 中對數據樣本進行分析處理后，得到國內外時間線圖譜如圖8 和圖9 所示，展現聚類關鍵詞之間的關系，以及熱點關鍵詞隨著時間變化的研究歷程和前沿趨勢。每個點對應的是關鍵詞首次出現的年份，圓圈越大表示詞頻越大，連線表示2個關鍵詞在同一篇文章中出現。連線數量多且密集，說明研究集中程度較好。

通過對圖8 分析可得，國內基于神經網絡的輿情情感分析研究熱點從2011 年出現，2011～2012 年處于起始狀態，研究熱點為“語義理解文本傾向”、“觀點挖掘”和“情感分類”。2013 年對情感分類進行進一步探討，在情感分析的基礎上，逐漸傳承。2014 年開始結合機器學習和神經網絡，研究熱點為“詞向量”、“情感詞典”、“文本分類”、“深度學習”等。隨著深度學習的研究不斷發展完善，2015～2018 年，LSTM、門控循環單元（Gated Recurrent Unit，GRU）、CNN 等神經網絡模型逐漸成為了熱點研究對象，社交網絡媒體逐漸成為研究輿情分析的平臺。隨著神經網絡技術的發展，2019 年又出現了以“BERT”（Bidirectional Encoder Representation from Transformers）、“詞嵌入”、“膠囊網絡”為首的研究熱點。

圖8 國內關鍵詞時間線圖譜Fig.8 Domestic keywords timeline map

國外雖然節點數量少于國內，但連線比國內更加密集，聯系更加密切，如圖9 所示。研究熱點從2010 年“RFM”（Recency，Frequency，Monetary）模型起步，2011 年的“神經網絡”開始發展，2014～2015 年的研究熱點為“模型”、“算法”、“詞典”、“分類”。2016 年后在“情感分析”的基礎上，出現了更加細化的多元分類，如“特征”、“LSTM”、“CNN”、“框架”。“BERT”熱點稍晚于國內一年。

圖9 國外關鍵詞時間線圖譜Fig.9 Foreign keywords timeline map

3.3 關鍵詞突現分析

通過CiteSpace 的Burstness（突現）功能進行突現詞分析，突現詞代表了不同時期開始的研究熱點，得到領域關鍵詞的起始爆發時間、結束時間和強度等，選擇前13 個關鍵詞展示如圖10、圖11 所示。圖10、圖11 中，Year 代表原文發表年份，Begin 代表Burst 的開始年份，End 代表結束年份，Strength 代表突現強度，用來表示該領域在某些年份的文獻中突現詞的劇烈程度。由圖10 可見，在國內，“機器學習”、“文本挖掘”和“中文微博”突現詞出現在2016年，“深度學習”、“LSTM”、“記憶網絡”、“細粒度”、“詞嵌入”出現在2017～2019 年，“深度學習”和“LSTM”在這3 年中的強度值最大，機器學習的持續發展為輿情情感分析奠定了基礎，情感分析進一步與神經網絡技術結合。隨著深度學習研究的日趨深入與發展，2020～2021 年出現的關鍵詞“特征融合”、“BERT”、“輿情分析”、“銷量預測”，可見研究人員已經將深度學習運用于輿情情感分析中，并且使用神經網絡模型對銷量進行預測。國內外既有聯系，又有區別。由圖11 可知，在國外，早期突現詞主要由2013 開始突現的“支持向量機”、2016 開始突現的“卷積神經網絡”和“情感分析”組成，隨著人工智能的發展，在2018 年又出現了“主觀性”、“社交媒體”和2019 年出現的“網絡”、“模型集成”等新突現詞，其中突現強度最高的是卷積神經網絡。

圖10 國內突現強度前13 的突現詞Fig.10 Domestic top 13 keywords with the Strongest Citation Bursts

圖11 國外突現強度前13 的突現詞Fig.11 Foreign top 13 keywords with the Strongest Citation Bursts

對突現詞進行研究分析，總結現階段國內結合神經網絡的輿情情感分析技術研究的前沿方向主要有：

（1）實現預訓練模型的突破，如BERT、ALBERT（A Lite BERT）、XLNET、ELMo（Embeddings from Language Models）等模型。目前在輿情情感分析領域有許多經典的深度學習模型，Devlin 等人提出的BERT 模型，能夠根據指定目標，捕捉到文本中相對應的情感信息，更加具有靈活性。BERT 模型可以動態獲取各種語境下的詞語表達向量，通過上下文信息充分解決詞語多義性問題。由圖6 看出BERT 的強度值位于所有年份中第二名，處于發展狀態中。史振杰等人（2020）提出了一種結合卷積神經網絡的BERT-CNN 模型，該網絡模型在用BERT 表示詞向量語義信息的基礎上，使用CNN 提取文本特征，實現了對文本信息語義的深層理解。由于BERT 模型參數量較大、復雜度高等問題，Lan等人（2019）對BERT 模型進行改進，提出了ALBERT 模型。房京珂（2021）將ALBERT 模型與2 種雙向遞歸神經網絡結構結合，全面提取模型中的語義信息，使其更加適合輿情情感分析。梁淑蓉（2021）提出一種融合情感詞典的XLNet 預訓練模型和一種基于LSTM+Attention 網絡層的XLNet預訓練模型，前一種模型可以根據不同的上下文語言環境計算詞向量，精準提高了情感傾向，解決情感詞典構建數量和收錄新詞工作量的問題，后一種模型在一定程度上解決了中文文本的語義問題。李錚等人（2021）提出一種基于ELMo 和雙向自注意力網絡（Bidirectional Self-Attention Network，Bi-SAN）的中文文本情感分析模型，利用ELMo 模型抽取詞向量，更好地表示了中文文本的一詞多義性，提高了情感分類的準確性。未來，還能夠通過增加計算機基礎硬件算力，更廣泛地使用其他模型，后續對最新模型的研究將會逐漸成為熱點。

（2）特征融合表示方法的探索。多特征融合向量可以從短文本中充分學習詞性特征信息和位置特征信息。韓普（2021）等人將詞性特征向量和位置特征向量進行融合，一方面可以充分地學習特征間的語義關系，另一方面也可以有效地利用詞性信息和位置信息，提升情感分析模型的效果。郭可心等人（2021）從多個不同角度挖掘圖文之間的情感共現，增強了神經網絡模型捕捉情感語義的能力。祁瑞華等人（2020）融合BERT 詞向量和跨領域詞向量生成跨領域統一特征空間，提高了情感分類的準確率。目前，在圖文融合方面還存在許多問題，如數據集規模較小、情感數據集的建立困難、不同模型特征獲取不一致、媒體數據類型單調、模型實驗效果一般、準確率低、未考慮更多信息。在今后的研究中，進行情感分析的同時融入圖文關系分析，是一個重要的研究方向。

（3）詞嵌入層的設計。詞嵌入已經成為各任務模型在預處理階段的事實標準。目前，詞嵌入方法是利用較長的上下文，通過神經網絡模型來解決自然語言問題。韓旭麗等人（2019）提出了一種詞嵌入輔助機制的注意力神經網絡模型，該模型在原本詞嵌入層的基礎上加入輔助層，用來提取詞向量的特征表示，降低了模型訓練的復雜性和訓練時間。趙亞歐等人（2020）提出一種基于語言模型的詞嵌入的情感分析模型，將獲取的詞語向量作為網絡輸入，融合了詞語本身的語義特征及其所在的上下文語義，可以很好地表示一詞多義性。目前，基于大規模語料的預訓練模型是最熱門的研究方向，新型詞嵌入越來越通用，語義功能越來越強大。

4 結束語

本文通過CiteSpace、Excel 等軟件，以中國知網和WoS 核心合集文獻為研究對象，采用文獻計量和可視化知識圖譜的方法，對神經網絡的網絡輿情情感分析進行了研究。通過發文量趨勢分析、作者共現分析、研究機構共現分析、關鍵詞聚類分析、關鍵詞時間線圖譜分析和關鍵詞突現分析，研究了該領域的熱點主題和前沿趨勢。得出如下結論：

（1）從基于神經網絡的輿情情感分析領域的發文量年度趨勢來看，國內發表第一篇相關文獻的起始時間比國外晚，雖然增長速度快，但卻存在著一些問題，比如作者及機構間相互合作較少、學術交流不足，以及研究主題較集中，缺少領軍人物等問題，國內研究成果主要由世界各地的大學和科研機構推廣，應該加強作者或機構間的合作與溝通，共同發展。

（2）通過研究熱點和研究前沿對比分析，國內外共同研究熱點主題為“情感分類”、“LSTM”、“深度學習”、“神經網絡”等，但國內外側重點存在著差異，國內文獻更重視文本的語義表達和文本情感分類方面，國外則更重視情感分析模型的應用及預測，更加具有實用性。

（3）國內研究前沿趨勢主要為網絡輿情情感分析的特征融合表示方法、預訓練模型的探索和詞嵌入層的設計。

本文分析對比了國內外神經網絡和輿情情感分析研究的演變脈絡，對進一步研究國內外概況，預測未來發展趨勢具有現實意義。由于CiteSpace 軟件的限制，并未收集所有英文期刊等文獻，也未獲取重要會議記錄等數據，本文內容不能完整描述該領域的研究現狀。CiteSpace 軟件中具有更多功能可以分析WoS 核心合集中的文獻，本文也并未全部運用，在后續的工作中擬做更進一步的研究完善。