政府政務微博效能評估及可視化分析

賈斯涵，王 英，郝琳琳，王 鑫

（1.吉林大學計算機科學與技術學院；2.吉林大學人工智能學院，吉林長春 130012）

0 引言

從2009 年開始，作為新型的社交媒體平臺，微博逐漸走進了人們的視野中。10 年間，微博發展到如今的月活躍用戶5.16 億人次，愈來愈多的人開始借助微博了解世界，微博也因此成為人們溝通交流、情感表達的重要媒介，其間充斥著大量帶有情感色彩的評論與觀點，使得這些微博文本無論是在商業分析還是輿情監測中都具有重要的經濟和社會價值［1］。政務新媒體是近年來政府緊跟時代脈搏的產物，是加快政府職能轉變，提高政府治理能力的重要手段。作為政務新媒體發展最早、最成熟的社交平臺，政務微博已經成為各級政務機構推行政務公開，拉近政府與公眾距離的重要載體。

本文針對政府政務微博的效能評估及可視化分析問題，使用卷積神經網絡解決政務微博評論的情感分析問題，利用Echarts 工具，從公眾反響、傳播能力、互動用戶的整體特征等角度進行可視化，實現輿情統計和分析。

1 情感分析方法概述

文本情感分析，又稱傾向性分析、意見挖掘等，是自然語言處理（Natural Language Processing，NLP）的一個重要領域。世界上絕大多數數據都沒有預先定義文本的組織結構，通過構建模型識別和提取文本中的觀點和特征，對文本進行理解和分類，可以幫助人們在數據爆炸時代快速處理非結構化文本，提高工作效率。現有的情感分類技術主要有3 類。

1.1 基于情感詞典的方法

基于情感詞典的分類方法比較機械化，需要大量文本作為基礎素材，模擬人的思維進行判斷，通過對語料庫的人工整理構建不同粒度的情感詞典，以及否定詞詞典、程度副詞詞典等自定義詞典。

最基本的方法是對詞典中情感程度相同的詞組賦予相等權重，將分詞后的詞語與語料庫詞典中的詞進行匹配，對情感值進行線性疊加，其中否定詞和副詞可以根據實際情況生成自己的判斷規則：判斷為否定詞時，權值反號處理，判斷有副詞時，可以進行倍數處理。目前，較為知名的中文詞典包括臺灣大學整理的NTUSD 詞典、知網發布的Hownet 情感詞典以及清華大學李軍中文褒貶義詞典。

但無論如何改進，基于情感詞典的分類方法都存在它獨有的局限性，即它始終依賴于“詞典”本身，這也意味著情感詞典在面臨新詞的不斷迭出和舊詞新意等情況時，無法及時擴展更新。同時，由于情感詞典的不同選擇，情感分類結果也會因此受到影響。

1.2 基于機器學習的方法

近年來，隨著人工智能的快速發展，機器學習不斷進入人們的視野中，其關鍵步驟是如何使機器可以像人一樣學習。基于機器學習的情感分析方法主要是手動進行文本特征提取，通過一系列指令讓機器從數據中學習，最后根據這些指定的算法對文本實現分詞，并輸出情感分類的最終答案。它能有效解決詞庫無法及時更新的問題，在減少人工成本的同時，分類效果也很好。其中，較為常見的算法為支持向量機（SVM）、最大熵和樸素貝葉斯等。

1963 年，一種有監督的非概率模型，即支持向量機被提出。該算法基本原理是在訓練集合中找到最優的超平面H，最優的分類超平面可以滿足將不同類別的數據以最大間隔分開。將標記好的文本表示映射成多維空間上的點，通過學習將不同情緒的樣本劃分到空間的不同區域，并對新文本進行情緒極性預測［2］。

但是作為有監督的機器學習，其局限性體現在手動標記文本特征，同時過度依賴分類器。在大數據時代，基于機器學習的情感分析方法訓練大規模文本數據較為困難［3］。

1.3 基于深度學習的方法

作為機器學習的一個重要分支，深度學習是利用深度神經網絡模擬生物的神經系統解決特征提取問題［4］。有別于淺層模型，它可以自動從原始數據中學習層次化的特征，高效地標示出數據中蘊含的復雜模式［5］。同時可以很好地避免傳統的情感分析方法帶來的的局限，在進行文本情感傾向性分析時，它能夠自動提取文本特征，并在學習過程中不斷地修正模型。

卷積神經網絡（Convolutional Neural Networks，CNN）在文本分類的第一個應用中是由Kim［6］提出的一個模型，在其研究結果中CNN 對于情感分類的效果要遠好于SVM，避免了顯示的特征抽取，同時網絡可以并行學習，降低了運行的復雜度。其中，卷積神經網絡的特征包括局部感知，可以減少參數數量，降低過擬合的可能性；共享權重可以幫助神經網絡的輸入保持空間不變性，混合可以簡化從卷積層輸出的信息［7］。在文獻［8］中，作者對于TextCNN模型做了大量調參測試，對其進行的文本分類給出了具體建議，包括對預訓練詞向量、激活函數的研究等；在文獻［9］中，作者對比了TextCNN 模型、基于TF-IDF 特征提取的傳統機器學習模型以及LSTM 模型，實驗結果顯示在短文本分類中，TextCNN 模型的準確率遠高于傳統機器學習模型，且訓練時間遠小于LSTM 模型；文獻［10］提出的動態卷積模型（DCNN）更加復雜，但其可以提取句子中活躍的特征，同時性能顯示出非常好的結構。

長短期記憶網絡（LSTM）作為特殊的RNN 網絡，專門為了解決普通循環神經網絡的長期依賴問題而設計。它由Hochreiter 等［11］于1997 年首次提出。接下來，越來越多的專家學者投入到情感分析研究中。劉騰飛等［12］提出結合循環網絡和卷積神經網絡的文本分類研究，結果顯示這是一個可以利用卷積神經網絡獲得有價值的特征，利用循環網絡高效獲取文本內部信息的復合模型，在完成文本分類任務中顯現出良好性能。李洋等［13］提出一種卷積神經網絡和BLSTM 特征融合的模型，利用CNN 提取局部特征，利用BLSTM 提取與上下文本相關的全局特征，結果較二者分別使用準確率更優。

但是對于CNN 進行文本分類仍然需要大量的研究工作，未來還需要注意卷積核大小、超參數調節等問題，同時進行CNN 與其它深度學習算法的融合實驗［14］。

2 基于深度學習的情感分類方法

自然語言處理領域較為活躍的研究方向包括文本分類，根據情緒的不同進行分類可以視為情感的傾向性分析。深度學習算法在計算機圖像中取得顯著成績，運用到文本分類中也表現出色。

2.1 卷積神經網絡

卷積神經網絡屬于前饋神經網絡，最早可以追溯到1962 年的一項生物學研究。現已發展為深度學習領域一項重要模塊，主要用于圖像識別。它主要運用了3 種基本概念：局部感受野、共享權重和混合。

（1）局部感受野（Local Receptive Fields）。在卷積神經網絡中，輸入一般看作方形排列的像素矩陣，這不同于在傳統網絡中，輸入的神經元被理解為縱向排列的形式。同時，與全連接層網絡的每個輸入神經元連接到每個隱藏神經元不同，卷積網絡只將輸入圖像的像素進行局部區域連接，即一個隱藏神經元對應輸入神經元的一個小矩陣，該矩陣叫做局部感受野，針對不同的神經網絡可以移動不同的跨距。這樣可以有效解決全連階層網絡而不考慮空間結構問題。

（2）共享權重（Shared Weights）。由于一部分輸入像素對應一個隱藏神經元，因此在卷積網絡中，每個連接對應相等的權重，同時每個隱藏神經元也對應一個相等的偏置。同時，將卷積層中訓練的所有權重或偏置設置為相同的權值，這種平移不變性可以有效減少需要學習的參數量。共享的權重和偏置可以被視為一個濾波器或者卷積和。

（3）混合（Pooling）。混合也稱作池化。其本質是簡化從卷積層輸出的信息，起到類似壓縮圖片的作用。混合算法一般包括最大值混合（max-pooling）和L2 混合（L2 pool?ing）。其中，最大值混合是計算出相鄰區域內的最大激活值，而L2 混合是取區域內所有值平方和的平方根。神經網絡結構不同，兩種算法使用效果也不同。卷積神經網絡的多卷積核使得其最終可以獲得多種特征。

2.2 TextCNN

Kim［6］在2014 年提出了TextCNN，結構如圖1 所示，他將用于圖像識別的卷積神經網絡應用于文本分類技術中，利用不同大小的卷積核提取文本中的關鍵特征，從而達到良好的文本分類效果。

Fig.1 TextCNN model structure圖1 TextCNN 模型結構

（1）嵌入層（Embedding Layer）。嵌入層輸入降維后的句子矩陣，其中每一行表示一個詞向量，若矩陣大小為n×k，則詞向量的維度為k，矩陣大小為7×5，則詞向量維度為5。類似CNN 模型中輸入圖像的原始像素。

（2）卷積層（Convolution Layer）。在TextCNN 模型中，由于文本的最小粒度是詞，因而詞向量的維度s 就是卷積核的寬度。高度即窗口大小一般設置為2、3、4，可以得到不同的特征圖，同時考慮了文本的上下文。

（3）池化層（Polling Layer）。TextCNN 在池化層中選用1-Max-pooling 抽取每個特征中的強特征，認定其為最重要的特征，同時解決了經過窗口大小不同的卷積核后特征向量維度不相等的問題，并保證了特征值位置不變。

（4）全連接層（Fully Connected Layer）。TextCNN 的最后一層為全連接層，輸出時經過softMax 激活函數，它用來計算每個類別可能為正確結果的概率，最終可以將具有最大值的特征作為該文本的類別。

其中，TextCNN 的詳細過程如圖2 所示。

3 研究思路與框架

3.1 研究思路

Fig.2 TextCNN 's specific process圖2 TextCNN 的具體過程

鑒于微博篇幅精簡、表達生活化等特點，針對微博評論的情感傾向性分析，在分類前需要對非結構化的原始數據集進行預處理，即對文本進行中文分詞和詞向量訓練，將文本轉換為數字特征的同時進行降維處理，并聯系上下文語義。本文采用基于深度學習的方法，區別于傳統情感分類算法的詞典構建和特征提取，深度學習算法更加高效和精準。對此，采用TextCNN 深度學習算法對政務微博下的評論進行訓練，完成積極、中立、消極的情感分類。

針對數據可視化部分，據微博原文下參與互動的用戶相關信息、評論內容及政務微博本身，本文將采用Echarts工具構建圖表，直觀展示政府政務微博的受眾特點、傳播能力等特征，達到對效能評估結果的可視化展示目的。

本文通過引入對信息其它層面多維度的統計與分析，改進了情感傾向性分析獨立存在的問題，形成多角度交叉對比，最終達到效能評估目的，并實現可視化分析，使枯燥的數據更加生動具體，讓人一目了然。

3.2 效能評估及可視化分析

本文的效能評估是指將訓練好的用戶評論數據集與互動用戶數據集和政務微博數據集一同進行交叉或獨立式處理，包括從用戶地區分布、用戶年齡分布等角度進行統計，最終達到效能評估結果，而其中的情感傾向性分析為本文效能評估重點。

對于可視化分析，本文采用Echarts 開源可視化工具作為將非結構化的數字信息轉化為可視化圖表的媒介，以更為直觀的方式讓數據在可視化的同時達到展現分析結果的目的。

3.3 研究框架

本文通過對政府政務微博進行可視化的效能評估，提供更科學的評估手段，不僅可以推動技術上的革新，同時更有利于推進媒體管理模式創新。數據集選自法制日報、平安北京、首都網警、人民日報、中國警方在線以及最高人民檢察院的政務官方賬號所發布的1 385 條微博、其下的17 587 條評論，以及13 679 名參與討論的微博用戶信息。

根據已有的微博評論，采用基于深度學習的情感分析方法，包括對數據集進行切分、預處理和分類。在分類過程中，采用三分類算法，將情感傾向性劃分為積極、消極和中立。同時，在微博用戶屬性、政務官方微博活躍程度等方面進行數據統計和對比，最終利用Echarts 開源可視化庫對結果進行展示。

政府政務微博效能評估及可視化分析總體方案可大致分為以下4 個步驟，如圖3 所示。

（1）Jieba 中文分詞。分詞的目的是進行情感分析，需要使用的數據集為微博評論文件中的評論部分，并將數據集劃分為測試集和訓練集。分詞選用的是精確模式，可以將句子中的詞準確地加以分解，有利于后續文本分析。

（2）詞向量訓練。傳統特征提取方法需要評估函數才能進行權重計算，而評估函數是基于統計學方法的，需要規模較大的訓練集，本文所使用的數據集規模較小，不適用于類似TF-IDF 的傳統做法。采用Keras 平臺的嵌入層進行詞向量訓練模型可以有效解決one-hot 的維度爆炸問題，將文本數據映射到低緯度稀疏矩陣中，并可以直接應用于TextCNN 后續步驟。

（3）TextCNN 分類算法。TextCNN 分類算法來源于卷積神經網絡，其在文本分類中展現了很好的結果，解決了傳統神經網絡由于全連接層而需要訓練大量參數的問題。使用三分類算法，在最后一層使用softMax 全連接層，將積極、消極、中立的分類預測以概率形式輸出。

（4）可視化顯示。由于本文數據集規模較小，采用MySQL 數據庫進行存儲，使用PHP 語言執行SQL 語句進行數據庫的連接和操作，同時與HTML+CSS+JavaScript 結合進行后續Web 可視化應用。在可視化實現過程中，使用Echarts 開源可視化庫從多種角度對用戶信息、政務微博和評論內容進行統計和整理，最終以多種形式的圖表呈現政府政務新媒體的評估結果。

Fig.3 The overall scheme of effectiveness evaluation and visual analysis of government Microblog圖3 政府政務微博效能評估及可視化分析方案

4 情感分類模型實現

4.1 文本分布式表示

首先采用Keras 的Tokenizer 模塊將分詞后的文本轉化為機器可識別的數字矩陣，創建好Tokenizer 對象后，利用fit_on_texts（）函數根據詞的詞頻進行編號，出現次數越多，編號越小。采用texts_to_sequences（）函數，將文本轉換成數字特征，形成整數形式的索引序列。使用pad_se?quences（）函數對每條文本進行填充或修剪，設置一個固定值，超過閾值的會被截掉，不足的會在序列前面填充0，設置的最大長度為50。利用TextCNN 模型的第一層Embed?ding 層將每個編碼的詞進行one-hot 編碼，然后通過卷積神經網絡進行線性變換，使其嵌入到低維空間中，最終映射成為稠密矩陣，同時通過神經網絡不斷迭代，嵌入的詞向量得到訓練和更新，使得上下文語義也得到了聯系。

4.2 TextCNN 模型搭建

本文選用通過卷積神經網絡處理文本分類的TextCNN模型。模型結構如圖4 所示。

Fig.4 Construction of TextCNN model圖4 TextCNN 模型搭建

第一層為嵌入層，第二層為一維卷積，第三層為池化層，窗口大小分別為3、4、5，它們通過融合層拼接在一起，其中激活函數為線性整流函數（Rectified Linear Unit，RE?LU），克服了sigmoid 函數在飽和區域收斂慢的問題，減少了反向傳播求誤差梯度的計算量，提高了訓練速度。最后進入全連接層，經由softMax 函數輸出3 種情感類別的概率。

配置訓練模型，損失函數（loss）是編譯模型必須存在的兩個參數之一，本文選用解析損失函數，它是Keras 提供的一種交叉嫡代價函數，幫助神經網絡從錯誤中快速學習，交叉嫡是非負的，因此模型正確率越高，交叉嫡的值越接近0。另一個重要參數為優化器（Optimizer），采用梯度下降算法找到偏置和權重的最優解，使代價函數最小化。選用自適應矩估計（Adaptive moment estimation，Adam）優化器，它屬于隨機梯度下降（SGD）算法的改進，通過隨機抽取小規模訓練樣本進行計算，并在隨機梯度下降算法的基礎上增加了一階動量和二階動量，可以加速梯度下降并自動調整學習速率，進而減少訓練時間。

訓練模型，fit（）函數用來按照指定的迭代次數訓練模型。訓練集樣本數為11 200，每輪包含100 個樣本用來計算一次梯度下降算法優化損失函數，到第5 輪停止訓練，同時指定驗證集的樣本數為1 400。

最終訓練結果如圖5 所示。

Fig.5 TextCNN model training results圖5 TextCNN 模型訓練結果

5 可視化功能設計及構建

5.1 數據庫結構設計

采用phpMyAdmin 作為客戶端管理數據庫，它支持使用PHP 語言執行SQL 各種語句以完成對政務數據的統計和可視化。

以下是關于政府政務微博數據集存儲在數據庫中的基本表結構：

（1）review 表（政務微博評論表）用來存儲政務微博下的評論及其相關信息。具體結構如表1 所示。

Table 1 Review Form（Government Microblog review Form）表1 review 表（政務微博評論表）

（2）weibo 表（政務微博表）用來存儲政務微博原文內容及標題等相關信息。具體結構如表2 所示。

Table 2 Microblog table（Government Microblog table）表2 weibo 表（政務微博表）

（3）weibo_user 表（微博用戶表）用來存儲評論過政務微博的用戶相關信息。具體結構如表3 所示。

Table 3 Weibo_user table（Weibo user table）表3 weibo_user 表（微博用戶表）

本文還在微博用戶表、政務微博評論表和政務微博表的基礎上建立了兩個視圖user_review 和user_sentiment，它不占用實際內存空間。可以用來解決子查詢中的重復調用問題，降低代碼復雜度。

5.2 可視化功能設計

由于Echarts 的本質是一個Javascript 的圖表庫，故只要將官網下載的js 文件放入項目的工程下，利用script 標簽就可以將圖表組件引入HTML 頁面中。繪制時，調用echarts.init（）函數初始化實例對象，創建option 數組以JSON 串的形式配置參數并導入需要統計的數據，最后經由對象調用setOption（）函數顯示圖表。

可視化主要分為3 部分：①對參與政務微博討論的用戶信息進行統計；②政務微博與用戶間互動信息整理；③用戶評論所體現出的情感傾向性分析。具體模塊如圖6所示。

Fig.6 The overall function design圖6 功能整體設計

5.3 可視化結果展示

微博用戶年齡分布如圖7 所示。該部分從年齡角度展示不同年齡階段對政府政務微博的參與程度，從“0～10歲”、“10～20 歲”到“50～60 歲”、“60 歲以上”共劃分7 個年齡階段。采用雷達圖對不同年齡群體的數量進行統計和顯示，便于實現橫向比較。其中，各年齡段都在關注政府政務信息，這體現政民互動在年齡層面上的普及性，較為明顯的是，青年群體已然成為政務微博建設過程中的主力軍。

Fig.7 Age distribution of Microblog users圖7 微博用戶年齡分布

政務微博發博數與評論數展示如圖8 所示。針對不同政務微博之間與政務微博內部兩個維度，采用雙柱狀圖的模式對微博發博數量和得到評論總數量進行統計。通過標簽標記最高點和最低點，從側面反映出發博數量和評論數量沒有必然聯系。政務微博是否受用戶歡迎，更多與新聞本身的內容與質量有關。

Fig.8 Number of government posts and comments on Microblog圖8 政務微博發博數與評論數

情感傾向性分析展示如圖9 所示。針對不同的政務媒體，統計微博原文下代表不同情感極性評論的各自數量及評論總數。可以看出，評論數量無論多少，3 種情感極性在各自政務微博總評論中所占比例大致相同，且大多數評論表現出較強烈的感情傾向，展示出人們對政務工作的高度參與。

Fig.9 Sentiment orientation analysis（independent）圖9 情感傾向性分析（獨立）

性別與情感分布展示如圖10-圖12 所示。該部分以性別作為分類標準，統計參與互動的微博用戶的情感部分。由于數據集中男女總數不同，故采用各自性別的評論總數作為比例公式中的分母，該性別的不同情感作為分子。如圖10 所示，男性和女性在與政務微博互動時，評論內容所顯示出來的中立情感占各自群體總數的比例大致相同；而如圖11 和圖12 所示，男性群體評論所傾向的消極情感的占比遠高出女性，女性群體的評論所顯示出的情感更加積極。

Fig.10 Gender and emotional distribution（neutral）圖10 性別與情感分布（中立）

Fig.11 Gender and emotional distribution（positive）圖11 性別與情感分布（積極）

Fig.12 Gender and emotional distribution（negative）圖12 性別與情感分布（消極）

6 結語

本文重點對微博評論所隱含的情感傾向性進行分類統計，采用基于深度學習情感分析方法中的TextCNN 模型對經過預處理的文本進行訓練、評估和預測，對數據進行數據庫導入、統計、分析和可視化。在MySQL 數據庫中創建表和視圖，方便實現后續對數據的查找和調用。采用Echarts 開源可視化工具將數據嵌入到柱狀圖、雷達圖、地區分布圖等圖表進行展示，同時通過參數更改，實現對組件的個性化調整。

本文不足之處在于結果是靜態化展示，而眾所周知的是，將時間劃入統計范疇的動態可視化將更具有比較性和說服力。情感傾向性分析為三分類，而顯然人類的情感不可能只有三種，未來可以考慮進行更多分類研究，這更有利于細化輿情監測針對公眾情感分析相關內容，使政府收集的民情民意更加精準，幫助政務部門對輿論作出及時正確的引導。同時，研究中數據集規模較小，得到的結果不足以代表全部政務微博現狀，并且采用的數據集僅來源于政務微博，未來還可以對微信公眾號和政務新媒體客戶端和網站進行統計，使結果更具有說服力。