傳感數據通信協議及高并發服務的設計與實現

張永強 劉帥 高鴻斌

摘 要：為了滿足人們對于限定區域監測的需求，解決異構數據的表示、傳輸以及高并發問題，分析了傳統物聯網平臺在傳感數據采集以及傳輸方面的不足，通過功能模塊設計，開發了微環境監測平臺。針對平臺傳感層數據采集工作，設計通信協議，統一數據格式，減少數據傳輸量和能耗，并制定協議通信流程，利用LoRa技術完成終端到網關之間數據的遠程傳輸；針對平臺網絡層，設計高并發數據接口實現服務端程序接收并處理數據，最終完成系統的研發和測試。結果表明：設計的通信協議可以完成異構數據格式的統一工作，降低了數據傳輸量和能耗；驗證了數據從終端采集設備到網關，并經過上位機最后到服務器整套傳輸方案的可行性與可靠性、低延遲性以及高并發數據接口的處理性能。微環境監測平臺能夠穩定運行，為跨行業物聯網應用提供了一套數據采集和傳輸的解決方案。

關鍵詞：通信傳輸技術；微環境監測平臺；無線傳感網絡；LoRa；異構數據；高并發接口；線程池

中圖分類號：TP393 文獻標志碼：A

文章編號：1008-1542（2018）04-0356-09doi：10.7535/hbkd.2018yx04010

Abstract：In order to meet people's needs for limited area monitoring and solve the heterogeneous data representation， transmission and high concurrency issues， the deficiency of traditional Internet platform in sensor data acquisition and transmission is analyzed， and a micro environmental monitoring platform is realized through function module design. As for sensing layer data acquisition work， the communication protocol is designed， the data format is unified to reduce the amount of data transmission and energy consumption， and the communication protocol process is determined. LoRa technology is used to complete the remote transmission of data between the terminal and the gateway. As for the platform network layer， the high concurrency data interface is designed， using the server program to receive and process data. Finally the development and testing of the system is completed. The results show that the designed communication protocol can help unifying heterogeneous data format and reducing the quantity of data transmission and energy consumption. The feasibility， reliability and low latency of the whole transmission plan of the data collected from the terminal equipment to the gateway， through the whole PC to server are verified， as well as the processing performance of the high concurrent data interface. The stable operation of the micro-environment monitoring platform proves it is a set of data collection and transmission solution for the applications of cross-industry Internet.

Keywords：communication transmission technology； micro environment monitoring platform； wireless sensor network； LoRa； heterogeneous data； high concurrence interface； thread pool

近年來，LoRa，NB-IoT等LPWA[1]技術的發展，為物聯網在各個業務領域的應用打下了基礎。物聯網體系結構分為感知層、網絡層和應用層。感知層主要完成信息的采集、轉換和收集，網絡層主要完成信息的傳遞和處理，應用層主要完成數據管理和數據處理，并將這些數據與行業應用相結合[2]。

現存物聯網系統在開展行業應用時，需為各自系統搭建傳感層和網絡層，導致大量重復性工作，增加了成本。單獨針對各個行業的物聯網應用系統都有著自己獨立的數據采集、傳輸和存儲方案，造成了各行業間數據交流不順暢，以至于無法綜合利用數據做出更為準確的分析，阻礙了為用戶提供更為優質的服務[3-5]。微環境監測平臺便是為解決該問題而開發的，其統一設計的傳感層和傳輸層業務流程，可以讓用戶將工作重心放在應用層業務應用上。由于微環境監測平臺將提供給各個行業來實現它們的業務，因此相比之前單獨針對某個行業的物聯網系統，其需要的傳感層接入終端設備種類和數量倍增。種類繁多的低端硬件采集器和執行器以及各個廠家的設備可能互不兼容，造成數據多源異構，為數據采集、分析和應用帶來難度，如何利用智能終端節點有限的資源將大量的數據進行實時、可靠的遠距離傳輸仍是需要重點考慮的問題。因此，需通過通信協議設計，屏蔽數據異構性，統一數據格式，解決數據多源異構問題；進行高并發數據接口設計并實現服務端程序，解決大數據量并發問題[6]。

河北科技大學學報2018年第4期張永強，等：傳感數據通信協議及高并發服務的設計與實現為了將多來源、多種類、多類型的海量數據及時、準確、有效、安全地整合并上傳，在借鑒他人研究的基礎上進行了如下研究：1）設計傳感層通信協議，解決多源異構數據格式問題。協議在面向上層命令信息、底層設備狀態信息和采集數據信息時，根據信息種類不同，通過數據打包并規定包中數據字段和順序，完成數據格式的統一，屏蔽數據異構性，降低數據傳輸量；利用LoRa技術完成終端設備與網關之間數據的傳輸；利用HTTP接口，完成網關與服務端之間數據的傳輸與接收；2）設計高并發數據接口并實現服務端程序，通過采用線程池技術，以合理的線程數達到最大的數據處理量。通過對微環境監測平臺部分功能的實現，解決了以上問題，并驗證了本文的可行性與可靠性。

1 微環境監測平臺系統結構

為解決不同業務應用領域的共性問題以及降低業務應用成本，建立了微環境監測平臺，平臺架構如圖1所示。該平臺傳感層可接入各種設備，主要有微環境監測儀、標簽類設備、計量類傳感器及開關狀態量傳感器、監控設備等。采用自主設計的微環境監測儀進行數據采集，采集的數據經過自定義通信協議封裝后，根據制定協議通信流程，采用LoRa技術將數據傳輸到網關；網關再通過RS485串口將數據傳輸到上位機，經過一定的處理（如加時間戳等）后上報至內網服務端；服務端程序通過高并發數據接口完成網關大數據接收，該接口根據預先定義的通信協議，采用線程池技術，對數據進行解析和存儲，提供高并發的數據接收和處理能力。內網服務器端面對網絡層大量數據上報以及用戶頻繁大量的訪問應用層，通過采用分布式存儲方案、業務分離、讀寫分離，包括采用MongoDB數據庫集群和Redis內存數據庫，為系統平臺提供高并發和高速的數據存儲功能。應用層在進行業務應用和對數據展現時，需要從內網服務器獲取相關數據。用戶在外網通過手機端和PC端訪問微環境監測平臺，外網和內網之間用網閘隔開，可以有效地提高平臺的安全性[7-8]。

2 傳感層通信協議設計

面對微環境監測平臺傳感層采集數據時的諸多問題：1）種類繁多的終端設備造成的數據多源異構問題，數據格式各異，不利于傳輸以及分析使用；2）終端節點功耗問題。為了讓采集設備能夠長期穩定地進行工作，必須設計相應的低功耗機制，在確保通信質量的前提下，使設備盡量節能，從而延長其生命周期；3）數據上報實時性問題。采集的數據必須及時上報，否則將失去意義[9]。本文除了在硬件層面采用低功耗的LoRa技術外，還在軟件層面上進行思考和解決[10-13]。在保證多種異構數據真實性和完整性的情況下，通過通信協議設計，合理安排數據結構和數據內容， 精簡、去除冗余信息，減少每個通信周期傳送的數據量，降低數據發送等待時間，以此達到統一多源異構數據格式的目的，提高通信的實時性、可靠性。同時，降低能耗，延長終端生命周期。根據數據在平臺中的傳輸種類將協議分為3類，包括采集數據上傳協議、設備狀態信息上報協議和控制指令協議。在確保通信質量的前提下，將多種異構數據封裝在一個數據包中發出。目前，該協議已在微環境監測儀上實現，該設備為自主設計，此處不詳細介紹。

微環境監測儀在進行數據采集時，根據預先設計的通信協議進行數據封裝，具體應用規程如圖2所示。對于每次僅僅發送一種傳感數據的通信協議而言，采用本文設計的協議減少了冗余數據，降低了數據傳輸量和整體能耗[14-15]。

打包操作在終端設備單片機中完成，以打包采集數據為例，具體打包算法見表1。打包時按照采集數據上傳協議進行數據傳輸，一次傳輸5種數據，協議統一采用66字節的數據包傳輸，如表2所示，詳細規范了數據的內容和相關的格式示例，其中9～48字節代表5種數據信息。執行打包算法后，獲得的具體采集數據上報實例如圖3所示。

設備狀態信息的上報是根據上層指令控制進行的。同樣，上報時將5種設備狀態統一發送，具體如表3所示，采用36字節的數據包傳輸，其中9～18字節為5種設備的類型和狀態信息。

服務端控制命令面向用戶時，用戶可按照區域、節點、設備對平臺內的所有設備進行控制，控制指令經過網關轉發到終端設備，經過解析后下發給相應的終端設備上的傳感器，命令控制協議如表4所示。

3 網絡層數據傳輸與接收

網關在接收終端設備數據后，需要通過上位機的HTTP接口將數據遠程傳輸到服務器端。此處上位機的作用在于承擔數據轉發任務，將傳感網絡中的數據轉發到互聯網中。為了保證傳輸層數據的實時性，提高平臺的并發量和處理性能，實現采集數據的及時接收和處理，進行了高并發數據接口設計[16-17]，實現服務端高并發數據接收程序。為防止數據處理不及時造成的數據堆積，減少數據的復制和IO操作，提高平臺的性能，在高并發數據接口中引入線程池技術[18]，具體結構如圖4所示。

在服務端高并發數據接收程序時，對線程池框架以及具體數據處理等功能進行實現，具體執行算法如表5所示。

其中，Thread_pool結構體相當于線程管理器，是線程池與用戶直接交互的接口，該結構體包含了工作線程、任務隊列等。Thread_worker結構體里封裝了任務接口，通過自定義DataInforAnalysis （），DeviceInforAnalysis（）以及ControlPackage（）實現該接口功能，進行數據解析和指令封裝工作。線程池工作時調用pool_init（）函數在線程池中創建一定數目的線程，線程數目可以根據實際情況進行調整。PoolAddWorker（）則是把上位機數據任務加入到工作隊列中，在此函數中會判斷線程是否達到最大數目，根據結果決定該任務是否可以得到運行，如果任務隊列中的任務都執行完后，調用Thread_taskCall（）函數，該函數會依次從任務隊列中取出任務讓工作線程執行。pool_destroy（）方法被調用時會判斷工作線程是不是正在執行任務，如果有任務正在執行，則會等待任務執行完后再銷毀線程池[19-20]。

4 系統測試與分析

4.1 測試環境

測試環境的具體配置如下。1）終端采集設備：采用自主設計的微環境監測儀，包含單片機、一系列傳感器以及LoRa通信模塊等；2）LoRa網關與LoRa通信模塊，網關與上位機采用RS485串口交互環境；3）上位機環境：CPU為Intel（R） Core（TM）i3-2370，內存8 GB，VS2015，Windows 7操作系統；4）服務器硬件平臺：內存8 GB以上，硬盤40 GB以上，Windows Server 2008操作系統，Tomcat 8.0服務器，Java 1.7開發語言，My Eclipse 8.5集成開發環境。

4.2 通信協議測試

為了驗證本文所設計通信協議的高效性，分別從相同工作時間能量損耗、發送相同信息量數據節省的字節數、以及上報相同數據所耗費時間三方面與常規協議[21-22]（其他工作者根據自己需求定義的協議，大多為一次發送一條數據）進行了測試分析。由圖5 a）中對比可知，隨著傳輸數據包數量的增多，節省的字節數據也明顯增多，因此在設計通信協議時，采取數據一次多發的方式是必要的，可有效降低數據的傳輸量。圖5 b）和圖5 c）中關于傳輸能耗以及傳輸耗時對比測試則表明，同樣的信息量數據，通過采用一次多發的方式，可以減少發送次數，能夠達到降低能耗的目的，并且消除了數據排隊等待發送的時間，提升了數據實時性。此處驗證了通信協議的設計達到了預期目的。

4.3 數據通信傳輸測試

傳感數據傳輸的實時性以及可靠性直接關系到上層預警和決策，對系統影響很大。如圖6 a）所示，數據從終端采集后到達LoRa網關耗時800 ms左右（包含了終端封裝數據耗時和傳輸耗時），相對于其他傳輸環節，此處耗時偏多。從LoRa網關到上位機耗時100 ms左右，經過上位機處理后轉發，最終到達服務器時耗時700 ms。因此，在實驗環境下，整個傳輸過程共耗時1 600 ms左右，包含傳輸耗時以及在網關、上位機相應的數據處理耗時，在數據通信傳輸可接受的范圍內，達到數據的實時性要求。圖6 b）和圖6 c）中，菱形點、矩形點、三角點以及叉點的線分別表示在局域網中該實驗占用網絡資源為90%，70%，50%，30%的情況下數據傳輸可靠率（丟包率）以及在100，80，50和10 MB的外網中的實驗結果。上述結果表明，無論在局域網還是在外網環境中，隨著實驗可用網絡資源量的減少，丟包率呈現出了增長的趨勢，但在本文的測試環境中，所有實驗的傳輸成功率均保持在98%以上，驗證了數據傳輸的可靠性。

4.4 高并發數據接口性能測試

為了檢驗大數據量處理性能，分別對單線程、非線程池（多線程）以及線程池技術進行了大量的數據處理測試。設定線程池中線程數分別為2，4和8，并與非線程池技術處理性能進行對比。如圖7 a）所示，可以看出線程池技術比非線程池技術有較好的處理性能。

為檢驗系統達到最高吞吐量時線程池中的線程數，通過ZLComDebug串口助手模擬數據進行測試，改變線程池中的線程數，取值1～12，每次模擬發送數據分別為3 000，6 000，8 000，測試結果如圖7 b）所示，可以看出隨著線程數增多吞吐量不斷增大，當達到最大值后有一個短暫的保持階段，此后繼續增大線程數反而會使吞吐量減少。在本文特定的測試環境下，當線程數為8時，吞吐量最大。

為檢驗單條數據處理等待時間，分別對線程池和非線程池進行測試，測試數據100條，觀察每條數據處理等待時間，測試結果如圖7 c）所示，線程池每條數據處理等待時間平均為1.15 ms，非線程池每條數據處理等待時間平均為1.23 ms，通過對比說明采用線程池技術的數據均能夠減少數據等待時間，并且每條數據等待時間較為均衡，避免了重要數據在較長時間內得不到處理的情況，滿足數據實時性要求。

綜上所述，高并發接口的采用使得在大數據量處理時每條數據平均等待時間為1.15 ms。結合延遲測試，數據從終端到網關，經過上位機最終到達服務器耗時在1 600 ms左右，分析得出數據傳輸耗時主要受網絡狀況影響，因此可通過改善通信網絡狀況提高數據實時性。

5 結 語

進行了傳感層通信協議和協議流程設計、高并發數據接口設計以及在兩者基礎上的設計，實現了微環境監測平臺。通過實驗驗證了自定義通信協議在一定程度上能夠消除數據多源異構，可以很好地統一數據格式，降低數據傳輸量；驗證了傳感層協議通信流程的可行性、上位機的性能以及整個傳輸方案的延時性和可靠性，為傳感層和傳輸層提供了解決方案。在此基礎上設計實現的傳感云平臺已經運行并取得良好的效果。今后將對自定義協議進行拓展，使得每種類型數據都有與之對應的協議進行封裝，并測試優化協議，以便達到簡潔、高效，節省能量的效果；還將優化之前所做的工作，在通信協議設計基礎上使傳感層形成異構數據采集中間件工具，實現屏蔽終端異構性，接收盡可能多種類的異構數據，使之作為工具更方便地為其他系統平臺所應用；相較于NB-IoT，本文采用的LoRa技術在部分場景下使用會受限，隨著NB-IoT的網絡部署日益完善，將逐步用NB-IoT代替LoRa技術。

參考文獻/References：

[1] SINHA R S， WEI Y Q， HWANG S H. A survey on LPWA technology： LoRa and NB-IoT[J]. ICT Express， 2017， 3（1）：14-21.

[2] 楊旸.智能物聯網技術和應用的發展趨勢[J].中興通訊技術，2018（2）：1-7.

YANG Yang. Trends of intelligent IoT technologies and applications[J].ZTE Technology Journal，2018（2）：1-7.

[3] 葉許紅. 一個基于物聯網的動力和環境監控系統的設計實例[J]. 計算機科學，2012，39（sup1）：210-211.

YE Xuhong. Design case of power and environment monitoring system based on internet of things[J]. Computer Science， 2012， 39（sup1）：210-211.

[4] 張海闊，陸忠華，劉芳，等.面向海量告警數據的并行處理系統設計與實現[J].計算機工程與設計，2018，39（2）：407-413.

ZHANG Haikuo， LU Zhonghua， LIU Fang，et al. Design and implementation of mass alarm data oriented parallel processing system[J]. Computer Engineering and Design， 2018， 39（2）：407-413.

[5] 俞姝穎，吳小兵，陳貴海，等.無線傳感器網絡在橋梁健康監測中的應用[J].軟件學報，2015，26（6）：1486-1498.

YU Shuying， WU Xiaobing， CHEN Guihai， et al. Wireless sensor networks for bridge structural health monitoring[J]. Journal of Software， 2015， 26（6）：1486-1498.

[6] 黃靚.基于智能實驗室管理系統的自動化數據采集[J].電子技術與軟件工程，2018（6）：182.

[7] 李貢湘，郭忠文，遲曉晨.面向即插即用的物聯網傳感設備數據采集系統[J].中國海洋大學學報，2013，43（5）：112-119.

LI Gongxiang， GUO Zhongwen， CHI Xiaochen. Plug-and-play data acquisition system for sensing equipment of internet of things[J]. Periodical of of Ocean University of China， 2013， 43（5）：112-119.

[8] 鄧昀，李朝慶，程小輝.基于物聯網的智能家居遠程無線監控系統設計[J].計算機應用，2017，37（1）：159-165.

DENG Yun， LI Chaoqing， CHENG Xiaohui. Design of remote wireless monitoring system for smart home based on internet of things[J]. Journal of Computer Applications， 2017， 37（1）：159-165.

[9] 張希偉，戴海鵬，徐力杰，等.無線傳感器網絡中移動協助的數據收集策略[J].軟件學報，2013，24（2）：198-214.

ZHANG Xiwei， DAI Haipeng， XU Lijie， et al. Mobility-assisted data gathering strategies in WSNs[J]. Journal of Software， 2013， 24（2）：198-214.

[10]左黎明，胡凱雨，張夢麗，等.鐵路橋梁中基于短簽名方案的監測數據傳輸協議[J].計算機應用，2018：2018010272.

ZUO Liming， HU Kaiyu， ZHANG Mengli， et al. Monitoring data transmission protocol based on short signature scheme in railway bridges[J].Journal of Computer Applications， 2018：2018010272.

[11]韓牟，華蕾，王良民，等.車載自組網中高效的群組協商通信協議[J].通信學報，2018，39（1）：34-45.

HAN Mu， HUA Lei，WANG Liangmin， et al. Efficient communication protocol of group negotiation in VANET[J]. Journal of Communications， 2018， 39 （1）：34-45.

[12]梁燁，洪衛軍，張鴻洲.公安專用視頻監控系統前端布點研究綜述[J].科學技術與工程，2018，18（3）：142-152.

LIANG Ye， HONG Weijun， ZHANG Hongzhou. A review of research on front-end distribution of public security video surveillance system[J]. Science Technology and Engineering， 2018， 18（3）：142-152.

[13]王彩芬，陳麗.基于格的用戶匿名三方口令認證密鑰協商協議[J].通信學報，2018，39（2）：21-30.

WANG Caifen， CHEN Li. Three-party password authenticated key agreement protocol with user anonymity based on lattice[J]. Journal of Communications， 2018， 39（2）：21-30.

[14]許東，操文元，孫茜. 基于CC2530的環境監測無線傳感器網絡節點設計[J]. 計算機應用，2013，33（sup2）：17-20.

XU Dong， CAO Wenyuan， SUN Qian. Design of wireless sensor network node for environment monitoring based on CC2530[J]. Journal of Computer Applications， 2013，33（sup2）：17-20.

[15] 張為， 李亮.多傳感器數據采集技術在物聯網的應用研究[J].廣州大學學報（自然科學版），2012，11（3）：75-80.

ZHANG Wei， LI Liang. The application research of multisensors data collection technology within the internet of things[J]. Journal of Guangzhou University（Natural Science Edition）， 2012， 11（3）：75-80.

[16]張曉玲，梁煒，于海斌，等.無線傳感器網絡傳輸調度方法綜述[J].通信學報，2012，33（5）：143-157.

ZHANG Xiaoling， LIANG Wei， YU Haibin， et al. Survey of transmission scheduling methods in wireless sensor networks[J]. Journal of Communications， 2012， 33（5）：143-157.

[17]張煒森，陳濤，李康.Nginx高并發負載均衡原理與策略比較研究[J].工業控制計算機，2018，31（1）：85-86.

ZHANG Weisen， CHEN Tao， LI Kang. Comparative study on principle and strategy of Nginx high concurrent load balancing[J]. Industrial Control Computer， 2018， 31（1）：85-86.

[18] 楊開杰，劉秋菊，徐汀榮.線程池的多線程并發控制技術研究[J].計算機應用與軟件，2010，27（1）：168-170.

YANG Kaijie，LIU Qiuju，XU Tingrong. On multi-threaded concurrent control technology for thread pool[J].Computer Applications and Software，2010，27（1）：168-170.

[19]周超，李冬，張寶賢，等.一種面向無線傳感網節點的中間件架構設計與實現[J].鐵道學報，2014，36（8）：63-69.

ZHOU Chao， LI Dong， ZHANG Baoxian，et al. Design and implementation of middleware framework for wireless sensor network[J].Journal of the China Railway Society，2014，36（8）：63-69.

[20]王冰，王紅勝，張劍煒，等. 異構網絡環境中點對點通信架構研究[J]. 河北工業科技， 2009，26（5）：321-324.

WANG Bing， WANG Hongsheng， ZHANG Jianwei，et al. Research of peer to peer communication architecture in heterogeneous network[J]. Hebei Journal of Industrial Science and Technology， 2009，26（5）：321-324.

[21]焦東來，蔣賀，張索非，等. 面向空間信息的數據通信協議的設計與實現[J]. 計算機工程與設計，2017，38（2）：550-556.

JIAO Donglai， JIANG He， ZHANG Suofei， et al. Design and implementation of data communication protocol for spatial information[J]. Computer Engineering and Design， 2017，38 （2）：550-556.

[22]VINKOVIC S， OJSTERSK M. The internet of things communication protocol for devices with low memory footprint[J].International Journal of Ad Hoc and Ubiqutious Computing， 2014， 24（4）：10001131.