大數(shù)據(jù)分析平臺建設與應用綜述

張孟華

摘要：本文針對大數(shù)據(jù)在戰(zhàn)略思維層面、技術創(chuàng)新發(fā)展層面、社會創(chuàng)新發(fā)展層面的核心價值展開分析，結合大數(shù)據(jù)分析平臺建設思路，包括平臺建設目標、建設內(nèi)容分析、關鍵技術分析等，通過研究大數(shù)據(jù)分析平臺在制造領域、零售領域、電力運輸領域、運輸領域、銀行服務領域中、公共衛(wèi)生領域等具體應用，其目的在于加快大數(shù)據(jù)分析平臺建設速度，提升大數(shù)據(jù)分析平臺應用效果。

關鍵詞：戰(zhàn)略思維層面;平臺建設目標;制造領域;平臺層;功能層

人類社會信息化進程正在邁向網(wǎng)絡化信息技術普及階段。整個社會信息采集渠道日益豐富，信息應用廣度不斷拓展，信息總量呈指數(shù)級增長，以信息為核心創(chuàng)新驅(qū)動力持續(xù)增強，從而帶來全社會信息在類型多樣性、關系復雜性、應用時效性等方面呈現(xiàn)出嶄新趨勢和特征。

1 大數(shù)據(jù)的核心應用價值

1.1 戰(zhàn)略思維層面

從目前發(fā)展情況來看，數(shù)據(jù)已經(jīng)成為推動社會經(jīng)濟穩(wěn)定發(fā)展重要影響因素，大數(shù)據(jù)發(fā)展可以追溯到2011年，麥肯錫公司發(fā)布了《大數(shù)據(jù)：下一個競爭、創(chuàng)新和生產(chǎn)力的前沿領域》的研究報告，這也意味著“大數(shù)據(jù)”正式進入到了戰(zhàn)略發(fā)展階段。許多國家開始著手進行大數(shù)據(jù)發(fā)展戰(zhàn)略研究，我國于2012年加入到了推動大數(shù)據(jù)發(fā)展行列當中，大數(shù)據(jù)重要性也在得到人們認可。尤其是在2015年，國務院出臺了《促進大數(shù)據(jù)發(fā)展行動綱要》，明確了大數(shù)據(jù)在國家發(fā)展中地位，同時還在《綱要》中提出了一些有關大數(shù)據(jù)發(fā)展重要策略，這也進一步凸顯出我國對于發(fā)展大數(shù)據(jù)重視，也使得大數(shù)據(jù)發(fā)展進入到了戰(zhàn)略推進階段。

1.2 技術創(chuàng)新發(fā)展層面

大數(shù)據(jù)相比其他類型數(shù)據(jù)信息，在發(fā)展應用過程中，具備了發(fā)展類型多元化、總體量巨大、相互間關系復雜程度高等應用特點。為了更好完成價值數(shù)據(jù)信息提取，需要匹配相應科學技術，這也加快了技術創(chuàng)新速度，進而促進了社會經(jīng)濟快速發(fā)展。在技術創(chuàng)新過程中，其前提條件便是需要有足夠數(shù)據(jù)信息進行支持，而大數(shù)據(jù)所能夠提供信息基數(shù)數(shù)量非常大，這也便于后續(xù)將與大數(shù)據(jù)相關理論、已有技術成果與創(chuàng)新框架結構進行融合，同時還可以依托于互聯(lián)網(wǎng)技術，開始推動智能化體系發(fā)展，這也會進一步加快問題處理速度，為技術創(chuàng)新發(fā)展創(chuàng)造良好應用環(huán)境。

1.3 社會創(chuàng)新發(fā)展層面

社會經(jīng)濟飛速發(fā)展，社會也開始沿著智慧城市建設方向推進，所謂智慧城市是指可以對城市各方面發(fā)展情況進行統(tǒng)籌性規(guī)劃，并且將城市管轄區(qū)域信息網(wǎng)并聯(lián)在一起，采用以點及面方式來推進城市經(jīng)濟穩(wěn)定發(fā)展。建立該網(wǎng)絡平臺基礎便是海量數(shù)據(jù)支持，即大數(shù)據(jù)便是實現(xiàn)智慧城市戰(zhàn)略目標基礎內(nèi)容?，F(xiàn)階段，我國很多城市已經(jīng)著手進行智慧城市建設，而大數(shù)據(jù)在該環(huán)節(jié)中，充分發(fā)揮著業(yè)務協(xié)同與信息整合作用，并且所搭建數(shù)據(jù)平臺還可以為社會發(fā)展提供可靠基礎設施支持，同時還降低了技術應用門檻，加快了一站式服務普及速度。這也意味著社會創(chuàng)新發(fā)展進入到了多元化推進階段，提高了社會經(jīng)濟結構穩(wěn)固性。

2 大數(shù)據(jù)分析平臺建設思路分析

2.1 平臺建設目標

進行大數(shù)據(jù)分析平臺建設，需要滿足以下幾點要求：（1）綜合性，搭建平臺主要應用目標便是構建統(tǒng)一數(shù)據(jù)資源庫，同時還可以對數(shù)據(jù)進行準確篩選，提高數(shù)據(jù)內(nèi)容的精準度。（2）可靠性強，在平臺服務內(nèi)容增多、服務范圍擴大的背景下，為了確保服務質(zhì)量，還需要對數(shù)據(jù)安全管理能力進行提升，在確保數(shù)據(jù)信息應用價值的基礎上，提高結構運行過程的可靠性。（3）開放性，在實際應用中，一般都會對數(shù)據(jù)信息的共享模式進行調(diào)整，將虛擬數(shù)據(jù)沿著實體數(shù)據(jù)信息存儲的方式進行調(diào)整，以此為基礎來搭建完善的數(shù)據(jù)管理框架，對于采集到的數(shù)據(jù)信息進行預處理、數(shù)據(jù)清洗或數(shù)據(jù)分析等，此時的數(shù)據(jù)已經(jīng)開始沿著“資產(chǎn)”的方向進行發(fā)展，這也提升了數(shù)據(jù)信息提供的針對性，為行業(yè)經(jīng)濟發(fā)展提供了可靠的數(shù)據(jù)信息支持。

2.2 建設內(nèi)容分析

2.2.1 數(shù)據(jù)采集系統(tǒng)

這也是大數(shù)據(jù)平臺的基礎內(nèi)容，在實際應用中，可以借助可視化分析工具，來完成數(shù)據(jù)分析工作，而且還可以將二維數(shù)據(jù)信息進行三維處理，使其更加具備直觀性，在提高數(shù)據(jù)分析效果的基礎上，幫助用戶對數(shù)據(jù)進行更好的理解。同時還可以建立基礎算子，對于平臺中數(shù)據(jù)之間的關系進行梳理，而且還會對數(shù)據(jù)信息潛在價值進行研究，同時對于數(shù)據(jù)信息潛在價值進行匯總整理，以此為依據(jù)對原有數(shù)據(jù)庫進行重建，為一站式管理奠定基礎。另外，在實際應用中，數(shù)據(jù)采集系統(tǒng)還需要具備較強的兼容性，可以對許多數(shù)據(jù)格式進行兼容，以此來提高系統(tǒng)運行本身的可靠性。

2.2.2 數(shù)據(jù)處理系統(tǒng)

在大數(shù)據(jù)時代，數(shù)據(jù)每天都處于不斷更新的狀態(tài)，部分數(shù)據(jù)信息在經(jīng)過一段時間后，會喪失原有的時效性，需要對其進行更新，從而確保數(shù)據(jù)供給的可靠性。在數(shù)據(jù)處理系統(tǒng)建立過程中，可以將預處理技術融入到其中，對于已經(jīng)采集到的數(shù)據(jù)進行處理，其內(nèi)容包括以下兩部分內(nèi)容：第一，對于采集到的數(shù)據(jù)進行抽取，考慮到所采集數(shù)據(jù)格式多樣性，抽取的工作便是對數(shù)據(jù)進行統(tǒng)一，便于后續(xù)處理。第二，對數(shù)據(jù)進行清洗，即對無價值數(shù)據(jù)進行剔除，對于具備潛在價值的數(shù)據(jù)信息進行深入挖掘，這也是提高系統(tǒng)應用價值的基礎環(huán)節(jié)，以此為后續(xù)指令的下達奠定基礎。

2.2.3 數(shù)據(jù)安全管理系統(tǒng)

對于采集、處理后的數(shù)據(jù)信息進行加密處理，同時在數(shù)據(jù)傳輸過程中也需要做好數(shù)據(jù)的加密工作，確保所有采集數(shù)據(jù)信息的可靠性。在此過程中，可以應用到大數(shù)據(jù)存儲和管理技術來輔助數(shù)據(jù)管理工作的推進，利用該技術來建立相應的數(shù)據(jù)庫，而且還需要做好相關的記錄審查工作，確保數(shù)據(jù)審查的可靠性。另外，對于一些敏感性數(shù)據(jù)信息，還需要對其進行脫敏處理，確保數(shù)據(jù)信息傳遞結果的完整性。

2.3 關鍵技術分析

2.3.1 平臺層

該結構在大數(shù)據(jù)平臺建設中，屬于非常核心的系統(tǒng)結構，在實際建設中，該系統(tǒng)主要由以下幾部分內(nèi)容組成：第一，數(shù)據(jù)存儲系統(tǒng)，大數(shù)據(jù)的信息總量龐大，在實際應用中，需要構建PB級存儲能力的系統(tǒng)，以此來滿足數(shù)據(jù)存儲要求。第二，數(shù)據(jù)挖掘系統(tǒng)，大數(shù)據(jù)在傳輸一般都會以數(shù)據(jù)包的方式進行傳遞，其中蘊含了非常多的數(shù)據(jù)信息，對此，平臺層在傳遞數(shù)據(jù)信息時，也需要做好兼容性調(diào)整，并且在傳遞過程中，應打破傳統(tǒng)MapReduce技術的框架限制，對數(shù)據(jù)潛在價值進行挖掘，從而提高系統(tǒng)運行的可靠性。

2.3.2 功能層

在功能層結構的建設過程中，主要由以下幾部分內(nèi)容構成：（1）挖掘算法的確定，與平臺中數(shù)據(jù)挖掘系統(tǒng)相對應，其主要的工作內(nèi)容便是對數(shù)據(jù)信息進行深入挖掘，以此來提高TB建模的穩(wěn)定性。（2）隱私保護技術，所有采集到的數(shù)據(jù)信息需要進行安全保護，同時還需要一些數(shù)據(jù)信息進行脫敏處理，使其能夠和其他普通信息內(nèi)容一樣，可以順利地進行傳遞，減少了其他不確定因素帶來的干擾性，從而提高信息傳遞的可靠性。（3）可視化分析技術，該技術主要用于輔助挖掘系統(tǒng)工作的順利開展，從而提高了數(shù)據(jù)信息交互過程的穩(wěn)定性[1]。

2.3.3 服務層

服務層作為和用戶進行直接對接的系統(tǒng)，在該系統(tǒng)建立過程中，需要注意以下幾點內(nèi)容：第一，數(shù)據(jù)匹配技術，在用戶提出請求之后，可以快速將指令傳遞到指定區(qū)域，從中篩選出和請求相匹配的數(shù)據(jù)內(nèi)容，數(shù)據(jù)的細化程度會根據(jù)用戶提供關鍵詞的細化程度不斷提高，以此來為用戶提供可靠的數(shù)據(jù)信息。第二，顯示技術，不同格式數(shù)據(jù)信息的顯示方式也存在著較大的不同，因此需要對數(shù)據(jù)格式進行兼容性轉(zhuǎn)化，從而提高數(shù)據(jù)顯示后的可利用性。

3 大數(shù)據(jù)分析平臺的具體應用

3.1 制造領域

在我國經(jīng)濟產(chǎn)業(yè)組成結構中，制造業(yè)屬于非常重要的支柱產(chǎn)業(yè)，在該行業(yè)領域中搭建大數(shù)據(jù)分析平臺時，主要包括以下應用系統(tǒng)：（1）信息存儲系統(tǒng)，構建PB級存儲能力的存儲系統(tǒng)，對于制造參數(shù)信息進行存儲，為后續(xù)數(shù)據(jù)處理奠定基礎。（2）數(shù)據(jù)處理系統(tǒng)，對于產(chǎn)品的有關參數(shù)信息進行歸類，同時利用挖掘技術對數(shù)據(jù)潛在價值進行挖掘。（3）產(chǎn)品預警系統(tǒng)，對于產(chǎn)品生產(chǎn)質(zhì)量進行監(jiān)督，若出現(xiàn)不合格產(chǎn)品或者批次合格率較低的情況，會做出預警，起到經(jīng)濟止損的作用。（4）可視化展示系統(tǒng)，大數(shù)據(jù)信息最終需要展示到用戶，面前，人機實現(xiàn)信息的順利交互，也是完善大數(shù)據(jù)平臺結構的基礎。

3.2 零售領域

大數(shù)據(jù)在零售領域中的應用，會根據(jù)零售領域中涉及到的商品種類進行子系統(tǒng)匹配。例如，某零售企業(yè)銷售的商品主要可以分為糧食和休閑食品兩種，這也是大數(shù)據(jù)分析平臺建設時的兩個大應用系統(tǒng)。同時糧食和休閑食品兩個類別還可以繼續(xù)進行細分，如休閑食品還可以細分為飲料、小食、蜜餞等，此時也會對大數(shù)據(jù)平臺進行進一步細分，同時對于零售情況進行客觀評價，建立各個子分類銷售情況的統(tǒng)計體系，以月為單位對于該體系中的相關性內(nèi)容進行考量，以此來調(diào)整企業(yè)下一階段的銷售策略，確保企業(yè)經(jīng)濟的穩(wěn)定提升。

3.3 電力運輸領域

電能在現(xiàn)階段已經(jīng)成為了社會經(jīng)濟發(fā)展的重要動力來源，在對其進行大數(shù)據(jù)分析平臺建設時，主要包括以下應用系統(tǒng)：第一，數(shù)據(jù)融合系統(tǒng)，該系統(tǒng)中包含了多項數(shù)據(jù)信息，如服務用戶信息、電力設備基礎信息、用電情況等，將這些數(shù)據(jù)信息根據(jù)相互之間的關聯(lián)性，對其進行融合建模，方便后續(xù)分析工作的推進。第二，噪音數(shù)據(jù)處理系統(tǒng)，所謂噪音數(shù)據(jù)是指完整度不足、異常性數(shù)據(jù)，分析這些數(shù)據(jù)信息產(chǎn)生的主要原因，以此來提高系統(tǒng)運行的可靠性。

3.4 運輸領域

在城市人口數(shù)量不斷增加的背景下，城市交通擁堵的情況也在加劇，這也降低了居民出行的便捷性。大數(shù)據(jù)分析平臺在該領域進行使用時，第一，需要做好數(shù)據(jù)融合處理，對于城市居民分布情況、早晚高峰車流量、城市公交數(shù)據(jù)、城市線路分布等數(shù)據(jù)進行融合，組建城市融合系統(tǒng)，同時借助GPS為居民提供一些出行提示，減少交通擁堵的時間。第二，綜合分析系統(tǒng)，借助挖掘技術對于數(shù)據(jù)的潛在價值進行確定，隨后制定緩解交通壓力的措施，如修建地鐵線路、優(yōu)化公交行駛路線等，以此來提高城市運輸環(huán)境的通暢度。

3.5 銀行服務領域

在銀行服務領域進行大數(shù)據(jù)平臺建設時，主要包括以下應用內(nèi)容：（1）信息存儲系統(tǒng)，構建PB級存儲能力的存儲系統(tǒng)，對于用戶信息、信譽情況、存儲金額等內(nèi)容進行存儲，為后續(xù)數(shù)據(jù)處理奠定基礎。（2）數(shù)據(jù)處理系統(tǒng)，以客戶為基礎，將客戶購買的產(chǎn)品進行歸類，同時利用挖掘技術對數(shù)據(jù)潛在價值進行挖掘，為用戶定向服務的制定奠定基礎。（3）信息安全保護系統(tǒng)，對于這些數(shù)據(jù)信息進行保護，防止用戶隱私泄露情況的出現(xiàn)。（4）可視化展示系統(tǒng)，大數(shù)據(jù)信息最終需要展示到用戶面前，用戶可以通過客戶端獲取到想要的數(shù)據(jù)信息，提高銀行基礎服務質(zhì)量。

3.6 公共衛(wèi)生領域

在公共衛(wèi)生領域中，該技術的主要服務內(nèi)容便是進行流行疾病管理，借助大數(shù)據(jù)技術對于人口流動性、移動模式等內(nèi)容展開分析，同時結合病原學、人口統(tǒng)計學、地理、氣象和人群移動遷徙、地域之間等因素和信息，搭建流行病傳播模型，以此來明確流行病傳播路線和傳播規(guī)律性，及時制定可靠的防控措施，降低流行病所帶來的負面影響。

4 結語

開發(fā)和建設大數(shù)據(jù)分析與應用平臺將帶來三個方面的價值：第一，有助于不斷匯集大數(shù)據(jù)技術創(chuàng)新成果，并用最先進的技術為用戶提供一站式的應用服務;第二，有助于降低用戶技術門檻，為應用開發(fā)提供共性基礎設施與服務，從而加快應用創(chuàng)新;第三，有助于形成大數(shù)據(jù)技術產(chǎn)品和行業(yè)解決方案，促進我國大數(shù)據(jù)產(chǎn)業(yè)加快形成。

參考文獻：

[1]陳越，侯常敏.基于大數(shù)據(jù)分析的公立醫(yī)院運營信息化平臺建設及應用[J].中國衛(wèi)生經(jīng)濟，2020，39（03）：80-82.