云計算技術在計算機數(shù)據(jù)處理中的應用研究

廖宇翔

摘要：大數(shù)據(jù)及云計算信息技術的不斷發(fā)展，使得不同行業(yè)都開始借助于云服務器、后臺數(shù)據(jù)庫，進行網(wǎng)絡海量數(shù)據(jù)資源的虛擬化處理、分布式計算、并行計算處理，以實現(xiàn)對多源數(shù)據(jù)的高效搜集、統(tǒng)計處理與存儲。該文從云計算的Hadoop架構、SOA服務體系、數(shù)據(jù)挖掘、分布式計算和HDFS存儲等技術著手，探討將多種云計算技術，應用到海量數(shù)據(jù)信息處理中的實施策略，來為網(wǎng)絡大數(shù)據(jù)服務系統(tǒng)的正常運轉提供保障。

關鍵詞：云計算技術;計算機;數(shù)據(jù)處理;應用

中圖分類號：TP311? ? ? 文獻標識碼：A

文章編號：1009-3044（2021）28-0030-02

開放科學（資源服務）標識碼（OSID）：

移動互聯(lián)時代下的數(shù)據(jù)處理，面臨著數(shù)據(jù)信息的海量化、實時化、低質(zhì)化，如何對多種網(wǎng)絡數(shù)據(jù)資源進行快速篩選、及時處理與分類存儲，成為各企業(yè)網(wǎng)絡數(shù)據(jù)信息傳輸、業(yè)務處理的主要困境。因而引入大數(shù)據(jù)及云計算技術，依托云服務器、數(shù)據(jù)中心交換機、后臺數(shù)據(jù)庫等硬件設備，對廣域網(wǎng)或局域網(wǎng)內(nèi)的數(shù)據(jù)資源，進行采集、處理、分析與存儲，將數(shù)據(jù)處理結果發(fā)送至客戶終端設備進行顯示，實現(xiàn)對計算機數(shù)據(jù)的實時掌控與應用。

1 云計算技術的主要內(nèi)容及其與計算機數(shù)據(jù)處理的關聯(lián)性

1.1 大數(shù)據(jù)及云計算技術的內(nèi)容概述

“云計算”是美國國家標準與技術研究院提出的概念，其作為一種分布式計算技術，主要根據(jù)不同客戶的數(shù)據(jù)資源處理需求，通過網(wǎng)絡“云”將巨大的數(shù)據(jù)計算處理任務，分解為一個個小的數(shù)據(jù)計算任務，在多個后臺服務器上進行數(shù)據(jù)處理、分析的工作執(zhí)行。特別隨著虛擬化技術、并行計算技術的快速發(fā)展，網(wǎng)絡云計算平臺也開始將多種軟硬件虛擬化，包括網(wǎng)絡通信接口、服務器、存儲模塊等的虛擬化。之后利用虛擬化計算機，進行虛擬系統(tǒng)多個主節(jié)點、從節(jié)點的任務分配，來完成數(shù)據(jù)資源的配置、處理與存儲工作。

因而現(xiàn)階段云計算技術基礎架構，通常由SOA服務體系、物理資源層、資源虛擬化層、用戶與映像管理層等層級組成，具體如圖1所示。

1）SOA服務體系層。SOA服務架構主要為不同應用程序的功能服務，提供相應的網(wǎng)絡通信協(xié)議、服務接口，通常包含服務接口、服務注冊、服務查找、服務訪問、服務工作流等組件。根據(jù)網(wǎng)絡應用組件的粗粒度、調(diào)用需求，對多個分布式的服務模塊進行封裝，再通過相應面向對象的定義接口，提供客戶需要的Web服務。

2）映像管理層。映像管理層是對不同客戶權限請求、虛擬資源管理的層級，包含用戶管理、映像管理、資源管理等安全管理等內(nèi)置組件。其中用戶管理負責對用戶訪問權限、數(shù)據(jù)處理請求等進行管理，映像管理層則用于任務映像建立、映像排布與映像庫管理，控制后臺服務器端、客戶終端之間的映像周期。而虛擬資源管理，主要是對虛擬計算機負載狀況的監(jiān)測、統(tǒng)計，以保障數(shù)據(jù)資源處理過程中的虛擬機負載均衡。

3）資源虛擬化層。資源虛擬化層是在物理資源層的基礎上，依托網(wǎng)絡計算機、存儲器和數(shù)據(jù)庫等硬件，構建起存儲資源池、計算資源池、數(shù)據(jù)資源池等虛擬模塊，為后臺服務器中硬件資源的虛擬化提供支持。而硬件資源虛擬化層，在收到客戶端數(shù)據(jù)處理的任務請求后，會向其分配相對應的數(shù)據(jù)在云計算基礎架構中間的任務管理層，會在收到用戶相應的任務請求后，將與之匹配的虛擬資源。

1.2 云計算技術與計算機數(shù)據(jù)處理的關聯(lián)性

網(wǎng)絡大數(shù)據(jù)信息傳輸環(huán)境下，不同企業(yè)局域網(wǎng)內(nèi)的海量計算機數(shù)據(jù)處理，通常具有數(shù)據(jù)資源海量化、多元化與低質(zhì)化的特征，且各種數(shù)據(jù)之間存在著緊密的關聯(lián)性。因而如何對不同網(wǎng)絡平臺的計算機數(shù)據(jù)、業(yè)務服務等，進行更為實時高效的采集、分類、預處理、處理分析與存儲，成為計算機數(shù)據(jù)處理系統(tǒng)面臨的主要難題。

而云計算作為一種分布式計算、數(shù)據(jù)分類管理技術，其通?？梢越柚谠朴嬎愎芾砥脚_、Hadoop分布式架構、后臺服務器等軟硬件，在計算機任務請求訪問控制、數(shù)據(jù)資源共享，以及數(shù)據(jù)信息搜集、分析、處理與存儲過程中，負責多種虛擬化資源的配置、數(shù)據(jù)任務分配、信息處理工作。通常云計算數(shù)據(jù)信息處理平臺，包括平臺即服務、軟件即服務、基礎架構即服務等服務類型，其中基礎架構層為云計算平臺的最底層，包含大量的云服務器、存儲器、后臺數(shù)據(jù)庫等硬件。而Hadoop分布式數(shù)據(jù)處理架構，存在于平臺即服務層級，主要負責明細數(shù)據(jù)的匯總（Collect）、（Map）、歸約（Reduce），對某一類型某一數(shù)據(jù)進行規(guī)則映射、歸約服務，并動態(tài)分配虛擬主機主節(jié)點、從節(jié)點的處理任務。最后，軟件即服務層級，則為面向軟件開發(fā)的服務類型，通過不同主節(jié)點中虛擬化運算模塊的分配，對相關的計算機數(shù)據(jù)處理任務，做出按需匹配。來為客戶終端的Web遠程訪問、數(shù)據(jù)資源處理與控制管理的工作提供支持。

2 計算機數(shù)據(jù)處理中的云計算關鍵技術

2.1 數(shù)據(jù)挖掘技術

數(shù)據(jù)挖掘技術是從大量網(wǎng)絡數(shù)據(jù)資源中，快速找到自身需要的有效數(shù)據(jù)信息的技術，這一技術是對網(wǎng)絡原有數(shù)據(jù)資源的深度加工與開發(fā)。當下對于局域網(wǎng)中計算機數(shù)據(jù)信息處理，通常圍繞海量化、復雜程度高、關聯(lián)性差的數(shù)據(jù)資源，對其中存在的有價值、關聯(lián)性數(shù)據(jù)內(nèi)容進行挖掘，包括數(shù)據(jù)收集、數(shù)據(jù)預處理、數(shù)據(jù)清洗、數(shù)據(jù)變換、數(shù)據(jù)挖掘等執(zhí)行流程，通過數(shù)據(jù)挖掘技術強大的運算、篩選、整合能力，才能從龐大的數(shù)據(jù)庫中尋找到有用數(shù)據(jù)資源，將其提取至相應的數(shù)據(jù)倉庫庫來完成存儲管理。

這里數(shù)據(jù)挖掘的預處理技術，主要采取均值法、平滑法和預測法等方式，對網(wǎng)絡中錯誤率、冗余度、重復率高的數(shù)據(jù)信息，進行空值、噪聲等的主動過濾處理。如采用均值法的數(shù)據(jù)挖掘預處理技術，其計算公式為Ci =（i-1）∑（i-k）Cj |K，是對數(shù)據(jù)所有已知屬性的均值作出處理，然后按照既定規(guī)律進行數(shù)據(jù)排布，，整理出的數(shù)據(jù)處理結果最接近于真實情況。

2.2 分布式計算技術

分布式計算包括Agent技術、Web service技術和中間件技術等，主要將步驟復雜的數(shù)據(jù)處理問題，分解為若干個并行處理應用服務，在計算機虛擬化硬件資源中，完成多種數(shù)據(jù)資源處理任務的執(zhí)行工作。這一虛擬化系統(tǒng)的聯(lián)合信息處理過程中，通常存在多個節(jié)點，不同節(jié)點負責不同分布式任務分配、資源調(diào)度活動，可以將單個任務的數(shù)據(jù)處理分配給多個虛擬機，對于數(shù)據(jù)批量處理的效率較高，往往被用于多線程的數(shù)據(jù)信息處理執(zhí)行中。

2.3 HDFS存儲技術

HDFS云計算數(shù)據(jù)存儲文件系統(tǒng)，是以分布式形式對數(shù)據(jù)進行存儲，該系統(tǒng)囊括多種數(shù)據(jù)管理節(jié)點、存儲節(jié)點。其中HDFS框架的中心服務器為Namenode，在客戶端的數(shù)據(jù)文件訪問過程中，主要通過Namenode管理系統(tǒng)對數(shù)據(jù)信息做出訪問控制。而且HDFS云計算存儲系統(tǒng)底層，會自動分割已創(chuàng)建的目錄文件，生成便于存儲的Block數(shù)據(jù)文件，來完成對不同數(shù)據(jù)資源的處理與存儲。

3 云計算技術在計算機數(shù)據(jù)處理中的應用流程研究

3.1 數(shù)據(jù)采集

基于云計算技術的海量數(shù)據(jù)處理系統(tǒng)，通常包含數(shù)據(jù)采集、數(shù)據(jù)判比、數(shù)據(jù)讀取、數(shù)據(jù)分析、信息互通等模塊，具體組成架構如圖2所示。其中數(shù)據(jù)信息采集模塊，主要用于局域網(wǎng)內(nèi)海量的計算機數(shù)據(jù)信息、文檔信息采集。當前在不同企業(yè)數(shù)據(jù)資源采集方面，通常涉及財務數(shù)據(jù)、產(chǎn)品數(shù)據(jù)、經(jīng)營數(shù)據(jù)、商貿(mào)數(shù)據(jù)、銷售數(shù)據(jù)等，對于大量臨時文件信息、文檔信息或日志信息的采集，要保證信息來源的準確性。

3.2 數(shù)據(jù)處理

在完成數(shù)據(jù)信息采集后，對網(wǎng)絡計算機一周內(nèi)存在的數(shù)據(jù)資源進行處理，設置時間系數(shù)為Q、負荷系數(shù)為W、緩存系數(shù)為E。以企業(yè)財務數(shù)據(jù)信息的搜集與處理為例，當海量數(shù)據(jù)資源上傳至云服務平臺后，其在虛擬化資源池中的處理時長，分別設定為一、二、三的時間等級，依次對應時間系數(shù)Q的A1、A2和A3預設值。而虛擬化硬件設施在不同工作時長下，分別對應的負載系數(shù)W，依次為B1、B2和B3;云計算平臺的數(shù)據(jù)資源緩存量，也分為高量級、中量級和低量級，分別對應著緩存系數(shù)E的C1、C2和C3預設值。

之后根據(jù)不同等級，依次設置不同數(shù)據(jù)處理過程中，虛擬化資源池使用程度的權重，分配預設值q、w和e，且q﹤w﹤e。則利用云計算服務平臺的數(shù)據(jù)處理公式為：

R=Q·q+W·w+E·e

再將以上數(shù)據(jù)處理后的結果，傳輸至數(shù)據(jù)判比模塊。判定云計算數(shù)據(jù)處理的系數(shù)R，與預設值r之間比較情況。在滿足R≧r情況下，生成云計算任務處理的過度使用信號，否則生成正常使用信號，并將最終信號傳輸至數(shù)據(jù)分析模塊。

3.3 虛擬化資源任務調(diào)度

整個云計算任務調(diào)度的流程，需要將m個任務Task，調(diào)度到n個Resources進行任務執(zhí)行。由于云計算數(shù)據(jù)處理的動態(tài)異構性，在NP-hard目標函數(shù)下的虛擬化資源任務調(diào)度。只能得到約束條件內(nèi)的最優(yōu)解。設置任務執(zhí)行時間為TET（Task Execution Time），則第i個任務在第j個資源中的執(zhí)行時間為：ETC（i，j）=start time（j）+TET（i，j）。

所有數(shù)據(jù)處理任務在虛擬化資源集合Resources中的完成總時間為：T=Min{C1，C2，C3...Ci}。

3.4 數(shù)據(jù)分析

當控制器接收到數(shù)據(jù)分析模塊的傳輸信號后，控制器與指示燈之間形成通信，控制指示燈開始閃爍。從控制讀取模塊中，提取出一周內(nèi)數(shù)據(jù)信息處理，存在的云服務器、存儲器、后臺數(shù)據(jù)庫等硬件占用率，依次標定為Ti、Yi和Ui。最后，將不同硬件占用率的平均變化量值，與虛擬化資源分配的預設值t、y和u進行比較，得出數(shù)據(jù)處理過程中，非?？陀^準確的云計算平臺使用程度結果。

參考文獻：

[1] 陳棟棟.云計算技術在計算機數(shù)據(jù)處理中的應用與發(fā)展對策探究[J].現(xiàn)代信息科技，2019，3（18）：116-118.

[2] 楊洋.云計算技術在計算機數(shù)據(jù)處理中的應用[J].數(shù)字通信世界，2019（9）：206.

[3] 崔瑤.云計算技術在計算機數(shù)據(jù)處理中的應用——評《云計算：概念、技術與架構》[J].中國科技論文，2019，14（7）：822.

[4] 楊秋紅.云計算在計算機數(shù)據(jù)處理中的有效性研究[J].信息與電腦（理論版），2020，32（24）：156-157.

[5] 鄭洋.云計算技術在計算機網(wǎng)絡安全存儲中的應用[J].無線互聯(lián)科技，2019，16（10）：24-25.

【通聯(lián)編輯：張薇】