楊雨鋒 四川信息職業技術學院 四川廣元 628017
?
基于大數據技術實現的農村普惠金融系統
楊雨鋒 四川信息職業技術學院 四川廣元 628017
【文章摘要】
近年來農業在我國經濟體系中重要性逐漸提高。而農業發展急需大量資金注入,銀行貸款是一種典型應用。本系統主要在業務分析上考慮如何進行大數據技術應用,數據服務模型,綜合分析農村普惠金融系統的業務流程和功能性分析。為新農村建設提供相關的技術支持。
【關鍵詞】
大數據;數據模型;Hadoop;功能分析
大數據(big data),或稱巨量資料,指的是所涉及的資料量規模巨大到無法通過目前主流軟件工具,在合理時間內達到擷去、管理、處理并整理成為幫助企業經營決策更積極目的的資訊。(在維克托·邁爾-舍恩伯格及肯尼斯·庫克耶編寫的《大數據時代》中大數據不用隨機分析法[抽樣調查]這樣的捷徑,而采用所有數據的方法)大數據的4V特點:Volume(大量)、Velocity(高速)、Variety(多樣)、Veracity(真實性)。
大數據是一個概念,也是一種技術,也是一種應用。
大數據技術是云計算技術、軟件技術、網絡技術、通信技術、物聯網技術、市場營銷技術、電子商務技術、數據庫技術的綜合應用,通過對互聯網上海量數據的跟蹤、分析,智能化的給人們提供決策依據,科學決策,從而提高成功率,創造價值。
數據庫(Database)是按照數據結構來組織、存儲和管理數據的倉庫。如何處理的SOA-數據關系的三個不同模型來管理大數據、云數據和數據層次結構。
SOA的三個數據中心模型分別是數據即服務(DaaS)模型、物理層次結構模型和架構組件模型。DaaS數據存取的模型描述了數據是如何提供給SOA組件的。物理模型描述了數據是如何存儲的以及存儲的層次圖是如何傳送到SOA數據存儲器上的。最后,架構模型描述了數據、數據管理服務和SOA組件之間的關系。
常用的數據庫為MySql、SQLerver、Oracle等,與開發工具、Windows、Android、Linux、IOS等操作系統結合,即可開發出農村普惠金融服務的管理軟件(平臺)。
數據庫效率問題可采用一個解決方案是現代分層存儲模式。數據庫不是磁盤,而是一組相互連接的高速緩存點,其存儲于本地內存中,也可能轉向固態硬盤,然后到本地磁盤,最后到云存儲。緩存算法處理這些緩存點之間的活動,從而來平衡存儲成本(同時也是平衡同步地更新成本)和性能。
對于大數據,它也是經常可以創建適用于大多數分析的匯總數據。
Hadoop旨在通過一個高度可擴展的分布式批量處理系統,對大型數據集進行掃描,以產生其結果。Hadoop項目包括三部分,分別是Hadoop Distributed File System(HDFS)、HadoopMapReduce編程模型,以及Hadoop Common。
Hadoop平臺對于操作非常大型的數據集而言可以說是一個強大的工具。為了抽象Hadoop編程模型的一些復雜性,已經出現了多個在Hadoop之上運行的應用開發語言。Pig、Hive和Jaql是其中的代表。
a.依權限等級提供讀寫修改功能。確保安全性。
b.提供多個客戶關系圖。直面形象的了解客戶之間關系。
c.提供各種類搜索引擎,可以快速搜索使用者需要的信息。
d.采用分布式云存儲,可以儲存更多的數據。
e.兼容并整合各種金融工具在數據庫中應用中。
f.顯示編輯功能,可調節字體,背景等選項。
g.導出數據功能,在合法權限下可從數據庫導出數據。
h.提供簡單的分析功能,可初步分析客戶情況,給出參考建議。
i.個人備注功能,依靠帳號可寫入僅該用戶可看到的備注。
j.關注功能,需要關注客戶可收藏在關注欄。
第1步:收集數據
要查找數據、收集數據以及根據數據作出決策,您需要實現一個分布式系統。因為設備基本上在不停地發送數據,您需要能夠以較小的延遲加載數據(收集或獲取數據)。這項工作在收集點完成,這里也是為實時決策而評估數據的位置。稍后我們再回到收集點。
來自收集點的數據流入 Hadoop 集群(在本例中,即大數據機)。可能還會將其他數據提供給此設備。例社交信源將來自分擇相關哈希標記的數據聚合者(通常是一家公司)。然后使用 Flume 或 Scribe 將數據加載到 Hadoop。
第2步:整理和移動數據
下一步是添加數據(社交信源、用戶個人信息和使結果與分析相關所需的任何其他數據)和開始整理、解釋和理解數據。
例如,將用戶個人信息添加到社交信源和添加位置數據以建立對各用戶以及用戶相關模式的全面了解。通常,這使用 Apache Hadoop MapReduce來完成。用戶個人信息通過 Hadoop InputFormat接口從 Oracle NoSQL 數據庫批量加載,因此被添加到MapReduce數據集。
為了將所有這些與 POS 數據、客戶關系管理(CRM)數據以及各種其他交易數據結合,您可能會使用 Oracle Big Data Connectors將精簡的數據高效地移動到 Oracle 數據庫。然后您可以使用 Oracle 商務智能云服務器(Exalytics)或業務智能(BI)工具或者(這是比較有趣的地方)通過數據挖掘之類的工具,對您所跟蹤的數據有一個全面的了解。
第3步:分析數據
最后一個階段(這里稱為“分析”)是創建數據挖掘模型和統計模型以便用于產生合適的優惠券。這些模型真正是皇冠上的明珠,因為它們讓您能夠基于非常精確的模型實時進行決策。模型進入收集點和決策點以作用于實時數據。該模型描述和預測客戶個人的行為并基于這些預測確定要采取的行動。
第4步:開發、測試、運行系統
針對農戶、銀行雙方的需求分析,按照軟件開發的流程,選擇合理的開發工具、數據庫、操作系統,組建團隊完成軟件開發,并且實現與現有郵儲銀行系統軟件的兼容、安全。
農村普惠金融系統是根據農業發展資金業務需要,結合銀行金融業務流程,開發采用主流技術形成的。在應用過程過大量采用大數據技術,及時高效準確解決現實問題,具有一定應用于推廣價值。
【參考文獻】
[1]陳志菲.大數據背景下提升高職研究水平的若干思考.邢臺職業技術學院學報.2015,32
[2]劉承良.網絡大數據的現狀與展望.中國管理信息化.2015,18(12)
[3]曾凌靜.大數據系統架構及技術發展研究.石家莊學院學報.2015,17(6)
【作者簡介】
楊雨鋒 男,畢業于成都信息工程學院,現在四川信息職業技術學院任教,研究方向:網絡工程,linux應用。