從技術上看，大數(shù)據(jù)根植于云計算，云計算的數(shù)據(jù)存儲、管理與分析方面的技術是大數(shù)據(jù)技術的基礎。利用云計算強大的計算能力，可以更加迅速地處理大數(shù)據(jù)，并更方便地提供服務；通過大數(shù)據(jù)的業(yè)務需求，可以為云計算的發(fā)展找到更多更好的實際應用。

　　云計算使大數(shù)據(jù)應用成為可能，但是沒有大數(shù)據(jù)的信息沉淀，云計算的功能將得不到完全發(fā)揮，所以從整體上看，大數(shù)據(jù)與云計算是相輔相成的。

　　云計算和大數(shù)據(jù)的側重點不同，因此也有較大的差別。大數(shù)據(jù)關注重心在于數(shù)據(jù)背后的信息沉淀與業(yè)務分析，因此其推動力量來源于擁有大數(shù)據(jù)的企業(yè)和軟件廠商；云計算關注重心在于計算能力，偏重于技術解決方案，因此其推動力量來自于計算資源和存儲資源的生產(chǎn)廠商。

　　云計算技術的發(fā)展早于大數(shù)據(jù)技術的發(fā)展，但是大數(shù)據(jù)的業(yè)務需求又為云計算技術的發(fā)展帶來新的機遇，一方面促進了云計算技術向更加貼近用戶需求的方向發(fā)展，另一方面帶來了更高處理速度、更大存儲容量的要求。

　　1.3 智能電網(wǎng)、云計算、大數(shù)據(jù)的相互關系

　　云計算能夠整合智能電網(wǎng)系統(tǒng)內(nèi)部計算處理和存儲資源，提高電網(wǎng)處理和交互能力，成為電網(wǎng)強有力的技術組成；大數(shù)據(jù)技術立足于業(yè)務服務需求，根植于云計算，以云計算技術為基礎；智能電網(wǎng)可以抽象的認為是大數(shù)據(jù)這個概念在電力中的應用，所以三者是彼此交互的關系。

　　智能電網(wǎng)、云計算、大數(shù)據(jù)三者之間的關系，從更加深層次來講，是電力系統(tǒng)發(fā)展到不同階段的產(chǎn)物，具有代紀傳承的特點。

　   智能電網(wǎng)是信息技術、計算機技術、人工智能技術等在傳統(tǒng)電網(wǎng)上應用沉淀的結果，滿足電網(wǎng)信息化、智能化、清潔化等高層次的運營和管理需求，既是對傳統(tǒng)電網(wǎng)的繼承，也是對傳統(tǒng)電網(wǎng)的發(fā)揚，所以其發(fā)展必然與新技術同步。

　　來自于計算機和信息技術領域最前沿的云計算技術和大數(shù)據(jù)技術，正是其發(fā)展階段技術層面和應用層面兩個具有劃時代意義的新技術。云計算技術中的分布式存儲技術和并行計算技術，滿足了電網(wǎng)海量數(shù)據(jù)的存儲和計算需求，因此云計算技術推出不久，電力云的概念就提出來，云計算技術在電力系統(tǒng)中的應用也逐漸呈現(xiàn)出百花齊放的態(tài)勢，推動了智能電網(wǎng)的發(fā)展。

　　大數(shù)據(jù)技術既是傳統(tǒng)數(shù)據(jù)分析與挖掘技術的延續(xù)，也是數(shù)據(jù)量級增長到一定階段時知識挖掘與業(yè)務應用需求的必然產(chǎn)物，因此大數(shù)據(jù)技術的大部分應用都以云計算的關鍵技術或者與云計算類似的分布式存儲和處理技術為基礎。電力大數(shù)據(jù)技術的發(fā)展從某種意義上講，可以看成是云計算技術在智能電網(wǎng)中，高級業(yè)務需求的實現(xiàn)過程。

　　2 電力大數(shù)據(jù)平臺的總體架構

　　Apache基金會開源技術通用的大數(shù)據(jù)平臺整體架構具有較好的通用性，適用于電力企業(yè)大數(shù)據(jù)的規(guī)劃，其主要思想是利用基于Hadoop文件系統(tǒng)(Hadoopdistributed file system，HDFS)的分布式文件處理系統(tǒng)作為大數(shù)據(jù)的存儲框架，利用基于MapReduce的分布式計算技術作為大數(shù)據(jù)的處理框架。

　　以分布式文件處理技術為基礎，使PB、ZB級的數(shù)據(jù)存儲成為可能；以分布式計算技術為基礎，使得PB、ZB級數(shù)據(jù)的查詢分析成為可能。另外該框架中還包含商業(yè)智能應用、傳統(tǒng)的數(shù)據(jù)倉庫、大數(shù)據(jù)訪問框架、大數(shù)據(jù)調(diào)度框架、網(wǎng)絡層、操作系統(tǒng)、服務器、備份和恢復、數(shù)據(jù)管理等模塊。

　　大數(shù)據(jù)存儲框架和大數(shù)據(jù)處理框架通常構建在通用的服務器、操作系統(tǒng)或者虛擬機上，使得該架構所需的硬件具有低成本和高擴展性的特點，標準的普通服務器或者PC機即可成為基于該架構的終端構成單元。

　　大數(shù)據(jù)存儲框架和大數(shù)據(jù)處理框架之上是通過網(wǎng)絡層連接的大數(shù)據(jù)訪問框架，該訪問框架包含并行計算機編程語言Pig、數(shù)據(jù)倉庫工具Hive、開源數(shù)據(jù)傳遞工具Sqoop 等子模塊。

　　大數(shù)據(jù)調(diào)度框架包含基于列存儲的開源非關系型數(shù)據(jù)庫Hbase、數(shù)據(jù)序列化格式與傳輸工具Avro、日志收集系統(tǒng)Flume、分布式鎖設施ZooKeeper等模塊。

　　大數(shù)據(jù)調(diào)度框架實現(xiàn)了對大數(shù)據(jù)的組織與調(diào)度，為數(shù)據(jù)分析提供了必要條件。在大數(shù)據(jù)調(diào)度框架之上是企業(yè)級商業(yè)智能應用系統(tǒng)，可以開展查詢、分析、統(tǒng)計、報表等高級應用。大數(shù)據(jù)的管理、安全和備份恢復框架幫助進行大數(shù)據(jù)的治理和保護。

　　該框架幾乎涵蓋了大數(shù)據(jù)技術的所有環(huán)節(jié)，值得指出的是，通過該訪問框架不僅可以實現(xiàn)對分布式文件存儲系統(tǒng)的訪問，而且通過大數(shù)據(jù)連接器和開源數(shù)據(jù)傳遞工具Sqoop可以實現(xiàn)對傳統(tǒng)數(shù)據(jù)倉庫的訪問。

　　大數(shù)據(jù)的處理流程可以定義為在合適工具的輔助下，對廣泛異構的數(shù)據(jù)源進行抽取和集成，按照統(tǒng)一的標準對結果進行存儲，利用恰當?shù)臄?shù)據(jù)分析技術對存儲的數(shù)據(jù)進行分析，達到從中提取出有價值的知識的目的，并用合適的方式將結果展現(xiàn)給終端用戶。

　　對電力企業(yè)來講，電力大數(shù)據(jù)的基本處理流程與傳統(tǒng)數(shù)據(jù)處理流程并無太大差異，主要區(qū)別在于：電力大數(shù)據(jù)需要處理大量、非結構的數(shù)據(jù)，所以在各個環(huán)節(jié)都可以采用MapReduce等方式進行并行處理。

　　電力系統(tǒng)是一種高維非線性的復雜系統(tǒng)，其內(nèi)部的數(shù)據(jù)流包含電力流、信息流、業(yè)務流、故障流、氣象流等不同的數(shù)據(jù)流向。

　　對這些電力系統(tǒng)的子信息源而言，一方面可以單獨應用大數(shù)據(jù)技術，提升其產(chǎn)業(yè)價值，例如電力設備在線監(jiān)測系統(tǒng)本身就是一個大數(shù)據(jù)系統(tǒng)，另一方面可以融合不同的子信息源，在更高的層面上構件大數(shù)據(jù)平臺，例如融合電能計量系統(tǒng)、SCADA系統(tǒng)、MIS系統(tǒng)、負荷控制系統(tǒng)，可以構建基于大數(shù)據(jù)平臺的網(wǎng)損分析系統(tǒng)，實現(xiàn)網(wǎng)損的自動統(tǒng)計與分析。

　　基于該網(wǎng)損分析大數(shù)據(jù)平臺，還可開展基于自動網(wǎng)損統(tǒng)計的用戶竊電行為挖掘，實現(xiàn)更深層次的應用。

　　3 電力大數(shù)據(jù)關鍵技術

　　3.1 電力大數(shù)據(jù)的集成管理技術

　　電力企業(yè)數(shù)據(jù)集成管理技術是合并來自2個或者多個應用系統(tǒng)的數(shù)據(jù)，創(chuàng)建一個具有更多功能的企業(yè)應用的過程。從集成的角度來說，就是把不同來源、格式、特點、性質(zhì)的數(shù)據(jù)在邏輯上或者存儲介質(zhì)上有機地集中，為系統(tǒng)存儲一系列面向主題的、集成的、相對穩(wěn)定的、反映歷史變化的數(shù)據(jù)集合，從而為系統(tǒng)提供全面的數(shù)據(jù)共享。電力企業(yè)集成管理技術就是為解決電力企業(yè)內(nèi)部各系統(tǒng)間的數(shù)據(jù)冗余和信息孤島而產(chǎn)生的。

　　電力大數(shù)據(jù)的數(shù)據(jù)集成管理技術，包含關系型和非關系型數(shù)據(jù)庫技術、數(shù)據(jù)融合和集成技術、數(shù)據(jù)抽取技術、過濾技術和數(shù)據(jù)清洗等。大數(shù)據(jù)的一個重要特點就是多樣性，這就意味著數(shù)據(jù)來源極其廣泛，數(shù)據(jù)類型極為繁雜，這種復雜的數(shù)據(jù)環(huán)境給大數(shù)據(jù)的處理帶來極大的挑戰(zhàn)，要想處理大數(shù)據(jù)，首先必須對數(shù)據(jù)源的數(shù)據(jù)進行抽取和集成，從中提取出實體和關系，經(jīng)過關聯(lián)和聚合之后采用統(tǒng)一的結構來存儲這些數(shù)據(jù)，在數(shù)據(jù)集成和提取時需要對數(shù)據(jù)進行清洗，保證數(shù)據(jù)質(zhì)量及可靠性。

　　大數(shù)據(jù)存儲管理中一個重要的技術是NoSQL數(shù)據(jù)庫技術，它采用分布式數(shù)據(jù)存儲方式，去掉了關系型數(shù)據(jù)庫的關系型特性，數(shù)據(jù)存儲被簡化且更加靈活，具有良好的可擴展性，解決了海量數(shù)據(jù)的存儲難題。有代表性的NoSQL 數(shù)據(jù)庫技術有Google的BigTable和Amazon的Dynamo等。

　　3.2 電力大數(shù)據(jù)的數(shù)據(jù)分析技術

　　大數(shù)據(jù)技術的根本驅動力是將信號轉化為數(shù)據(jù)，將數(shù)據(jù)分析為信息，將信息提煉為知識，以知識促成決策和行動。借助電力大數(shù)據(jù)的分析技術可以從電力系統(tǒng)的海量數(shù)據(jù)中找出潛在的模態(tài)與規(guī)律，為決策人員提供決策支持。

　　麥肯錫認為可用于大數(shù)據(jù)分析的關鍵技術源于統(tǒng)計學和計算機科學等學科，包含關聯(lián)分析、機器學習、數(shù)據(jù)挖掘、模式識別、神經(jīng)網(wǎng)絡、時間序列預測模型、遺傳算法等多種不同的方法。

　　大數(shù)據(jù)研究不同于傳統(tǒng)的邏輯推理研究，是對巨大數(shù)量的數(shù)據(jù)做統(tǒng)計性的搜索、分類、比較、聚類等的分析和歸納，因此繼承了統(tǒng)計科學的一些特點，如統(tǒng)計學關注的數(shù)據(jù)相關性或稱關聯(lián)性，所謂“相關性”是指2個或2個以上變量的取值之間存在某種規(guī)律性[7]。“相關分析”的目的是找出數(shù)據(jù)集里隱藏的關系網(wǎng)，一般用支持度、可信度、興趣度等參數(shù)反映相關性。

　　牛津大學網(wǎng)絡學院教授維克多在他的著作《大數(shù)據(jù)時代》中指出：在大數(shù)據(jù)時代，相關關系分析法將大放異彩，通過找到一個良好現(xiàn)象的關聯(lián)物，相關關系分析可以捕獲現(xiàn)在和預測未來。大數(shù)據(jù)相關關系分析法，建立在海量樣本的基礎上，不采用隨機分析法這樣的捷徑，而采用分析所有數(shù)據(jù)的方法；大數(shù)據(jù)的簡單算法比小數(shù)據(jù)的復雜算法更有效，其結果更快、更準確而且不易受到干擾，因此他指出建立在相關關系分析法基礎上的預測是大數(shù)據(jù)的核心。

　　大數(shù)據(jù)這種不注重因果關系側重于相關關系的分析方法，帶來了科學研究思維方式的重大轉變，已故圖靈獎得主吉姆&dot；格雷提出的數(shù)據(jù)密集型科研“第四范式”，將大數(shù)據(jù)科研從前3 種范式(理論科學、計算科學、實驗科學)中分離出來，單獨作為一種科研范式，正是因為其研究方式不同于基于數(shù)學模型的傳統(tǒng)研究方式。