大數(shù)據(jù)技術(shù)的體系龐大且復雜，基礎的技術(shù)包含數(shù)據(jù)的采集、數(shù)據(jù)預處理、分布式存儲、NoSQL數(shù)據(jù)庫、數(shù)據(jù)倉庫、機器學習、并行計算以及可視化等各種技術(shù)范疇和不同的技術(shù)層面。首先給出一個通用化的大數(shù)據(jù)處理框架，主要分為下面幾個方面：數(shù)據(jù)采集與預處理、數(shù)據(jù)存儲、數(shù)據(jù)清洗、數(shù)據(jù)查詢分析和數(shù)據(jù)可視化。

對于各種來源的數(shù)據(jù)，包括移動互聯(lián)網(wǎng)數(shù)據(jù)、社交網(wǎng)絡的數(shù)據(jù)等，這些結(jié)構(gòu)化和非結(jié)構(gòu)化的海量數(shù)據(jù)是零散的，也就是所謂的“數(shù)據(jù)孤島”，此時的這些數(shù)據(jù)并沒有什么意義。數(shù)據(jù)采集就是將這些數(shù)據(jù)寫入數(shù)據(jù)倉庫中，把零散的數(shù)據(jù)整合在一起，對這些數(shù)據(jù)綜合起來進行分析。數(shù)據(jù)采集包括文件日志的采集、數(shù)據(jù)庫日志的采集、關系型數(shù)據(jù)庫的接入和應用程序的接入等。在數(shù)據(jù)量比較小的時候，可以寫個定時的腳本將日志寫入存儲系統(tǒng)，但隨著數(shù)據(jù)量的增長，這些方法無法提供數(shù)據(jù)安全保障，并且運維困難，需要更強壯的解決方案。

Flume NG作為實時日志收集系統(tǒng)，支持在日志系統(tǒng)中定制各類數(shù)據(jù)發(fā)送方，用于收集數(shù)據(jù)，同時，對數(shù)據(jù)進行簡單處理，并寫到各種數(shù)據(jù)接收方（比如文本，HDFS，Hbase等）。Flume NG采用的是三層架構(gòu)：Agent層、Collector層和Store層，每一層均可水平拓展。其中Agent包含Source，Channel， Sink，Source用來消費（收集）數(shù)據(jù)源到Channel組件中，Channel作為中間臨時存儲，保存所有Source的組件信息，Sink從Channel中讀取數(shù)據(jù)，讀取成功之后會刪除Channel中的信息。

Netease Data Canal（NDC）直譯為網(wǎng)易數(shù)據(jù)運河系統(tǒng)，是網(wǎng)易針對結(jié)構(gòu)化數(shù)據(jù)庫的數(shù)據(jù)實時遷移、同步和訂閱的平臺化解決方案。它整合了網(wǎng)易過去在數(shù)據(jù)傳輸領域的各種工具和經(jīng)驗，將單機數(shù)據(jù)庫、分布式數(shù)據(jù)庫、OLAP系統(tǒng)以及下游應用通過數(shù)據(jù)鏈路串在一起。除了保障高效的數(shù)據(jù)傳輸外，NDC的設計遵循了單元化和平臺化的設計哲學。

Logstash是開源的服務器端數(shù)據(jù)處理管道，能夠同時從多個來源采集數(shù)據(jù)、轉(zhuǎn)換數(shù)據(jù)，然后將數(shù)據(jù)發(fā)送到您最喜歡的“存儲庫”中。一般常用的存儲庫是Elasticsearch。Logstash支持各種輸入選擇，可以在同一時間從眾多常用的數(shù)據(jù)來源中捕捉事件，能夠以連續(xù)的流式傳輸方式，輕松地從您的日志、指標、Web應用、數(shù)據(jù)存儲以及各種AWS服務采集數(shù)據(jù)。

Sqoop用來將關系型數(shù)據(jù)庫和Hadoop中的數(shù)據(jù)相互轉(zhuǎn)移，可以將一個關系型數(shù)據(jù)庫（例如Mysql、Oracle）中的數(shù)據(jù)導入到Hadoop（例如HDFS，Hive，Hbase）中，也可以將Hadoop中的數(shù)據(jù)導入到關系型數(shù)據(jù)庫（例如Mysql，Oracle）中。Sqoop啟用了一個MapReduce作業(yè)（極其容錯的分布式并行計算）來執(zhí)行任務。Sqoop的另一大優(yōu)勢是其傳輸大量結(jié)構(gòu)化或半結(jié)構(gòu)化數(shù)據(jù)的過程是完全自動化的。

流式計算是行業(yè)研究的一個熱點，流式計算對多個高吞吐量的數(shù)據(jù)源進行實時的清洗、聚合和分析，可以對存在于社交網(wǎng)站、新聞等的數(shù)據(jù)信息流進行快速的處理并反饋，目前大數(shù)據(jù)流分析工具有很多，比如開源的Strom，Spark Streaming等。

Strom集群結(jié)構(gòu)是有一個主節(jié)點（nimbus）和多個工作節(jié)點（supervisor）組成的主從結(jié)構(gòu)，主節(jié)點通過配置靜態(tài)指定或者在運行時動態(tài)選舉，nimbus與supervisor都是Storm提供的后臺守護進程，之間的通信是結(jié)合Zookeeper的狀態(tài)變更通知和監(jiān)控通知來處理。nimbus進程的主要職責是管理、協(xié)調(diào)和監(jiān)控集群上運行的topology（包括topology的發(fā)布、任務指派、事件處理時重新指派任務等）。supervisor進程等待nimbus分配任務后生成并監(jiān)控worker（jvm進程）執(zhí)行任務。supervisor與worker運行在不同的jvm上，如果由supervisor啟動的某個worker因為錯誤異常退出（或被kill掉），supervisor會嘗試重新生成新的worker進程。

當使用上游模塊的數(shù)據(jù)進行計算、統(tǒng)計、分析時，就可以使用消息系統(tǒng)，尤其是分布式消息系統(tǒng)。Kafka使用Scala進行編寫，是一種分布式的、基于發(fā)布/訂閱的消息系統(tǒng)。Kafka的設計理念之一就是同時提供離線處理和實時處理，以及將數(shù)據(jù)實時備份到另一個數(shù)據(jù)中心，Kafka可以有許多的生產(chǎn)者和消費者分享多個主題，將消息以topic為單位進行歸納；Kafka發(fā)布消息的程序稱為producer，也叫生產(chǎn)者，預訂topics并消費消息的程序稱為Consumer，也叫消費者；當Kafka以集群的方式運行時，可以由一個服務或者多個服務組成，每個服務叫做一個broker，運行過程中producer通過網(wǎng)絡將消息發(fā)送到Kafka集群，集群向消費者提供消息。Kafka通過Zookeeper管理集群配置，選舉leader，以及在ConsumerGroup發(fā)生變化時進行rebalance。Producer使用push模式將消息發(fā)布到broker，Consumer使用pull模式從broker訂閱并消費消息?？梢院虵lume一起工作，如果需要將流式數(shù)據(jù)從Kafka轉(zhuǎn)移到hadoop，可以使用Flume代理Agent，將Kafka當做一個來源Source，這樣可以從Kafka讀取數(shù)據(jù)到Hadoop。

Zookeeper是一個分布式的、開放源碼的分布式應用程序協(xié)調(diào)服務，提供數(shù)據(jù)同步服務。它的作用主要有配置管理、名字服務、分布式鎖和集群管理。配置管理指的是在一個地方修改了配置，那么和這個地方配置相同的所有地方都可以獲得變更，省去了手動拷貝配置的繁瑣，還很好地保證了數(shù)據(jù)的可靠和一致性，同時它可以通過名字來獲取資源或者服務的地址等信息，可以監(jiān)控集群中機器的變化，實現(xiàn)了類似于心跳機制的功能。

Hadoop作為一個開源的框架，專為離線和大規(guī)模數(shù)據(jù)分析而設計，HDFS作為其核心的存儲引擎，已被廣泛用于數(shù)據(jù)存儲。

HBase，是一個分布式的、面向列的開源數(shù)據(jù)庫，可以認為是hdfs的封裝，本質(zhì)是數(shù)據(jù)存儲、NoSQL數(shù)據(jù)庫。HBase是一種Key/Value系統(tǒng)，部署在hdfs上，克服了hdfs在隨機讀寫這個方面的缺點，與Hadoop一樣，Hbase目標主要依靠橫向擴展，通過不斷增加廉價的商用服務器，來增加計算和存儲能力。

Phoenix相當于一個Java中間件，幫助開發(fā)工程師能夠像使用JDBC訪問關系型數(shù)據(jù)庫一樣訪問NoSQL數(shù)據(jù)庫HBase。

Yarn是一種Hadoop資源管理器，可為上層應用提供統(tǒng)一的資源管理和調(diào)度，它的引入為集群在利用率、資源統(tǒng)一管理和數(shù)據(jù)共享等方面帶來了巨大好處。Yarn由幾大組件構(gòu)成：一個全局的資源管理器ResourceManager、ResourceManager的每個節(jié)點代理NodeManager、表示每個應用的Application以及每一個ApplicationMaster擁有多個Container在NodeManager上運行。

Mesos是一款開源的集群管理軟件，支持Hadoop，Elastic Search，Spark，Storm，Kafka等應用架構(gòu)。

Redis是一種速度非?？斓姆顷P系數(shù)據(jù)庫，可以存儲鍵與5種不同類型的值之間的映射，可以將存儲在內(nèi)存的鍵值對數(shù)據(jù)持久化到硬盤中，使用復制特性來擴展性能，還可以使用客戶端分片來擴展寫性能。

Atlas是一個位于應用程序與MySQL之間的中間件。在后端DB看來，Atlas相當于連接它的客戶端，在前端應用看來，Atlas相當于一個DB。Atlas作為服務端與應用程序通訊，它實現(xiàn)了MySQL的客戶端和服務端協(xié)議，同時作為客戶端與MySQL通信。它對應用程序屏蔽了DB的細節(jié)，同時為了降低MySQL負擔，它還維護了連接池。Atlas啟動后會創(chuàng)建多個線程，其中一個為主線程，其余為工作線程。主線程負責監(jiān)聽所有的客戶端連接請求，工作線程只監(jiān)聽主線程的命令請求。

Kudu是圍繞Hadoop生態(tài)圈建立的存儲引擎，Kudu擁有和Hadoop生態(tài)圈共同的設計理念，它運行在普通的服務器上，可分布式規(guī)?；渴?、并且滿足工業(yè)界的高可用要求。其設計理念為fast analytics on fast data。作為一個開源的存儲引擎，可以同時提供低延遲的隨機讀寫和高效的數(shù)據(jù)分析能力。Kudu不但提供了行級的插入、更新和刪除API，同時也提供了接近Parquet性能的批量掃描操作。使用同一份存儲，既可以進行隨機讀寫，也可以滿足數(shù)據(jù)分析的要求。Kudu的應用場景很廣泛，比如可以進行實時的數(shù)據(jù)分析，用于數(shù)據(jù)可能會存在變化的時序數(shù)據(jù)應用等。

在數(shù)據(jù)存儲過程中，涉及到的數(shù)據(jù)表都是成千上百列，包含各種復雜的Query，推薦使用列式存儲方法，比如Parquent，ORC等對數(shù)據(jù)進行壓縮。Parquet可以支持靈活的壓縮選項，顯著減少磁盤上的存儲。

MapReduce作為Hadoop的查詢引擎，用于大規(guī)模數(shù)據(jù)集的并行計算，映射（Map）和歸約（Reduce），是它的主要思想。它極大的方便了編程人員在不會分布式并行編程的情況下，將自己的程序運行在分布式系統(tǒng)中。

隨著業(yè)務數(shù)據(jù)量的增多，需要進行訓練和清洗的數(shù)據(jù)會變得越來越復雜，這個時候就需要任務調(diào)度系統(tǒng)，比如oozie或者azkaban，對關鍵任務進行調(diào)度和監(jiān)控。

Oozie是用于Hadoop平臺的一種工作流調(diào)度引擎，提供了RESTful API接口來接受用戶的提交請求（提交工作流作業(yè)），當提交了Workflow后，由工作流引擎負責Workflow的執(zhí)行以及狀態(tài)的轉(zhuǎn)換。用戶在HDFS上部署好作業(yè)（MR作業(yè)），然后向Oozie提交Workflow，Oozie以異步方式將作業(yè)（MR作業(yè)）提交給Hadoop。這也是為什么當調(diào)用Oozie的RESTful接口提交作業(yè)之后能立即返回一個JobId的原因，用戶程序不必等待作業(yè)執(zhí)行完成（因為有些大作業(yè)可能會執(zhí)行很久，幾個小時甚至幾天）。Oozie在后臺以異步方式，再將workflow對應的Action提交給hadoop執(zhí)行。

Azkaban也是一種工作流的控制引擎，可以用來解決有多個Hadoop或者Spark等離線計算任務之間的依賴關系問題。azkaban主要是由三部分構(gòu)成：Relational Database，Azkaban WebServer和Azkaban Executor Server。Azkaban將大多數(shù)的狀態(tài)信息都保存在MySQL中，Azkaban Web Server提供了Web UI，是Azkaban主要的管理者，包括project的管理、認證、調(diào)度以及對工作流執(zhí)行過程中的監(jiān)控等；Azkaban Executor Server用來調(diào)度工作流和任務，記錄工作流或者任務的日志。

流計算任務的處理平臺Sloth，是網(wǎng)易首個自研流計算平臺，旨在解決公司內(nèi)各產(chǎn)品日益增長的流計算需求。其特點是易用、實時和可靠，為用戶節(jié)省技術(shù)方面（開發(fā)、運維）的投入，幫助用戶專注于解決產(chǎn)品本身的流計算需求。

Hive的核心工作就是把SQL語句翻譯成MR程序，可以將結(jié)構(gòu)化的數(shù)據(jù)映射為一張數(shù)據(jù)庫表，并提供HQL（Hive SQL）查詢功能。Hive本身不存儲和計算數(shù)據(jù)，它完全依賴于HDFS和MapReduce?？梢詫ive理解為一個客戶端工具，將SQL操作轉(zhuǎn)換為相應的MapReduce jobs，然后在Hadoop上面運行。Hive支持標準的SQL語法，免去了用戶編寫MapReduce程序的過程，它的出現(xiàn)可以讓那些精通SQL技能，但是不熟悉MapReduce，編程能力較弱與不擅長Java語言的用戶能夠在HDFS大規(guī)模數(shù)據(jù)集上很方便地利用SQL語言查詢、匯總、分析數(shù)據(jù)。

Hive是為大數(shù)據(jù)批量處理而生的，Hive的出現(xiàn)解決了傳統(tǒng)的關系型數(shù)據(jù)庫（MySql，Oracle）在大數(shù)據(jù)處理上的瓶頸。Hive將執(zhí)行計劃分成map->shuffle->reduce->map->shuffle->reduce…的模型。如果一個Query會被編譯成多輪MapReduce，則會有更多的寫中間結(jié)果。由于MapReduce執(zhí)行框架本身的特點，過多的中間過程會增加整個Query的執(zhí)行時間。在Hive的運行過程中，用戶只需要創(chuàng)建表，導入數(shù)據(jù)，編寫SQL分析語句即可。剩下的過程由Hive框架自動的完成。

Impala是對Hive的一個補充，可以實現(xiàn)高效的SQL查詢。使用Impala來實現(xiàn)SQL on Hadoop，用來進行大數(shù)據(jù)實時查詢分析。通過熟悉的傳統(tǒng)關系型數(shù)據(jù)庫SQL風格來操作大數(shù)據(jù)，同時數(shù)據(jù)也是可以存儲到HDFS和HBase中的。Impala沒有再使用緩慢的Hive+MapReduce批處理，而是通過使用與商用并行關系數(shù)據(jù)庫中類似的分布式查詢引擎（由Query Planner，Query Coordinator，Query Exec Engine三部分組成），可以直接從HDFS或HBase中用SELECT，JOIN和統(tǒng)計函數(shù)查詢數(shù)據(jù)，從而大大降低了延遲。Impala將整個查詢分成一執(zhí)行計劃樹，而不是一連串的MapReduce任務，相比Hive沒了MapReduce啟動時間。

Hive適合于長時間的批處理查詢分析，而Impala適合于實時交互式SQL查詢，Impala給數(shù)據(jù)人員提供了快速實驗，驗證想法的大數(shù)據(jù)分析工具，可以先使用Hive進行數(shù)據(jù)轉(zhuǎn)換處理，之后使用Impala在Hive處理好后的數(shù)據(jù)集上進行快速的數(shù)據(jù)分析?？偟膩碚f：Impala把執(zhí)行計劃表現(xiàn)為一棵完整的執(zhí)行計劃樹，可以更自然地分發(fā)執(zhí)行計劃到各個Impalad執(zhí)行查詢，而不用像Hive那樣把它組合成管道型的map->reduce模式，以此保證Impala有更好的并發(fā)性和避免不必要的中間sort與shuffle。但是Impala不支持UDF，能處理的問題有一定的限制。

Spark擁有Hadoop MapReduce所具有的特點，它將Job中間輸出結(jié)果保存在內(nèi)存中，從而不需要讀取HDFS。Spark啟用了內(nèi)存分布數(shù)據(jù)集，除了能夠提供交互式查詢外，它還可以優(yōu)化迭代工作負載。Spark是在Scala語言中實現(xiàn)的，它將Scala用作其應用程序框架。與Hadoop不同，Spark和Scala能夠緊密集成，其中的Scala可以像操作本地集合對象一樣輕松地操作分布式數(shù)據(jù)集。

Nutch是開源Java實現(xiàn)的搜索引擎。它提供了我們運行自己的搜索引擎所需的全部工具，包括全文搜索和Web爬蟲。

Solr是用Java編寫，運行在Servlet容器（如ApacheTomcat或Jetty）的一個獨立的企業(yè)級搜索應用的全文搜索服務器。它對外提供類似于Web-service的API接口，用戶可以通過http請求，向搜索引擎服務器提交一定格式的XML文件，生成索引；也可以通過Http Get操作提出查找請求，并得到XML格式的返回結(jié)果。

Elasticsearch是一個開源的全文搜索引擎，基于Lucene的搜索服務器，可以快速的儲存、搜索和分析海量的數(shù)據(jù)。設計用于云計算中，能夠達到實時搜索、穩(wěn)定、可靠、快速以及安裝使用方便。

還涉及到一些機器學習語言，比如，Mahout主要目標是創(chuàng)建一些可伸縮的機器學習算法，供開發(fā)人員在Apache的許可下免費使用；深度學習框架Caffe以及使用數(shù)據(jù)流圖進行數(shù)值計算的開源軟件庫TensorFlow等，常用的機器學習算法，比如貝葉斯、邏輯回歸、決策樹、神經(jīng)網(wǎng)絡和協(xié)同過濾等。

對接一些BI平臺，將分析得到的數(shù)據(jù)進行可視化，用于指導決策服務。主流的BI平臺比如，國外的敏捷BI Tableau，Qlikview，PowrerBI等，國內(nèi)的SmallBI和新興的網(wǎng)易有數(shù)等。

在上面的每一個階段，對保障數(shù)據(jù)的安全都是不可忽視的問題。

基于網(wǎng)絡身份認證的協(xié)議Kerberos，用來在非安全網(wǎng)絡中，對個人通信以安全的手段進行身份認證，它允許某實體在非安全網(wǎng)絡環(huán)境下通信，向另一個實體以一種安全的方式證明自己的身份。

控制權(quán)限的ranger是一個Hadoop集群權(quán)限框架，提供操作、監(jiān)控、管理復雜的數(shù)據(jù)權(quán)限，它提供一個集中的管理機制，管理基于yarn的Hadoop生態(tài)圈的所有數(shù)據(jù)權(quán)限?？梢詫adoop生態(tài)的組件如Hive，Hbase進行細粒度的數(shù)據(jù)訪問控制。通過操作Ranger控制臺，管理員可以輕松的通過配置策略來控制用戶訪問HDFS文件夾、HDFS文件、數(shù)據(jù)庫、表和字段權(quán)限。這些策略可以為不同的用戶和組來設置，同時權(quán)限可與hadoop無縫對接。

簡單說大數(shù)據(jù)有三大核心技術(shù)：拿數(shù)據(jù)、算數(shù)據(jù)和賣數(shù)據(jù)。

首先做為大數(shù)據(jù)，拿不到大量數(shù)據(jù)都沒用?，F(xiàn)在由于機器學習的興起，以及“萬金油”算法的崛起，導致算法地位下降，數(shù)據(jù)地位提高了。舉個通俗的例子，就好比由于教育的發(fā)展，導致個人智力重要性降低，教育背景變得重要了，因為一般人按標準流程讀個書，就能比牛頓懂得多了。谷歌就說：拿厲害的數(shù)據(jù)喂給一個一般的算法，很多情況下好于拿簡單的數(shù)據(jù)喂給高級的算法。所以拿數(shù)據(jù)很重要，因為巧婦難為無米之炊??！這就是為什么好多公司要燒錢搶入口、搶用戶———就是為了爭奪數(shù)據(jù)源。

其次就是算數(shù)據(jù)，如果數(shù)據(jù)拿到直接就有價值地話，那也就不需要公司了，政府直接賺外快就好了。所以數(shù)據(jù)在那里擺著，能挖出什么就各憑本事了。算數(shù)據(jù)就需要計算平臺，數(shù)據(jù)怎么存（HDFS，S3，HBase，Cassandra），怎么算（Hadoop，Spark）就要靠程序員了。

再次就是賣得出去才能變現(xiàn)，比如《疑犯追蹤》里面的李四和大錘，見人所未見，預測未來并趨利避害才是智能的終極目標以及存在意義，這個得靠大家一塊兒琢磨。

其實個人覺得最后那個才是“核心技術(shù)”，什么Spark，Storm，Deep-Learning，都是第二梯隊的……當然，沒有強大的算力做支撐，智能也無從說起。