現(xiàn)今，大數(shù)據(jù)浪潮已經(jīng)席卷全球的各種組織，在全球激烈的經(jīng)濟(jì)競(jìng)爭(zhēng)中，大數(shù)據(jù)也為企業(yè)帶來(lái)了無(wú)限的商機(jī)。了解和預(yù)測(cè)客戶的喜好以及市場(chǎng)的增長(zhǎng)趨勢(shì)是非常重要的，而掌握核心信息則意味著將在競(jìng)爭(zhēng)中占據(jù)先機(jī)。

      企業(yè)應(yīng)當(dāng)抓住此契機(jī)，但這需要擁有對(duì)應(yīng)技術(shù)的人員支持，相關(guān)的從業(yè)人員更了解如何管理數(shù)據(jù)、建立分析系統(tǒng)并使得數(shù)據(jù)變得具有價(jià)值。EMC最近的一項(xiàng)調(diào)查也證實(shí)了這點(diǎn)。調(diào)查結(jié)果顯示83%的人認(rèn)為大數(shù)據(jù)浪潮所催生的新技術(shù)增加了數(shù)據(jù)科學(xué)家的需求，同時(shí)64%的人認(rèn)為將出現(xiàn)技術(shù)人員供不應(yīng)求的局面。

大數(shù)據(jù)使企業(yè)陷入困境 相關(guān)技術(shù)人才缺口巨大

        事實(shí)上，麥肯錫全球研究院的研究預(yù)測(cè)在未來(lái)6年，僅在美國(guó)本土就可能面臨缺乏14萬(wàn)至19萬(wàn)具備深入分析數(shù)據(jù)能力人才的情況，同時(shí)具備通過(guò)分析大數(shù)據(jù)并為企業(yè)做出有效決策的數(shù)據(jù)的管理人員和分析師也有150萬(wàn)人的缺口。

      Ventana研究公司的分析師David Menninger指出在其公司最近所作的一項(xiàng)調(diào)查顯示，在169位公司高管中有四分之三的人認(rèn)為技術(shù)人員缺乏是企業(yè)無(wú)從應(yīng)對(duì)大數(shù)據(jù)挑戰(zhàn)的重要因素。

    Hadoop除了核心設(shè)計(jì)思想MapReduce和HDFS（Hadoop Distributed File System）外，Hadoop還包括了從類SQL查詢語(yǔ)言HQL，到NoSQL HBase數(shù)據(jù)庫(kù)（NoSQL數(shù)據(jù)庫(kù)通常用來(lái)處理非結(jié)構(gòu)化的數(shù)據(jù)，包括音頻、視頻等。），以及機(jī)器學(xué)習(xí)庫(kù)Mahout等內(nèi)容。Cloudera、 Hortonworks和MapR都已在他們的分布式系統(tǒng)中加入了Hadoop項(xiàng)目。

    而MapReduce編程模式可以被認(rèn)作是云計(jì)算技術(shù)實(shí)現(xiàn)的靈魂。MapReduce是一種處理大型及超大型數(shù)據(jù)集并生成相關(guān)的的執(zhí)行的編程模型，其主要思想是從函數(shù)式編程語(yǔ)言借鑒而來(lái)，同時(shí)包括從矢量編程語(yǔ)言借來(lái)的特性。

    TechTarget的特約編輯Beth Stackpole就指出當(dāng)今管理傳統(tǒng)結(jié)構(gòu)化數(shù)據(jù)環(huán)境的團(tuán)隊(duì)確實(shí)相當(dāng)專業(yè)，但面對(duì)向Hadoop和MapReduce等開(kāi)源大數(shù)據(jù)技術(shù)時(shí)則顯得有些無(wú)從應(yīng)對(duì)。導(dǎo)致這其中的原因是應(yīng)對(duì)傳統(tǒng)關(guān)系數(shù)據(jù)庫(kù)的技能無(wú)法轉(zhuǎn)化為應(yīng)對(duì)大數(shù)據(jù)世界中海量非結(jié)構(gòu)化數(shù)據(jù)的技能。而NoSQL數(shù)據(jù)庫(kù)技術(shù)恰恰是根據(jù)新型平臺(tái)核心構(gòu)建的。

大數(shù)據(jù)時(shí)代的熱門(mén)職業(yè)

大數(shù)據(jù)處理系統(tǒng)管理員

    大數(shù)據(jù)處理系統(tǒng)管理員負(fù)責(zé)日常Hadoop集群正常運(yùn)行。例如直接或間接的管理硬件，當(dāng)需要添加硬件時(shí)需保證集群仍能夠穩(wěn)定運(yùn)行。同時(shí)還要負(fù)責(zé)系統(tǒng)監(jiān)控和配置，保證Hadoop與其他系統(tǒng)的有機(jī)結(jié)合。

大數(shù)據(jù)處理平臺(tái)開(kāi)發(fā)人員

    大數(shù)據(jù)處理平臺(tái)開(kāi)發(fā)人員負(fù)責(zé)構(gòu)建大數(shù)據(jù)處理平臺(tái)以及用來(lái)分析數(shù)據(jù)的應(yīng)用。由于其在開(kāi)發(fā)領(lǐng)域已具備相關(guān)的經(jīng)驗(yàn)，所以比較熟悉相關(guān)的工具或算法。這在編寫(xiě)、優(yōu)化以及部署各種復(fù)雜的MapReduce的工作時(shí)會(huì)有所幫助。運(yùn)用大數(shù)據(jù)相關(guān)技術(shù)的從業(yè)人員的作用類似傳統(tǒng)數(shù)據(jù)庫(kù)世界中DBA的定位。

數(shù)據(jù)分析和數(shù)據(jù)科學(xué)家

    數(shù)據(jù)分析和數(shù)據(jù)科學(xué)家基本屬于同一類別的工作，這些具備專業(yè)領(lǐng)域知識(shí)的人士研究相應(yīng)的算法分析對(duì)應(yīng)的問(wèn)題，而數(shù)據(jù)挖掘也是其應(yīng)掌握的重要技術(shù)。幫助創(chuàng)建推動(dòng)業(yè)務(wù)發(fā)展的相應(yīng)的大數(shù)據(jù)產(chǎn)品和大數(shù)據(jù)解決方案。

數(shù)據(jù)管家

    企業(yè)要提高數(shù)據(jù)質(zhì)量必須考慮任命數(shù)據(jù)管家。數(shù)據(jù)管家需利用Hadoop匯集企業(yè)周圍的大量數(shù)據(jù)，并將數(shù)據(jù)通過(guò)ETL的過(guò)程被清洗和規(guī)范化，進(jìn)入到數(shù)據(jù)倉(cāng)庫(kù)中，成為一個(gè)可用的版本。然后，通過(guò)報(bào)表和分析技術(shù)，數(shù)據(jù)被切片、切塊，并交付給成千上萬(wàn)的人。擔(dān)當(dāng)數(shù)據(jù)管家保證市場(chǎng)數(shù)據(jù)的完整性，準(zhǔn)確性，唯一性，真實(shí)性和不冗余。

  雖然現(xiàn)今面臨技術(shù)人員匱乏的狀況，但也并非絕望。Cloudera公司的 Omer Trajman就指出Hadoop做為大數(shù)據(jù)技術(shù)的解決方案并不像學(xué)習(xí)如何制造火箭那樣困難。幾年前，了解Hadoop的人還寥寥無(wú)幾，但現(xiàn)在越來(lái)越多的人開(kāi)始學(xué)習(xí)Hadoop。企業(yè)應(yīng)當(dāng)鼓勵(lì)并培養(yǎng)技術(shù)人員學(xué)習(xí)Hadoop技術(shù)。