hadoop源碼學習

㈠ Hadoop 請教學習順序

雖然從事Hadoop方面工作，但是不是高手，畢竟只有一年經歷而已。
分享下本人的學習經歷吧。
了解Hadoop運行機制，可以學習Hadoop權威指南或者Hadoop實戰；
了解Hadoop運行流程，看懂HADOOP_HOME/bin/下面主要執行腳本。
查看core-default.xml/hdfs-default.xml/mapred-default.xml等默認配置
文件，及core-site.xml/hdfs-site.xml/mapred-site.xml等相關文件，學會
如何進行參數優化，以及掌握如何配置讀取壓縮文件，默認的gzip，及
自定義的lzo，學會自定義Combiner/Patitioner等，掌握各種輸入輸出
格式的區別及應用場景，學會自定義輸入輸出格式，其次學習MapRece演算法，
比如In-Map-Combing，相對頻度計算，Pairs演算法，Strips演算法等。掌握好
maprece編程。
在這其中，需要好好閱讀HADOOP_HOME/src/目錄下的Hadoop源碼，
這個就是開源最大的好處。說的比較亂，但是就湊合著借鑒下吧

㈡ hadoop hdfs 源碼怎麼看

在使用Hadoop的過程中，很容易通過FileSystem類的API來讀取HDFS中的文件內容，讀取內容的過程是怎樣的呢？今天來分析客戶端讀取HDFS文件的過程，下面的一個小程序完成的功能是讀取HDFS中某個目錄下的文件內容，然後輸出到控制台，代碼如下：

[java] view plain
public class LoadDataFromHDFS {
public static void main(String[] args) throws IOException {
new LoadDataFromHDFS().loadFromHdfs("hdfs://localhost:9000/user/wordcount/");
}

public void loadFromHdfs(String hdfsPath) throws IOException {
Configuration conf = new Configuration();

Path hdfs = new Path(hdfsPath);

FileSystem in = FileSystem.get(conf);
//in = FileSystem.get(URI.create(hdfsPath), conf);//這兩行都會創建一個DistributedFileSystem對象

FileStatus[] status = in.listStatus(hdfs);
for(int i = 0; i < status.length; i++) {
byte[] buff = new byte[1024];
FSDataInputStream inputStream = in.open(status[i].getPath());
while(inputStream.read(buff) > 0) {
System.out.print(new String(buff));
}
inputStream.close();
}
}
}

FileSystem in = FileSystem.get(conf)這行代碼創建一個DistributedFileSystem，如果直接傳入一個Configuration類型的參數，那麼默認會讀取屬性fs.default.name的值，根據這個屬性的值創建對應的FileSystem子類對象，如果沒有配置fs.default.name屬性的值，那麼默認創建一個org.apache.hadoop.fs.LocalFileSystem類型的對象。但是這里是要讀取HDFS中的文件，所以在core-site.xml文件中配置fs.default.name屬性的值為hdfs://localhost:9000，這樣FileSystem.get(conf)返回的才是一個DistributedFileSystem類的對象。 還有一種創建DistributedFileSystem這種指定文件系統類型對像的方法是使用FileSystem.get(Configuration conf)的一個重載方法FileSystem.get(URI uri, Configuration)，其實調用第一個方法時在FileSystem類中先讀取conf中的屬性fs.default.name的值，再調用的FileSystem.get(URI uri, Configuration)方法。

㈢ 大數據工程師需要學習哪些

大數據前景是很不錯的，像大數據這樣的專業還是一線城市比較好，師資力量跟得上、就業的薪資也是可觀的，學習大數據可以按照路線圖的順序，

學大數據關鍵是找到靠譜的大數據培訓機構，你可以深度了解機構的口碑情況，問問周圍知道這家機構的人，除了口碑再了解機構的以下幾方面：

1.師資力量雄厚

要想有1+1>2的實際效果，很關鍵的一點是師資隊伍，你接下來無論是找個工作還是工作中出任哪些的人物角色，都越來越愛你本身的技術專業大數據技術性，也許的技術專業大數據技術性則絕大多數來自你的技術專業大數據教師，一個好的大數據培訓機構必須具備雄厚的師資力量。

2. 就業保障完善

實現1+1>2效果的關鍵在於能夠為你提供良好的發展平台，即能夠為你提供良好的就業保障，讓學員能夠學到實在實在的知識，並向大數據學員提供一對一的就業指導，確保學員找到自己的心理工作。

3. 學費性價比高

一個好的大數據培訓機構肯定能給你帶來1+1>2的效果，如果你在一個由專業的大數據教師領導並由大數據培訓機構自己提供的平台上工作，你將獲得比以往更多的投資。

希望你早日學有所成。

㈣ 有哪些好的hadoop學習資料

1."Hadoop.Operations.pdf.zip"http://vdisk.weibo.com/s/vDOQs6xMAQH62
2."Hadoop權威指南(中文版)(帶書簽).pdf"Hadoop權威指南(中文版)(帶書簽).pdf
3."[Hadoop權威指南(第2版)].pdf"[Hadoop權威指南(第2版)].pdf
4."hadoop權威指南第3版2012.rar"hadoop權威指南第3版2012.rar

5.《Hadoop技術內幕：深入解析HadoopCommon和HDFS.pdf"《Hadoop技術內幕：深入解析Hadoop Common和HDFS.pdf
6."Hadoop技術內幕：深入解析MapRece架構設計與實現原理.pdf"Hadoop技術內幕：深入解析MapRece架構設計與實現原理.pdf

7."Hadoop實戰.pdf"Hadoop實戰.pdf
8."Hadoop實戰-陸嘉恆(高清完整版).pdf"Hadoop實戰-陸嘉恆(高清完整版).pdf
9."Hadoop實戰(第2版).pdf"Hadoop實戰(第2版).pdf
10."HadoopinAction.pdf"Hadoop in Action.pdf

11"Hadoop in practice.pdf"Hadoop in practice.pdf
12"HadoopThe.Definitive.Guide,3Ed.pdf"Hadoop The.Definitive.Guide,3Ed.pdf
13."O'Reilly.Hadoop.The.Definitive.Guide.3rd.Edition.May.2012.pdf"O'Reilly.Hadoop.The.Definitive.Guide.3rd.Edition.May.2012.pdf

14."hadoop入門實戰手冊.pdf"hadoop入門實戰手冊.pdf
15."Hadoop入門手冊.chm"Hadoop入門手冊.chm

16."windows下配置cygwin、hadoop等並運行maprece及maprece程序講解.doc"windows下配置cygwin、hadoop等並運行maprece及maprece程序講解.doc
17"在Windows上安裝Hadoop教程.pdf"在Windows上安裝Hadoop教程.pdf

18."Hadoop源代碼分析(完整版).pdf"Hadoop源代碼分析(完整版).pdf
19."hadoop-api.CHM"hadoop-api.CHM

20."HBase-Hadoop@小米.pptx" HBase-Hadoop@小米.pptx
21."但彬-Hadoop平台的大數據整合.pdf"但彬-Hadoop平台的大數據整合.pdf

22."QCon2013-羅李-Hadoop在阿里.pdf"QCon2013-羅李
23."網路hadoop計算技術發展.pdf"網路hadoop計算技術發展.pdf
24."QCon-吳威-基於Hadoop的海量數據平台.pdf"QCon-吳威-基於Hadoop的海量數據平台.pdf
25."8步安裝好你的hadoop.docx"8步安裝好你的hadoop.docx
26."hadoop運維經驗分享.ppsx"hadoop運維經驗分享.ppsx

27."PPT集萃：20位Hadoop專家分享大數據技術工具與最佳實踐.rar"PPT集萃：20位Hadoop專家分享大數據技術工具與最佳實踐.rar
28."Hadoop2.0基本架構和發展趨勢.pdf"Hadoop 2.0基本架構和發展趨勢.pdf
29."Hadoop與大數據技術大會PPT資料.rar"Hadoop與大數據技術大會PPT資料.rar
30."Hadoop2011雲計算大會.rar"Hadoop2011雲計算大會.rar

㈤ Hadoop常見問題解答

Hadoop常見問題解答
（1）Hadoop適不適用於電子政務？為什麼？
電子政務是利用互聯網技術實現政府組織結構和工作流程的重組優化，建成一個精簡、高效、廉潔、公平的政府運作信息服務平台。因此電子政務肯定會產生相關的大量數據以及相應的計算需求，而這兩種需求涉及的數據和計算達到一定規模時傳統的系統架構將不能滿足，就需要藉助海量數據處理平台，例如Hadoop技術，因此可以利用Hadoop技術來構建電子政務雲平台。

總結一下，任何系統沒有絕對的適合和不適合，只有當需求出現時才可以決定，在一個非常小的電子政務系統上如果沒有打數據處理以及計算分析需求時就不需要hadoop這樣的技術，而實際上，商用的電子政務平台往往涉及到大規模的數據和大量的計算分析處理需求，因此就需要Hadoop這樣的技術來解決。（2）hadoop對於實時在線處理有優勢嗎？
直接使用hadoop進行實時處理時沒有優勢的，因為Hadoop主要解決的是海量批處理作業計算問題，但是可以使用基於Hadoop的分布式NOSQL系統HBase系統以及相關實時處理系統：
1. 基於Hadoop的HBase可以做到實時處理以及相關需求的實時計算，主要解決海量<key,value>相關查詢計算等需求。
2. 可以考慮Spark計算，Spark是基於共現內存RDD的系統，比Hadoop更快，時候迭代式計算，例如數據挖掘，機器學習演算法等。
3. 還有Storm，Storm是一個免費開源、分布式、高容錯的實時計算系統，Storm經常用於在實時分析、在線機器學習、持續計算、分布式遠程調用和ETL等領域。
4. 考慮S4， S4是Yahoo!在2010年10月開源的一套通用、分布式、可擴展、部分容錯、具備可插拔功能的平台。這套平台主要是為了方便開發者開發處理流式數據（continuous unbounded streams of data）的應用。
你可以依據實際的需求來選擇合適的系統。
（3）Hadoop存儲海量數據沒有問題，但是如何能夠做到海量數據的實時檢索？
1,可以結合開源的搜索引擎Apache Lucene，Solr 或ElasticSearch
2,海量數據的實時檢索可以考慮HBase，建議可以使用hadoop將數據構建成以查詢key為鍵的數據集，然後將<key, value>集合寫入Hbase表中，Hbase會自動以key為鍵進行索引，在數十億甚至以上的級別下，查詢key的value響應時間也估計再10毫秒內。
如果檢索條件是多個組合的情況下，可以適當的設計多個hbase表格，這樣的檢索也是很快的，同時Hbase也是支持二級索引。在符合條件下查詢，Hbase也是支持MapRece的，如果對響應時間要求不高的情況下，可以考慮將hive和Hbase系統結合來使用。
如果數據量不是很大的情況下也可以考慮支持類似SQL的NOSLQ系統。
（4）能不能給點hadoop的學習方法以及學習規劃，hadoop系統有點龐大，感覺無從學起?
首先搞清楚什麼是hadoop以及hadoop可以用來做什麼？
然後，可以從最經典的詞頻統計程序開始，初步了解MapRece的基本思路和處理數據的方式。
接著，就可以正式學習hadoop的基本原理，包括HDFS和MapRece，先從整體，宏觀核心原理看，先別看源碼級別。
進一步，就可以深入HDFS和MapRece和模塊細節，這個時候可以結合源碼深入理解，以及實現機制。
最後就是需要實戰了，可以結合自己的項目或者相關需求來完成一些hadoop相關應用。
（5） 大的文件拆分成很多小的文件後，怎樣用Hadoop進行高效的處理這些小文件？以及怎樣讓各個節點盡可能的負載均衡？
1. 怎樣用Hadoop進行高效的處理這些小文件？
你這個問題提的很好，hadoop在處理大規模數據時是很高效的，但是處理大量的小文件時就會因為系統資源開銷過大而導致效率較低，針對這樣的問題，可以將小文件打包為大文件，例如使用SequcenFile文件格式，例如以文件簽名為key，文件內容本身為value寫成SequcenFile文件的一條記錄，這樣多個小文件就可以通過SequcenFile文件格式變為一個大文件，之前的每個小文件都會映射為SequcenFile文件的一條記錄。
2. 怎樣讓各個節點盡可能的負載均衡？
在hadoop集群中負載均衡是非常關鍵的，這種情況的導致往往是因為用戶的數據分布的並不均衡，而計算資源槽位數確實均衡分布在每個節點，這樣在作業運行時非本地任務會有大量的數據傳輸，從而導致集群負載不均衡，因此解決不均衡的要點就是將用戶的數據分布均衡，可以使用hadoop內置的balancer腳本命令。
對於因為資源調度導致的不均衡則需要考慮具體的調度演算法和作業分配機制。
(6)c/c++ 程序員如何入門Hadoop到深入了解，並在Linux伺服器上布置運用，有沒有方向性的指導?
針對C/C++用戶，Hadoop提供了hadoop streaming介面和pipes介面，hadoop streaming介面以標准輸入和標准輸出作為用戶程序和hadoop框架交互的中間件，pipes這是專門針對C/C++語言的介面，以socket作為同學中介。
從使用上建議從streaming入手，pipes相比streaming問題比較多，而且pipes調試不容易。
(7)現在企業中使用Hadoop版本主要是1.x還是2.x？
目前網路，騰訊，阿里為主的互聯網公司都是以hadoop 1.X為基準版本的，當然每個公司都會進行自定義的二次開發以滿足不同的集群需求。
2.X在網路內部還沒有正式使用，還是以1.X為主，不過網路針對1.X的問題開發了HCE系統（Hadoop C++ Expand系統）
補充，Hadoop2.x在其他公司應用的很多，比如京東
(8)以後想從事大數據方面工作，演算法要掌握到什麼程度，演算法佔主要部分嗎?
首先，如果要從事大數據相關領域的話，hadoop是作為工具來使用的，首先需要掌握使用方法。可以不用深入到hadoop源碼級別細節。
然後就是對演算法的理解，往往需要設計到數據挖掘演算法的分布式實現，而演算法本身你還是需要理解的，例如常用的k-means聚類等。
(9)現在spark，storm越來越火，谷歌也發布了Cloud Dataflow，是不是Hadoop以後主要應該學習hdfs和yarn，而且以後Hadoop程序員的主要做的就是把這些東西打包，只提供介面讓普通的程序員也能使用，就像Cloudera和Google一樣?
這位同學，你多慮了，hadoop和spark, strom是解決不同的問題，不存在哪個好那個壞，要學習Hadoop還是以主流的hadoop-1.X為版本，2.X最主要的就是多了yarn框架，很好理解的。
如果你是hadoop本身研發建議都看，如果你是hadoop應用相關研發，看主流的1.X就行，我的書《Hadoop核心技術》是以主流的1.X為版本講解的，有興趣可以看看。
(10)小白問一句，大數據處理都是伺服器上安裝相關軟體嗎，對程序有什麼影響呢，集群、大數據是屬於運維的工作內容還是攻城獅的呢?
傳統的程序只能運行在單機上，而大數據處理這往往使用分布式編程框架編寫，例如hadoop maprece，只能運行在hadoop集群平台上。
運維的責任：保證集群，機器的穩定性和可靠性
hadoop系統本身研發：提高Hadoop集群的性能，增加新功能。
大數據應用：把hadoop作為工具，去實現海量數據處理或者相關需求。
(11)學習hadoop該怎麼入手呢？應該做一些什麼樣的項目呢？
可以參考我上面的幾個回答，可以從最簡單詞頻統計程序入手，然後學習理解HDFS和MapRece的基本原理和核心機制，如果僅僅把Hadoop作為一個工具來使用的話這樣就可以了，最重要的就是實戰了，可以嘗試使用Hadoop處理一些數據，例如做日誌分析，數據統計，排序，倒排索引等典型應用。
(12)100個以上hadoop節點，一般怎麼開發，運維？任務很多的情況下任務資源怎麼分配，任務執行順序是定時腳本還是別的什麼方式控制?
1. 首先大數據的應用開發和hadoop集群的規模是沒有關系，你指的是集群的搭建和運維嗎，對於商用的hadoop系統來說涉及到很多東西，建議參考《hadoop核心技術》實戰篇 「第10章Hadoop集群搭建 」 章節。
2. 任務的分配是有hadoop的調度器的調度策略決定的，默認為FIFO調度，商業集群一般使用多隊列多用戶調度器，可以參考參考《hadoop核心技術》高級篇 「第9章Hadoop作業調度系統」 章節。
3. 任務的執行順序是有用戶控制的，你自然可以定時啟動，也可以手動啟動。
(13)基於Hadoop做開發，是否必須會使用Java，使用其他開發語言是否無法更好的融入整個Hadoop的開發體系?
基於Hadoop做開發可以使用任何語言，因為hadoop提高了streaming編程框架和pipes編程介面，streaming框架下用戶可以使用任何可以操作標准輸入輸出的計算機語言來開發hadoop應用。
(14)在rece階段老是卡在最後階段很長時間，在網上查的說是有可能是數據傾斜，我想問這個有啥解決方法嗎?
1,你這個就是數據傾斜啊 好多數據都集中在一個rece里 其他rece里分配的數據比較少 默認情況下決定哪些數據分配到哪個rece是由rece個數和partiiton分區決定的 默認是對key進行hash運算 一般情況下用mapreuce傾斜很少 除非你用的HIVE
2,rece分為3個子階段：shuffle、sort和rece，如果rece整個過程耗時較長，建議先看一下監控界面是卡在哪個階段，如果是卡在shuffle階段往往是網路阻塞問題，還有就是某rece數據量太大，也就是你所說的數據傾斜問題，這種問題往往因為某個key的value太多，解決方法是：第一，默認的partiiton可能不適合你的需求，你可以自定義partiiton；第二就是在map端截斷，盡量讓達到每個rece端的數據分布均勻。
(15)非大數據的項目能否用hadoop?
非大數據項目是否可以用Hadoop的關鍵問題在於是否有海量數據的存儲，計算，以及分析挖掘等需求，如果現有系統已經很好滿足當前需求那麼就沒有必要使用Hadoop，沒有必要使用並不意味這不能使用Hadoop，很多傳統系統能做的Hadoop也是可以做的，例如使用HDFS來代替LINUX NFS，使用MapRece來代替單伺服器的統計分析相關任務，使用Hbase代替Mysql等關系資料庫等，在數據量不大的情況下通常Hadoop集群肯定比傳統系統消耗更多的資源。
(16)hadoop maprece 和第三方資源管理調度系統如何集成？
Hadoop的調度器設計的一個原則就是可插拔式調度器框架，因此是很容易和第三方調度器集成的，例如公平調度器FairScheler和容量調度器CapacityScheler，並配置mapred-site.xml的maprece.jobtracker.taskscheler以及調度器本身的配置參數，例如公平調度器控制參數則需要編輯fair- scheler.xml進行配置，具體可以參考我的新書《Hadoop核心技術》實戰篇第十章節10.11的集群搭建實例中的10.10.9 配置第三方調度器，同時可以進一步深入學習第9章 Hadoop作業調度系統，在這一章中會詳細介紹各種第三方調度器以及使用配置方法。

㈥ Hadoop入門需要哪些知識

如果是掌握hadoop的使用，java基礎好就可以，看看hadoop權威指南。
想深入學習源碼的話，就需要些網路編程的知識了。

大講台國內首個it在線自適應學習平台。中國的knewton，世界的自適應學習，網路「大講台」。
具體步驟：
1.選擇一個Hadoop的版本，然後閱讀文檔了解Hadoop：What's Hadoop, Why Hadoop exists；
2.安裝Hadoop，三種方式都試下；
3.在Hadoop文檔裡面有Hadoop Command的資料，I.hdfs command，盡量試試這兩方面的命令；
4.Hadoop Files，看看Hadoop文件的概念，關注它的分布式特點，然後看Rece函數輸出文件；
5.自己寫WordCount與Advanced WordCount；
6.寫Sort程序；
7.使用RandomTextWriter；
8.模仿SequenceFileInputFormat、SequenceFileOutputFormat、寫自己的；
9.yahoo有一個Hadoop的教程，英文版的，裡面的內容很好；
10.《hadoop權威指南》當參考書，自己就可以實戰了！

㈦ 如何通過eclipse查看，閱讀hadoop2.4源碼

1.導入查看hadoop源碼

(1)選擇Existing Projects into Workspace

(2)選擇源碼路徑

(3)查看源碼

這樣我們就完成了全部的內容。

2.閱讀hadoop源碼

其中比較常用的：

Open Call Hierarchy：

用Open Call
Hierarchy可以查看方法的調用層次。如果想知道一個方法在別的什麼地方被調用了，這個功能就很好用了，實際中也很常用，比如要重構一個方法時，想
知道他對其它什麼地方可能有影響，就可以用這個功能。在方法名上點擊右鍵，選擇Open Type
Hierarchy即可，快捷鍵是Ctrl+Alt+H。可以在Call Hierarchy窗口看到方法的調用層次的導航。

Open Type Hierarchy：

用Open Type Hierarchy可以查看類的繼承關系，可以在Hierarchy窗口看到繼承層次的導航。在方法或類名上點擊右鍵，選擇Open
Type Hierarchy即可，快捷鍵是F4。

介紹完畢，這里在介紹一些其他的跟蹤源碼的方法：

1、 用Open Declaration可以查看類、方法和變數的聲明。這是最常用的一個功能了，如果在要追蹤的對象上點右鍵，選擇Open
Declaration，可以跳轉到其聲明的地方。這個功能有個快捷鍵是F3，當然你也可以按住Ctrl鍵，滑鼠移過去會變成一個小手，單擊就可以了。

2、用Open Super
Implemention可以查看當前方法在父類中的實現或介面中的聲明(前提是該方法是對父類或介面中相應方法的重寫)，在方法名上點擊右鍵，選擇Open Super
Implemention即可。

3、 最後介紹一個超級好用的功能，叫Open
Implemention，就是可以跳轉到某個調用的方法的具體實現的地方去。為什麼說這個是超級好用呢?用過Spring的人都知道，現在都提倡面向接
口編程，所以，如果使用Open
Declaration來追蹤一個方法的調用的話，只會看到該方法在介面中的聲明，而看不該方法在具體類中的實現，當然，可以使用Call
Hierarchy先得到該方法的整個的調用層次，然後再導航到具體的實現處，但操作有些麻煩了。

有了Open Implemention，就可以直接看到實現的代碼了，在方法名上點擊右鍵，選擇Open
Implemention就可以了!只是要享受這個功能，可安裝一個Eclipse插件，這里就不在詳細介紹了。

㈧ 大數據開發工程師要學習哪些課程

1.大數據工程師工作中會做什麼？

集群運維：安裝、測試、運維各種大數據組件
數據開發：細分一點的話會有ETL工程師、數據倉庫工程師等
數據系統開發：偏重Web系統開發，比如報表系統、推薦系統等
這裡面有很多內容其實是十分重合的，下面大致聊一下每一塊內容大致需要學什麼，以及側重點。
2.集群運維
數據工程師，基本上是離不開集群搭建，比如hadoop、Spark、Kafka，不要指望有專門的運維幫你搞定，新組件的引入一般都要自己來動手的。
因此這就要求數據工程師了解各種大數據的組件。
由於要自己的安裝各種開源的組件，就要求數據工程師要具備的能力： Linux 。要對Linux比較熟悉，能各種自己折騰著玩。
由於現在的大數據生態系統基本上是 JVM系的，因此在語言上，就不要猶豫了，JVM系的Java和Scala基本上跑不掉，Java基本上要學的很深，Scala就看情況了。
3. ETL
ETL在大數據領域主要體現在各種數據流的處理。這一塊一方面體現在對一些組件的了解上，比如Sqoop、Flume、Kafka、Spark、MapRece;另一方面就是編程語言的需要，Java、Shell和Sql是基本功。
4.系統開發
我們大部分的價值最後都會由系統來體現，比如報表系統和推薦系統。因此就要求有一定的系統開發能力，最常用的就是 Java Web這一套了，當然Python也是挺方便的。
需要注意的是，一般數據開發跑不掉的就是各種提數據的需求，很多是臨時和定製的需求，這種情況下， Sql就跑不掉了，老老實實學一下Sql很必要。
如何入門？
前面提到了一些數據工程師會用到的技能樹，下面給一個入門的建議，完全個人意見。
1.了解行業情況
剛開始一定要了解清楚自己和行業的情況，很多人根本就分不清招聘信息中的大數據和數據挖掘的區別就說自己要轉行，其實是很不負責的。不要總是趕熱點，反正我就是經常被鄙視做什麼大數據開發太Low，做數據就要做數據挖掘，不然永遠都是水貨。
2.選擇學習途徑
如果真是清楚自己明確地想轉數據開發了，要考慮一下自己的時間和精力，能拿出來多少時間，而且在學習的時候最好有人能多指點下，不然太容易走彎路了。
在選擇具體的學習途徑時，要慎重一點，有幾個選擇：
自學
報班
找人指點
別的不說了，報班是可以考慮的，不要全指望報個輔導班就能帶你上天，但是可以靠他幫你梳理思路。如果有專業從事這一行的人多幫幫的話，是最好的。不一定是技術好，主要是可溝通性強。
3.學習路線
學習路線，下面是一個大致的建議：
第一階段
先具備一定的Linux和Java的基礎，不一定要特別深，先能玩起來，Linux的話能自己執行各種操作，Java能寫點小程序。這些事為搭建Hadoop環境做准備。
學習Hadoop，學會搭建單機版的Hadoop，然後是分布式的Hadoop，寫一些MR的程序。
接著學學Hadoop生態系統的其它大數據組件，比如Spark、Hive、Hbase，嘗試去搭建然後跑一些官網的Demo。
Linux、Java、各種組件都有一些基礎後，要有一些項目方面的實踐，這時候找一些成功案例，比如搜搜各種視頻教程中如何搞一個推薦系統，把自己學到的用起來。
第二階段
到這里是一個基本的階段了，大致對數據開發有一些了解了。接著要有一些有意思內容可以選學。
數據倉庫體系：如何搞數據分層，數據倉庫體系該如何建設，可以有一些大致的了解。
用戶畫像和特徵工程：這一部分越早了解越好。
一些系統的實現思路：比如調度系統、元數據系統、推薦系統這些系統如何實現。
第三階段
下面要有一些細分的領域需要深入進行，看工作和興趣來選擇一些來深入進行
分布式理論：比如Gossip、DHT、Paxo這些構成了各種分布式系統的底層協議和演算法，還是要學一下的。
數據挖掘演算法：演算法是要學的，但是不一定純理論，在分布式環境中實現演算法，本身就是一個大的挑戰。
各種系統的源碼學習：比如Hadoop、Spark、Kafka的源碼，想深入搞大數據，源碼跑不掉。

㈨ hadoop 源代碼 從哪裡可以找到啊怎麼下載，說詳細一點謝謝

你可以用SVN軟體在這里同步到最新的代碼：
http://svn.apache.org/repos/asf/hadoop
其實你同步你研究領域的分支就可以了，全同步實在太大了。
SVN軟體可以用Tortoise SVN，使用方法一下就可以了。
當然也可以到cloudera或Yahoo!的hadoop官網的download鏈接去下載。

㈩ 基於hadoop分布式雲盤的頁面怎麼設計的

在學習了hadoop2.2一個月以來，我重點是在學習hadoop2.2的HDFS。即是hadoop的分布式系統，看了很久的源代碼看的我真的想吐啊，感覺看源碼還是沒什麼勁，於是心血來潮看到可網路的網盤挺有意思（其實我一直都在用網路的網盤)對裡面的功能的實現很好奇，於是我就突發奇想，能不能用hadoop來做個呢？答案是肯定的。於是我就開始了，但是實際中，沒有人用hadoop來做網盤，因為hadoop不適合存放小文件。當然辦法總是有的，比如小文件可以存入HBase中。hadoop2.2.0這個版本與hadoop1的版本有不同，且在源碼上也有很大的差別。引入了Yarn這個資源管理框架，目前YARN可以管理的資料類型包括了CPU和內存，未來可能會加入對磁碟和網路等類型的支持。目前YARN可以支持的框架包括：MapRece（批處理框架）、Storm（流式處理框架，項目為Stormon YARN，主要由Hortonworks在推進。正式版本未出但可用，yahoo和淘寶等在內部已經大規模使用）、Spark（內存處理框架，項目為Spark on YARN，主要由Cloudera在推進。正式版本未出但可用，淘寶等在內部也已經大規模使用）。
正在YARN上開發且未來比較靠譜的框架有：Tez（DAG框架，繼承自MapRece，性能有巨大提升）、Hoya（將HBase運行在YARN上，主要由Hortonworks在推進）。
二、設計與實現

採用了Struts2+tomcat7+mysql+Ajax+hadoop2.2來部署架構整個系統。
2.1 架構

Struts2確實在網頁的開發階段比起單純的jsp和servlet又更上一層樓。本人也只是了解Struts2那麼一點。發現有項目驅動可能學習某個知識點更快，你們說呢？tomcat是眾所周知的，用作web伺服器。mysql在這里我只用作登錄驗證。Ajax則主要是負責在上傳的時候顯示進度條的作用。hadoop2.2主要提供HDFS分布式存儲。並且用到了其相關的Jar。

其實無論是網路的網盤，還是360網盤，還是華為網盤，其無非都是類似於像Hadoop這樣的做分布式存儲，前台展現給客戶。分布式存儲有的是用openstack。還有的像淘寶的TFS，華為的自己開發的雲端系統，華為OceanStor CloudStor CSS雲存儲等等吧。。
2.2 本系統實現的功能

（1）顯示用戶系統下所有文件列表
（2）實現上傳、下載、重命名、刪除文件功能
（3）實現客戶端音頻(多數格式的)音樂播放功能<暫不支持視頻播放>
（4）實現在線圖片預覽的功能
（5）實現在線文本文檔的瀏覽功能
三、Hadoop2.2分布式雲盤的界面

1、歡迎頁面

2、登錄頁面

3、系統主界面

4、文件上傳界面

5、圖片預覽

6、音樂播放

7、文本預覽

四、總結

作為研究生，本應該研究研究理論性的東西，說實話，理論這東西不讀個博士什麼的我個人覺得在短暫的這兩年多時間里，可能研究不出什麼玩意來。純屬個人意見，呵呵。這個系統還是有一些BUG的。以後有時間還的繼續修改。我還是對大數據很感興趣，但是如何操縱大數據呢？光靠Hadoop是遠遠不夠的，還可以結合數據挖掘，數據倉庫，演算法等去搗鼓搗鼓可能有效。這個系統算作本人的個人作品吧，麻雀雖小，但還是五臟俱全。主要是一段時間不寫點程序，有點不舒服的感覺。呵呵。另外我想說hadoop2源碼太多了，哎，慢慢看吧，不結合實戰練習的話，沒多大效果我覺得。現在還有很多課要上，恩多論文要看。在過兩個月，所有的課程終於結束了