『壹』 怎樣使用Java 開發大數據
未來10年將是大數據，人工智慧爆發的時代，到時將會有大量的企業需要藉助大數據，而Java最大的優勢就是它在大數據領域的地位，目前很多的大數據架構都是通過Java來完成的。
在這個Android、iOS相繼沒落，php相繼飽和的時候，只有Java大數據保持著旺盛的需求。那麼，Java大數據需要學習什麼技術呢？
首先我們要學習Java語言和Linux操作系統。很多人入門編程語言就是Java，你或許還不知道Java的方向有JavaSE、JavaEE、JavaME，學習Java大數據需要學習JavaSE、JavaEE。了解Java怎麼連接資料庫，掌握JDBC，學習Hibernate/Mybatis的原理，以及API，這樣可以增加你對Java操作資料庫的理解，因為這兩個技術的核心就是Java的反射加上JDBC的各種使用。
接下來就需要學習Linux操作系統，因為大數據相關軟體都是在Linux上運行的，學好Linux對你快速掌握大數據相關技術有很大的幫助，能讓你更好的理解hadoop、hive、hbase、spark等大數據軟體的運行環境和網路環境配置，能少踩很多坑，學會shell就能看懂腳本，這樣能更容易理解和配置大數據集群。還能讓你對以後新出的大數據技術學習起來更快。
最後當然是Hadoop的學習，這幾乎已經成為大數據的代名詞，Hadoop裡麵包括組件HDFS、MapRece和YARN，HDFS是存儲數據的地方，就像電腦的硬碟一樣，文件都存儲在這個上面，MapRece是對數據進行處理計算的，它有個特點就是不管多大的數據只要給它時間它就能把數據跑完，但是時間可能不是很快，所以它叫數據的批處理。YARN是體現Hadoop平台概念的重要組件，有了它大數據生態體系的其它軟體就能在hadoop上運行了，這樣就能更好的利用HDFS大存儲的優勢和節省更多的資源，比如我們就不用再單獨建一個spark的集群了，讓它直接跑在現有的hadoop yarn上面就可以了。
學了這些，可以勝任初級Java工程師了，當然還是有很有可以提高的地方，比如學習下python，可以用它來編寫網路爬蟲。這樣我們就可以自己造數據了，網路上的各種數據你高興都可以下載到你的集群上去處理。
『貳』 C語言代碼怎麼編譯成.o文件再怎麼變成.exe文件
簡單的說，由編譯器做一些工作，把c語言轉換成機器可以識別的機器語言(.exe)
一般把.c到.o稱之為編譯，.o到.exe稱之為連接
編譯+連接整個過程的統稱也叫編譯
具體的過程，你可以認為是翻譯，如果真的很感興趣，學一下編譯原理也可以。
我想我在這說一堆詞法分析 語法分析 語義分析什麼的 估計你也不會感興趣的
『叄』 這幾個大數據GitHub項目，太強了吧
大家好，我是 夢想家 Alex 。我們都知道 github 對於程序員們而言，就是一個巨大的「聚寶盆」，上面不僅有很多優質的開源項目，還有很多熱愛開源分享的開發者。但如何從浩如煙海的寶藏中，篩選出適合自己的優質項目呢？本期內容，我就為大家推薦幾個我認為還不錯的大數據學習必備的 牛 X 項目，希望大家看完有所收獲。
首推 heiying 的 BigData-Notes，該項目目前已經有高達 10.2K 的star，正如該倉庫的介紹上簡短幾個字：大數據入門指南。這個項目也是我認為目前 最適合初學者學習和參考的項目 。
為什麼說這個項目適合大數據初學者呢，可以通過觀察項目的介紹文檔，該項目包含了大數據學習必須要掌握的幾種組件，包括 Hadoop，Hive，Spark，Flink，Kafka，Zookeeper，Flume，Sqoop，Azkaban，以及 Scala 函數式編程語言的教程 ，可謂是非常的系統全面
我們再藉助谷歌插件 Octotree 觀察項目的結構，可以看到該項目主要分為 code，notes，pictures，resources 四個目錄
其中 code 目錄主要用來存放各個組件使用相關的代碼，正如統計的結果一樣，這個項目中 Java 代碼佔了 94.8%，Scala 佔了 5.2%，所以對於喜歡用 Java 編寫代碼的小夥伴們來說，這是一個不容錯過的寶藏學習機會。
notes 部分主要存放相關組件的介紹和使用文檔，其中 installation 子目錄主要存放了相關組件編譯，以及在Linux環境下各個組件的安裝，單機/集群環境搭建的教程，我看過了內容，介紹的非常清晰詳細。
另外兩個目錄 pictures 和 resources 就不做過多介紹了，一個是存放相關的圖片教程，另一個是存放編寫的代碼中所需要用到的文本文件。
這個項目同樣給力，是由 BAT 高級大數據架構師 王知無 創建的，該項目目前也已經斬獲高達 5.2k star，是為數不多， 集基礎學習和進階實戰 於一體的優質項目。
該項目按照大數據不同階段的學習，所列舉不同的文章干貨
大數據開發基礎篇
大數據框架學習篇
大數據開發實戰進階篇
大數據開發面試篇
從不同的分類足以見 王老師 的用心。同時，王知無前輩也是 51CTO 上的認證講師，來看看官方的介紹 。
相信很多同學在學習大數據的過程中，不清楚 Java 需要學習哪些內容，掌握到什麼程度，這個時候完全可以借鑒王老師的這個倉庫內容。
同時，學習這個倉庫的內容，可以學習到作者作為架構師本身對於 JVM，分布式理論和基礎，大數據框架基石之網路通信Netty，以及各個框架的源碼學習，可謂「 真.寶藏倉庫 」
除了基礎的理論學習以外，還有大量實戰性的內容可以借鑒參考
以及大量的面試題，還有自己從零到大數據專家一路走來的心路歷程，學習路徑指南，和自己對於技術學習的一些深入思考，相信大家拜讀過後一定能收獲滿滿，
這個項目比較特殊，是一個國外開發者開源的項目，英文翻譯過來的意思是「很棒的大數據」，實際上呢~他列舉的是很多很棒的大數據框架、資源和其他很棒的精選列表。靈感來自 awesome-php 、 awesome-python 、 awesome-ruby 、 hadoopecosystemtable 和 big-data 。目前也已經斬獲 10.2K 的 star，非常強勢。
為了方便閱讀，我將其全部翻譯成中文進行展示。
我們跳轉到 分布式編程，可以看到很多我們熟悉的技術，例如 Flink，Spark，Pig，MapRece 等等 ....
亦或者「分布式文件系統」，我們所熟知的 HDFS，Ku，GFS ...
點擊對應的鏈接，可以跳轉到對應的官方介紹頁，方便我們減少搜索成本，快速了解不同領域大數據常用的技術組件，為我們之後做技術調研省了很多的時間。
讓我厚顏無恥的夾帶一下「私貨」。這是我在今年年初的時候，創建的一個倉庫，目前也已經有了快 200 的star 。從資歷和star的數量顯然不能跟前面幾個大佬相比，但卻是我第一次花費了大量精力，將一個項目像孩子一樣進行「培養」。
為了設計一個好看的圖標，還花了不少的精力。設置不同媒體平台的徽標設計，還參考了像 JavaGuide 這樣的頭部項目，也算是在親力親為的這個過程中，學到了不少東西。
可以放點內容給大家show一下
另外，我還開設了「福利」專欄，將自己學習過程中收集到的學習干貨毫無保留地分享給大家，方便大家獲取。
顯而易見，這個是專注於 flink 學習的開源項目，其中的內容包含Flink 入門、概念、原理、實戰、性能調優、源碼解析等等，目前已經斬獲了 10.5k 的 star，非常強勢。
其維護的開發人員也是非常用心負責，一路跟隨 flink 的版本，不停的在維護更新 。
同時，主要維護者 zisheng 還將 flink 的研究做到了極致，不僅有 flink 成體系的博客鏈接，還有對應的源碼系列。
還自己創建了專欄《從1到100深入學習Flink》，並將大家學習過程中有疑惑的地方解決過程統一記錄下來，方便有需要的同學查看。雖然是付費的星球專享，但我覺得是真的值！感興趣的話大家可以自行去了解。
『肆』 大數據的核心技術有哪些
大數據技術的體系龐大且復雜，基礎的技術包含數據的採集、數據預處理、分布式存儲、資料庫、數據倉庫、機器學習、並行計算、可視化等。
1、數據採集與預處理：
Flume NG實時日誌收集系統，支持在日誌系統中定製各類數據發送方，用於收集數據；
Zookeeper是一個分布式的，開放源碼的分布式應用程序協調服務，提供數據同步服務。
2、數據存儲：
Hadoop作為一個開源的框架，專為離線和大規模數據分析而設計，HDFS作為其核心的存儲引擎，已被廣泛用於數據存儲。
HBase，是一個分布式的、面向列的開源資料庫，可以認為是hdfs的封裝，本質是數據存儲、NoSQL資料庫。
3、數據清洗：MapRece作為Hadoop的查詢引擎，用於大規模數據集的並行計算
4、數據查詢分析：
Hive的核心工作就是把SQL語句翻譯成MR程序，可以將結構化的數據映射為一張資料庫表，並提供 HQL(Hive SQL)查詢功能。
Spark 啟用了內存分布數據集，除了能夠提供互動式查詢外，它還可以優化迭代工作負載。
5、數據可視化：對接一些BI平台，將分析得到的數據進行可視化，用於指導決策服務。
『伍』 python大數據挖掘系列之基礎知識入門 知識整理（入門教程含源碼）
Python在大數據行業非常火爆近兩年，as a pythonic，所以也得涉足下大數據分析，下面就聊聊它們。
Python數據分析與挖掘技術概述
所謂數據分析，即對已知的數據進行分析，然後提取出一些有價值的信息，比如統計平均數，標准差等信息，數據分析的數據量可能不會太大，而數據挖掘，是指對大量的數據進行分析與挖倔，得到一些未知的，有價值的信息等，比如從網站的用戶和用戶行為中挖掘出用戶的潛在需求信息，從而對網站進行改善等。
數據分析與數據挖掘密不可分，數據挖掘是對數據分析的提升。數據挖掘技術可以幫助我們更好的發現事物之間的規律。所以我們可以利用數據挖掘技術可以幫助我們更好的發現事物之間的規律。比如發掘用戶潛在需求，實現信息的個性化推送，發現疾病與病狀甚至病與葯物之間的規律等。
預先善其事必先利其器
我們首先聊聊數據分析的模塊有哪些：
下面就說說這些模塊的基礎使用。
numpy模塊安裝與使用
安裝：
下載地址是：http://www.lfd.uci.e/~gohlke/pythonlibs/
我這里下載的包是1.11.3版本，地址是：http://www.lfd.uci.e/~gohlke/pythonlibs/f9r7rmd8/numpy-1.11.3+mkl-cp35-cp35m-win_amd64.whl
下載好後，使用pip install "numpy-1.11.3+mkl-cp35-cp35m-win_amd64.whl"
安裝的numpy版本一定要是帶mkl版本的，這樣能夠更好支持numpy
numpy簡單使用
生成隨機數
主要使用numpy下的random方法。
pandas
使用 pip install pandas 即可
直接上代碼：
下面看看pandas輸出的結果， 這一行的數字第幾列，第一列的數字是行數，定位一個通過第一行，第幾列來定位：
常用方法如下：
下面看看pandas對數據的統計，下面就說說每一行的信息
轉置功能：把行數轉換為列數，把列數轉換為行數，如下所示：
通過pandas導入數據
pandas支持多種輸入格式，我這里就簡單羅列日常生活最常用的幾種，對於更多的輸入方式可以查看源碼後者官網。
CSV文件
csv文件導入後顯示輸出的話，是按照csv文件默認的行輸出的，有多少列就輸出多少列，比如我有五列數據，那麼它就在prinit輸出結果的時候，就顯示五列
excel表格
依賴於xlrd模塊，請安裝它。
老樣子，原滋原味的輸出顯示excel本來的結果，只不過在每一行的開頭加上了一個行數
讀取SQL
依賴於PyMySQL，所以需要安裝它。pandas把sql作為輸入的時候，需要制定兩個參數，第一個是sql語句，第二個是sql連接實例。
讀取HTML
依賴於lxml模塊，請安裝它。
對於HTTPS的網頁，依賴於BeautifulSoup4，html5lib模塊。
讀取HTML只會讀取HTML里的表格，也就是只讀取
顯示的是時候是通過python的列表展示，同時添加了行與列的標識
讀取txt文件
輸出顯示的時候同時添加了行與列的標識
scipy
安裝方法是先下載whl格式文件，然後通過pip install 「包名」 安裝。whl包下載地址是：http://www.lfd.uci.e/~gohlke/pythonlibs/f9r7rmd8/scipy-0.18.1-cp35-cp35m-win_amd64.whl
matplotlib 數據可視化分析
我們安裝這個模塊直接使用pip install即可。不需要提前下載whl後通過 pip install安裝。
下面請看代碼：
下面說說修改圖的樣式
關於圖形類型，有下面幾種：
關於顏色，有下面幾種：
關於形狀，有下面幾種：
我們還可以對圖稍作修改，添加一些樣式，下面修改圓點圖為紅色的點，代碼如下：
我們還可以畫虛線圖，代碼如下所示：
還可以給圖添加上標題，x，y軸的標簽,代碼如下所示
直方圖
利用直方圖能夠很好的顯示每一段的數據。下面使用隨機數做一個直方圖。
Y軸為出現的次數，X軸為這個數的值（或者是范圍）
還可以指定直方圖類型通過histtype參數：
圖形區別語言無法描述很詳細，大家可以自信嘗試。
舉個例子：
子圖功能
什麼是子圖功能呢？子圖就是在一個大的畫板裡面能夠顯示多張小圖，每個一小圖為大畫板的子圖。
我們知道生成一個圖是使用plot功能，子圖就是subplog。代碼操作如下：
我們現在可以通過一堆數據來繪圖，根據圖能夠很容易的發現異常。下面我們就通過一個csv文件來實踐下，這個csv文件是某個網站的文章閱讀數與評論數。
先說說這個csv的文件結構，第一列是序號，第二列是每篇文章的URL，第三列每篇文章的閱讀數，第四列是每篇評論數。
我們的需求就是把評論數作為Y軸，閱讀數作為X軸，所以我們需要獲取第三列和第四列的數據。我們知道獲取數據的方法是通過pandas的values方法來獲取某一行的值，在對這一行的值做切片處理，獲取下標為3（閱讀數）和4（評論數）的值，但是，這里只是一行的值，我們需要是這個csv文件下的所有評論數和閱讀數，那怎麼辦？聰明的你會說，我自定義2個列表，我遍歷下這個csv文件，把閱讀數和評論數分別添加到對應的列表裡，這不就行了嘛。呵呵，其實有一個更快捷的方法，那麼就是使用T轉置方法，這樣再通過values方法，就能直接獲取這一評論數和閱讀數了，此時在交給你matplotlib里的pylab方法來作圖，那麼就OK了。了解思路後，那麼就寫吧。
下面看看代碼：
『陸』 大數據應用程序開發用研究源碼嗎
需要。
只有了解老帶了枯含備源碼這些才可以進行開發的，研究對開發很有幫沒毀助。
大數據(bigdata)，或稱巨量資料，指的是所涉及的資料量規模巨大到無法透過主流軟體工具，在合理時間內達到擷取、管理、處理、並整理成為幫助企業經營決策更積極目的的資訊。