1. 簡述第一文《為什麼選擇爬蟲，選擇python》
1 為什麼選擇爬蟲？要想論述這個問題，需要從網路爬蟲是什麼？學習爬蟲的原因是什麼？怎樣學習爬蟲來理清自己學習的目的，這樣才能更好地去研究爬蟲技術並堅持下來。
1.1 什麼是爬蟲：爬蟲通常指的是網路爬蟲，就是一種按照一定的規則，自動地抓取萬維網信息的程序或者腳本。一般是根據定義的行為自動進行抓取，更智能的爬蟲會自動分析目標網站結構。它還有一些不常使用的名字。如：網路蜘蛛（Web spider）、螞蟻（ant）、自動檢索工具（automatic indexer）、網路疾走（WEB scutter）、網路機器人等。
1.2 學習爬蟲的原因：
1.2.1學習爬蟲是一件很有趣的事。我曾利用爬蟲抓過許多感興趣東西，興趣是最好的老師，感興趣的東西學的快、記的牢，學後有成就感。
@學習爬蟲，可以私人訂制一個搜索引擎，並且可以對搜索引擎的數據採集工作原理進行更深層次地理解。有的朋友希望能夠深層次地了解搜索引擎的爬蟲工作原理，或者希望自己能夠開發出一款私人搜索引擎，那麼此時，學習爬蟲是非常有必要的。簡單來說，我們學會了爬蟲編寫之後，就可以利用爬蟲自動地採集互聯網中的信息，採集回來後進行相應的存儲或處理，在需要檢索某些信息的時候，只需在採集回來的信息中進行檢索，即實現了私人的搜索引擎。當然，信息怎麼爬取、怎麼存儲、怎麼進行分詞、怎麼進行相關性計算等，都是需要我們進行設計的，爬蟲技術主要解決信息爬取的問題。
@學習爬蟲可以獲取更多的數據源。這些數據源可以按我們的目的進行採集，去掉很多無關數據。在進行大數據分析或者進行數據挖掘的時候，數據源可以從某些提供數據統計的網站獲得，也可以從某些文獻或內部資料中獲得，但是這些獲得數據的方式，有時很難滿足我們對數據的需求，而手動從互聯網中去尋找這些數據，則耗費的精力過大。此時就可以利用爬蟲技術，自動地從互聯網中獲取我們感興趣的數據內容，並將這些數據內容爬取回來，作為我們的數據源，從而進行更深層次的數據分析，並獲得更多有價值的信息。
@對於很多SEO從業者來說，學習爬蟲，可以更深層次地理解搜索引擎爬蟲的工作原理，從而可以更好地進行搜索引擎優化。既然是搜索引擎優化，那麼就必須要對搜索引擎的工作原理非常清楚，同時也需要掌握搜索引擎爬蟲的工作原理，這樣在進行搜索引擎優化時，才能知己知彼，百戰不殆。
@學習爬蟲更有錢景。爬蟲工程師是當前緊缺人才，並且薪資待遇普遍較高，所以，深層次地掌握這門技術，對於就業來說，是非常有利的。有些朋友學習爬蟲可能為了就業或者跳槽。從這個角度來說，爬蟲工程師方向也是不錯的選擇之一，因為目前爬蟲工程師的需求越來越大，而能夠勝任這方面崗位的人員較少，所以屬於一個比較緊缺的職業方向，並且隨著大數據時代的來臨，爬蟲技術的應用將越來越廣泛，在未來會擁有很好的發展空間。
除了以上為大家總結的4種常見的學習爬蟲的原因外，可能你還有一些其他學習爬蟲的原因，總之，不管是什麼原因，理清自己學習的目的，就可以更好地去研究一門知識技術，並堅持下來。
1.3 怎樣學習爬蟲：
1.3.1 選擇一門編程語言。入門爬蟲的前提肯定是需要學習一門編程語言，推薦使用Python 。2018年5月Python已排名第一，列為最受歡迎的語言。很多人將 Python 和爬蟲綁在一起，相比 java , Php , Node 等靜態編程語言來說，Python 內部的爬蟲庫更加豐富，提供了更多訪問網頁的 API。寫一個爬蟲不需要幾十行，只需要 十幾行就能搞定。尤其是現在反爬蟲日漸嚴峻的情況下，如何偽裝自己的爬蟲尤為重要，例如 UA , Cookie , Ip 等等，Python 庫對其的封裝非常和諧，為此可以減少大部分代碼量。
1.3.2 學習爬蟲需要掌握的知識點。http相關知識,瀏覽器攔截、抓包；python的scrapy 、requests、BeautifulSoap等第三方庫的安裝、使用，編碼知識、bytes 和str類型轉換，抓取javascript 動態生成的內容，模擬post、get，header等，cookie處理、登錄，代理訪問，多線程訪問、asyncio 非同步，正則表達式、xpath,分布式爬蟲開發等。
1.3.3 學習爬蟲的基本方法。 理清楚爬蟲所需的知識體系，然後各個擊破；推薦先買一本有一定知名度的書便於系統的學習爬蟲的知識體系。剛開始學的時候，建議從基礎庫開始，有一定理解之後，才用框架爬取，因為框架也是用基礎搭建的，只不過集成了很多成熟的模塊，提高了抓取的效率，完善了功能。多實戰練習和總結實戰練習，多總結對方網站的搭建技術、網站的反爬機制，該類型網站的解析方法，破解對方網站的反爬技巧等。
2 為什麼選擇Python?
網路知道在這方面介紹的很多了，相比其它編程語言，我就簡答一下理由：
2.1 python是腳本語言。因為腳本語言與編譯語言的開發測試過程不同，可以極大的提高編程效率。作為程序員至少應該掌握一本通用腳本語言，而python是當前最流行的通用腳本語言。與python相似的有ruby、tcl、perl等少數幾種，而python被稱為腳本語言之王。
2.2 python擁有廣泛的社區。可以說，只要你想到的問題，只要你需要使用的第三方庫，基本上都是python的介面。
2.3 python開發效率高。同樣的任務，大約是java的10倍，c++的10-20倍。
2.4 python在科研上有大量的應用。大數據計算、模擬計算、科學計算都有很多的包。python幾乎在每個linux操作系統上都安裝有，大部分unix系統也都預設安裝，使用方便。
2.5 python有豐富和強大的獨立庫。它幾乎不依賴第三方軟體就可以完成大部分的系統運維和常見的任務開發；python幫助里還有許多例子代碼，幾乎拿過來略改一下就可以正式使用。
2. 精通Python網路爬蟲之網路爬蟲學習路線
欲精通Python網路爬蟲，必先了解網路爬蟲學習路線，本篇經驗主要解決這個問題。部分內容參考自書籍《精通Python網路爬蟲》。
作者：韋瑋
轉載請註明出處
隨著大數據時代的到來，人們對數據資源的需求越來越多，而爬蟲是一種很好的自動採集數據的手段。
那麼，如何才能精通Python網路爬蟲呢？學習Python網路爬蟲的路線應該如何進行呢？在此為大傢具體進行介紹。
1、選擇一款合適的編程語言
事實上，Python、PHP、JAVA等常見的語言都可以用於編寫網路爬蟲，你首先需要選擇一款合適的編程語言，這些編程語言各有優勢，可以根據習慣進行選擇。在此筆者推薦使用Python進行爬蟲項目的編寫，其優點是：簡潔、掌握難度低。
2、掌握Python的一些基礎爬蟲模塊
當然，在進行這一步之前，你應當先掌握Python的一些簡單語法基礎，然後才可以使用Python語言進行爬蟲項目的開發。
在掌握了Python的語法基礎之後，你需要重點掌握一個Python的關於爬蟲開發的基礎模塊。這些模塊有很多可以供你選擇，比如urllib、requests等等，只需要精通一個基礎模塊即可，不必要都精通，因為都是大同小異的，在此推薦的是掌握urllib，當然你可以根據你的習慣進行選擇。
3、深入掌握一款合適的表達式
學會了如何爬取網頁內容之後，你還需要學會進行信息的提取。事實上，信息的提取你可以通過表達式進行實現，同樣，有很多表達式可以供你選擇使用，常見的有正則表達式、XPath表達式、BeautifulSoup等，這些表達式你沒有必要都精通，同樣，精通1-2個，其他的掌握即可，在此建議精通掌握正則表達式以及XPath表達式，其他的了解掌握即可。正則表達式可以處理的數據的范圍比較大，簡言之，就是能力比較強，XPath只能處理XML格式的數據，有些形式的數據不能處理，但XPath處理數據會比較快。
4、深入掌握抓包分析技術
事實上，很多網站都會做一些反爬措施，即不想讓你爬到他的數據。最常見的反爬手段就是對數據進行隱藏處理，這個時候，你就無法直接爬取相關的數據了。作為爬蟲方，如果需要在這種情況下獲取數據，那麼你需要對相應的數據進行抓包分析，然後再根據分析結果進行處理。一般推薦掌握的抓包分析工具是Fiddler，當然你也可以用其他的抓包分析工具，沒有特別的要求。
5、精通一款爬蟲框架
事實上，當你學習到這一步的時候，你已經入門了。
這個時候，你可能需要深入掌握一款爬蟲框架，因為採用框架開發爬蟲項目，效率會更加高，並且項目也會更加完善。
同樣，你可以有很多爬蟲框架進行選擇，比如Scrapy、pySpider等等，一樣的，你沒必要每一種框架都精通，只需要精通一種框架即可，其他框架都是大同小異的，當你深入精通一款框架的時候，其他的框架了解一下事實上你便能輕松使用，在此推薦掌握Scrapy框架，當然你可以根據習慣進行選擇。
6、掌握常見的反爬策略與反爬處理策略
反爬，是相對於網站方來說的，對方不想給你爬他站點的數據，所以進行了一些限制，這就是反爬。
反爬處理，是相對於爬蟲方來說的，在對方進行了反爬策略之後，你還想爬相應的數據，就需要有相應的攻克手段，這個時候，就需要進行反爬處理。
事實上，反爬以及反爬處理都有一些基本的套路，萬變不離其宗，這些後面作者會具體提到，感興趣的可以關注。
常見的反爬策略主要有：
IP限制
UA限制
Cookie限制
資源隨機化存儲
動態載入技術
……
對應的反爬處理手段主要有：
IP代理池技術
用戶代理池技術
Cookie保存與處理
自動觸發技術
抓包分析技術+自動觸發技術
……
這些大家在此先有一個基本的思路印象即可，後面都會具體通過實戰案例去介紹。
7、掌握PhantomJS、Selenium等工具的使用
有一些站點，通過常規的爬蟲很難去進行爬取，這個時候，你需要藉助一些工具模塊進行，比如PhantomJS、Selenium等，所以，你還需要掌握PhantomJS、Selenium等工具的常規使用方法。
8、掌握分布式爬蟲技術與數據去重技術
如果你已經學習或者研究到到了這里，那麼恭喜你，相信現在你爬任何網站都已經不是問題了，反爬對你來說也只是一道形同虛設的牆而已了。
但是，如果要爬取的資源非常非常多，靠一個單機爬蟲去跑，仍然無法達到你的目的，因為太慢了。
所以，這個時候，你還應當掌握一種技術，就是分布式爬蟲技術，分布式爬蟲的架構手段有很多，你可以依據真實的伺服器集群進行，也可以依據虛擬化的多台伺服器進行，你可以採用urllib+redis分布式架構手段，也可以採用Scrapy+redis架構手段，都沒關系，關鍵是，你可以將爬蟲任務部署到多台伺服器中就OK。
至於數據去重技術，簡單來說，目的就是要去除重復數據，如果數據量小，直接採用資料庫的數據約束進行實現，如果數據量很大，建議採用布隆過濾器實現數據去重即可，布隆過濾器的實現在Python中也是不難的。
以上是如果你想精通Python網路爬蟲的學習研究路線，按照這些步驟學習下去，可以讓你的爬蟲技術得到非常大的提升。
至於有些朋友問到，使用Windows系統還是Linux系統，其實，沒關系的，一般建議學習的時候使用Windows系統進行就行，比較考慮到大部分朋友對該系統比較數據，但是在實際運行爬蟲任務的時候，把爬蟲部署到Linux系統中運行，這樣效率比較高。由於Python的可移植性非常好，所以你在不同的平台中運行一個爬蟲，代碼基本上不用進行什麼修改，只需要學會部署到Linux中即可。所以，這也是為什麼說使用Windows系統還是Linux系統進行學習都沒多大影響的原因之一。
本篇文章主要是為那些想學習Python網路爬蟲，但是又不知道從何學起，怎麼學下去的朋友而寫的。希望通過本篇文章，可以讓你對Python網路爬蟲的研究路線有一個清晰的了解，這樣，本篇文章的目的就達到了，加油！
本文章由作者韋瑋原創，轉載請註明出處。
3. java和Python哪個適合寫爬蟲
當然是Python，一般我們都口語化說Python爬蟲，爬蟲工程師都是用python語言。
Python獨特的優勢是寫爬蟲的關鍵。1)跨平台，對Linux和windows都有不錯的支持;2)科學計算、數值擬合：Numpy、Scipy;3)可視化：2d：Matplotlib, 3d: Mayavi2;4)復雜網路：Networkx、scrapy爬蟲;5)互動式終端、網站的快速開發。
用Python爬取信息的方法有三種：
1、正則表達式。實現步驟分為五步：1)在tomcat伺服器端部署一個html網頁;2)使用URL與網頁建立聯系;3)獲取輸入流，用於讀取網頁中的內容;4)建立正則規則;5)將提取到的數據放到集合中。
2、BeautifulSoup。
Beautiful Soup支持各種html解析器，包括python自帶的標准庫，還有其他的許多第三方庫模塊。其中一個是lxml parser。藉助網頁的結構和屬性等特性來解析網頁的工具，有了它我們不用再去寫一些復雜的正則，只需要簡單的幾條語句就可以完成網頁中某個元素的提取。
3、Lxml。Lxml是Python的一個解析庫，支持HTML和XML的解析，支持xpath解析方式，而且解析效率非常高。Lxml主要解決三個問題：1)有一個XML文件，如何解析;2)解析後，如果查找、定位某個標簽;3)定位後如何操作標簽，比如訪問屬性、文本內容等。
當網頁結構簡單並且想要避免額外依賴(不需要安裝庫)，使用正則表達式更為合適。當需要爬取數據量較少時，使用較慢的BeautifulSoup也可以的。當數據量大時，需要追求效益時，Lxml時最好選擇。
爬蟲是一個比較容易上手的技術，也許你看一篇文檔就能爬取單個網頁上的數據。但對於大規模爬蟲，並不是1*n這么簡單，因此很多企業都在高薪招聘Python精英人才。
4. java和python哪個適合寫爬蟲
python相對比較適合寫爬蟲，因為它很多都是寫好的函數，直接調用即可。
5. 什麼叫爬蟲技術有什麼作用
爬蟲主要針對與網路網頁，又稱網路爬蟲、網路蜘蛛，可以自動化瀏覽網路中的信息，或者說是一種網路機器人。它們被廣泛用於互聯網搜索引擎或其他類似網站，以獲取或更新這些網站的內容和檢索方式。它們可以自動採集所有其能夠訪問到的頁面內容，以便程序做下一步的處理。
我們絕大多數人每天都使用網路 - 用於新聞，購物，社交以及您可以想像的任何類型的活動。但是，當從網路上獲取數據用於分析或研究目的時，則需要以更技術性的方式查看Web內容 - 將其拆分為由其組成的構建塊，然後將它們重新組合為結構化的，機器可讀數據集。通常文本Web內容轉換為數據分為以下三個基本步驟 ：
爬蟲：
Web爬蟲是一種自動訪問網頁的腳本或機器人，其作用是從網頁抓取原始數據 -最終用戶在屏幕上看到的各種元素（字元、圖片）。 其工作就像是在網頁上進行ctrl + a（全選內容），ctrl + c（復制內容），ctrl + v（粘貼內容）按鈕的機器人（當然實質上不是那麼簡單）。
通常情況下，爬蟲不會停留在一個網頁上，而是根據某些預定邏輯在停止之前抓取一系列網址 。 例如，它可能會跟蹤它找到的每個鏈接，然後抓取該網站。當然在這個過程中，需要優先考慮您抓取的網站數量，以及您可以投入到任務中的資源量（存儲，處理，帶寬等）。
解析：
解析意味著從數據集或文本塊中提取相關信息組件，以便以後可以容易地訪問它們並將其用於其他操作。要將網頁轉換為實際上對研究或分析有用的數據，我們需要以一種使數據易於根據定義的參數集進行搜索，分類和服務的方式進行解析。
存儲和檢索：
最後，在獲得所需的數據並將其分解為有用的組件之後，通過可擴展的方法來將所有提取和解析的數據存儲在資料庫或集群中，然後創建一個允許用戶可及時查找相關數據集或提取的功能。
1、網路數據採集
利用爬蟲自動採集互聯網中的信息（圖片、文字、鏈接等），採集回來後進行相應的儲存與處理。並按照一定的規則和篩選標准進行數據歸類形成資料庫文件的一個過程。但在這個過程中，首先需要明確要採集的信息是什麼，當你將採集的條件收集得足夠精確時，採集的內容就越接近你想要的。
2、大數據分析
大數據時代，要進行數據分析，首先要有數據源，通過爬蟲技術可以獲得等多的數據源。在進行大數據分析或者進行數據挖掘的時候，數據源可以從某些提供數據統計的網站獲得，也可以從某些文獻或內部資料中獲得，但從這些獲得數據的方式，有時很難滿足我們對數據的需求，此時就可以利用爬蟲技術，自動地從互聯網中獲取需要的數據內容，並將這些數據內容作為數據源，從而進行更深層次的數據分析。
3、網頁分析
通過對網頁數據進行爬蟲採集，在獲得網站訪問量、客戶著陸頁、網頁關鍵詞權重等基本數據的情況下，分析網頁數據，從中發現訪客訪問網站的規律和特點，並將這些規律與網路營銷策略等相結合，從而發現目前網路營銷活動和運營中可能存在的問題和機遇，並為進一步修正或重新制定策略提供依據。
6. 除了python可以爬蟲還有哪些編程語言可以爬蟲
能夠做網路爬蟲的編程語言很多，包括PHP、Java、C/C++、Python等都能做爬蟲，都能達到抓取想要的數據資源。針對不同的環境，我們需要了解他們做爬蟲的優缺點，才能選出合適的開發環境。
（一）PHP
網路爬蟲需要快速的從伺服器中抓取需要的數據，有時數據量較大時需要進行多線程抓取。PHP雖然是世界上最好的語言，但是PHP對多線程、非同步支持不足，並發不足，而爬蟲程序對速度和效率要求極高，所以說PHP天生不是做爬蟲的。
（二）C/C++
C語言是一門面向過程、抽象化的通用程序設計語言，廣泛應用於底層開發，運行效率和性能是最強大的，但是它的學習成本非常高，需要有很好地編程知識基礎，對於初學者或者編程知識不是很好地程序員來說，不是一個很好的選擇。當然，能夠用C/C++編寫爬蟲程序，足以說明能力很強，但是絕不是最正確的選擇。
（三）Java
在網路爬蟲方面，作為Python最大的對手Java，擁有強大的生態圈。但是Java本身很笨重，代碼量大。由於爬蟲與反爬蟲的較量是持久的，也是頻繁的，剛寫好的爬蟲程序很可能就不能用了。爬蟲程序需要經常性的修改部分代碼。而Java的重構成本比較高，任何修改都會導致大量代碼的變動。
（四）Python
Python在設計上堅持了清晰劃一的風格，易讀、易維護，語法優美、代碼簡潔、開發效率高、第三方模塊多。並且擁有強大的爬蟲Scrapy，以及成熟高效的scrapy-redis分布式策略。實現同樣的爬蟲功能，代碼量少，而且維護方便，開發效率高。