股票開盤收盤數據Python如何爬取

① 怎麼樣python爬蟲進行此網站爬取

• 是加密的，解密方法在JS裡面可以弄出來。

• 首先要AES解密，可以【Python：import Crypto.Cipher.AES】包，解密mode是CFB，seed是"userId:"+uid+":seed"的SHA256值，解密的key是seed[0:24]，iv是seed[len(seed)-16:]。

• 如果沒有登錄，uid就是用的"anyone"，這時候的seed是""，也就是key為"61581AF471B166682A37EFE6"，iv為"C8F203FCA312AAAB"。

• 解密後文件是壓縮過的，解壓即可得到一個JSON。這部分解壓我沒仔細看他的演算法，好像是gzip，直接用【Python：import gzip】解壓有點出錯，可能沒用對或者不是這個演算法，你在研究一下。第二種投機的方法就是，可以通過【Python：import execjs】直接調用他的pako.js文件的JS的inflate()函數來解壓這塊。JS代碼混淆後看起來是非常難懂的，使用這種做法可以不用太看懂加密的演算法，效率當然寫Python實現這個解密演算法低1點咯。

• 最後的JSON再用【Python：import demjson】解析，text的value就是文檔。
  

② 精通Python網路爬蟲之網路爬蟲學習路線

欲精通Python網路爬蟲，必先了解網路爬蟲學習路線，本篇經驗主要解決這個問題。部分內容參考自書籍《精通Python網路爬蟲》。

作者：韋瑋

轉載請註明出處

隨著大數據時代的到來，人們對數據資源的需求越來越多，而爬蟲是一種很好的自動採集數據的手段。

那麼，如何才能精通Python網路爬蟲呢？學習Python網路爬蟲的路線應該如何進行呢？在此為大傢具體進行介紹。

1、選擇一款合適的編程語言

事實上，Python、PHP、JAVA等常見的語言都可以用於編寫網路爬蟲，你首先需要選擇一款合適的編程語言，這些編程語言各有優勢，可以根據習慣進行選擇。在此筆者推薦使用Python進行爬蟲項目的編寫，其優點是：簡潔、掌握難度低。

2、掌握Python的一些基礎爬蟲模塊

當然，在進行這一步之前，你應當先掌握Python的一些簡單語法基礎，然後才可以使用Python語言進行爬蟲項目的開發。

在掌握了Python的語法基礎之後，你需要重點掌握一個Python的關於爬蟲開發的基礎模塊。這些模塊有很多可以供你選擇，比如urllib、requests等等，只需要精通一個基礎模塊即可，不必要都精通，因為都是大同小異的，在此推薦的是掌握urllib，當然你可以根據你的習慣進行選擇。

3、深入掌握一款合適的表達式

學會了如何爬取網頁內容之後，你還需要學會進行信息的提取。事實上，信息的提取你可以通過表達式進行實現，同樣，有很多表達式可以供你選擇使用，常見的有正則表達式、XPath表達式、BeautifulSoup等，這些表達式你沒有必要都精通，同樣，精通1-2個，其他的掌握即可，在此建議精通掌握正則表達式以及XPath表達式，其他的了解掌握即可。正則表達式可以處理的數據的范圍比較大，簡言之，就是能力比較強，XPath只能處理XML格式的數據，有些形式的數據不能處理，但XPath處理數據會比較快。

4、深入掌握抓包分析技術

事實上，很多網站都會做一些反爬措施，即不想讓你爬到他的數據。最常見的反爬手段就是對數據進行隱藏處理，這個時候，你就無法直接爬取相關的數據了。作為爬蟲方，如果需要在這種情況下獲取數據，那麼你需要對相應的數據進行抓包分析，然後再根據分析結果進行處理。一般推薦掌握的抓包分析工具是Fiddler，當然你也可以用其他的抓包分析工具，沒有特別的要求。

5、精通一款爬蟲框架

事實上，當你學習到這一步的時候，你已經入門了。

這個時候，你可能需要深入掌握一款爬蟲框架，因為採用框架開發爬蟲項目，效率會更加高，並且項目也會更加完善。

同樣，你可以有很多爬蟲框架進行選擇，比如Scrapy、pySpider等等，一樣的，你沒必要每一種框架都精通，只需要精通一種框架即可，其他框架都是大同小異的，當你深入精通一款框架的時候，其他的框架了解一下事實上你便能輕松使用，在此推薦掌握Scrapy框架，當然你可以根據習慣進行選擇。

6、掌握常見的反爬策略與反爬處理策略

反爬，是相對於網站方來說的，對方不想給你爬他站點的數據，所以進行了一些限制，這就是反爬。

反爬處理，是相對於爬蟲方來說的，在對方進行了反爬策略之後，你還想爬相應的數據，就需要有相應的攻克手段，這個時候，就需要進行反爬處理。

事實上，反爬以及反爬處理都有一些基本的套路，萬變不離其宗，這些後面作者會具體提到，感興趣的可以關注。

常見的反爬策略主要有：

IP限制

UA限制

Cookie限制

資源隨機化存儲

動態載入技術

……

對應的反爬處理手段主要有：

IP代理池技術

用戶代理池技術

Cookie保存與處理

自動觸發技術

抓包分析技術+自動觸發技術

……

這些大家在此先有一個基本的思路印象即可，後面都會具體通過實戰案例去介紹。

7、掌握PhantomJS、Selenium等工具的使用

有一些站點，通過常規的爬蟲很難去進行爬取，這個時候，你需要藉助一些工具模塊進行，比如PhantomJS、Selenium等，所以，你還需要掌握PhantomJS、Selenium等工具的常規使用方法。

8、掌握分布式爬蟲技術與數據去重技術

如果你已經學習或者研究到到了這里，那麼恭喜你，相信現在你爬任何網站都已經不是問題了，反爬對你來說也只是一道形同虛設的牆而已了。

但是，如果要爬取的資源非常非常多，靠一個單機爬蟲去跑，仍然無法達到你的目的，因為太慢了。

所以，這個時候，你還應當掌握一種技術，就是分布式爬蟲技術，分布式爬蟲的架構手段有很多，你可以依據真實的伺服器集群進行，也可以依據虛擬化的多台伺服器進行，你可以採用urllib+redis分布式架構手段，也可以採用Scrapy+redis架構手段，都沒關系，關鍵是，你可以將爬蟲任務部署到多台伺服器中就OK。

至於數據去重技術，簡單來說，目的就是要去除重復數據，如果數據量小，直接採用資料庫的數據約束進行實現，如果數據量很大，建議採用布隆過濾器實現數據去重即可，布隆過濾器的實現在Python中也是不難的。

以上是如果你想精通Python網路爬蟲的學習研究路線，按照這些步驟學習下去，可以讓你的爬蟲技術得到非常大的提升。

至於有些朋友問到，使用Windows系統還是Linux系統，其實，沒關系的，一般建議學習的時候使用Windows系統進行就行，比較考慮到大部分朋友對該系統比較數據，但是在實際運行爬蟲任務的時候，把爬蟲部署到Linux系統中運行，這樣效率比較高。由於Python的可移植性非常好，所以你在不同的平台中運行一個爬蟲，代碼基本上不用進行什麼修改，只需要學會部署到Linux中即可。所以，這也是為什麼說使用Windows系統還是Linux系統進行學習都沒多大影響的原因之一。

本篇文章主要是為那些想學習Python網路爬蟲，但是又不知道從何學起，怎麼學下去的朋友而寫的。希望通過本篇文章，可以讓你對Python網路爬蟲的研究路線有一個清晰的了解，這樣，本篇文章的目的就達到了，加油！

本文章由作者韋瑋原創，轉載請註明出處。

③ 如何利用python抓取美股數據

一 准備環境

1 安裝tushare模塊包。

pip install tushare

二 注冊tushare賬號，獲取token（目前tushare pro版本必須有token值才能正常訪問）

訪問https://tushare.pro/register?reg=380388 tushare官網進行注冊，然後記錄token值備用。

三 開始python編程

Python代碼：

import tushare as ts

#設置token

token='你自己的token'

pro = ts.pro_api(token)

#獲取002242.SZ日行數據

pa=pro.daily(ts_code='002242.SZ', start_date='20200701',end_date='20200716')

# 列印獲取數據

print(pa)

運行程序，可見如下列印，002242.SZ最近兩周的數據都在這里了。

④ Python量化教程：不得不學的K線圖「代碼復制可用」

不管是對量化分析師還是普通的投資者來說，K線圖（蠟燭圖）都是一種很經典、很重要的工具。在K線圖中，它會繪制每天的最高價、最低價、開盤價和收盤價，這對於我們理解股票的趨勢以及每天的多空對比很有幫助。

一般來說，我們會從各大券商平台獲取K線圖，但是這種情況下獲得的K線圖往往不能靈活調整，也不能適應復雜多變的生產需求。因此我們有必要學習一下如何使用Python繪制K線圖。

需要說明的是，這里mpl_finance是原來的matplotlib.finance，但是現在獨立出來了（而且好像沒什麼人維護更新了），我們將會使用它提供的方法來繪制K線圖；tushare是用來在線獲取股票數據的庫；matplotlib.ticker中有個FuncFormatter()方法可以幫助我們調整坐標軸；matplotlib.pylab.date2num可以幫助我們將日期數據進行必要的轉化。

我們以上證綜指18年9月份以來的行情為例。

我們先使用mpl_finance繪制一下，看看是否一切正常。

可以看到，所有的節假日包括周末，在這里都會顯示為空白，這對於我們圖形的連續性非常不友好，因此我們要解決掉他們。

可以看到，空白問題完美解決，這里我們解釋一下。由於matplotlib會將日期數據理解為 連續數據 ，而連續數據之間的間距是有意義的，所以非交易日即使沒有數據，在坐標軸上還是會體現出來。連續多少個非交易日，在坐標軸上就對應了多少個小格子，但這些小格子上方並沒有相應的蠟燭圖。

明白了它的原理，我們就可以對症下葯了。我們可以給橫坐標（日期）傳入連續的、固定間距的數據，先保證K線圖的繪制是連續的；然後生成一個保存有正確日期數據的列表，接下來，我們根據坐標軸上的數據去取對應的正確的日期，並替換為坐標軸上的標簽即可。

上邊format_date函數就是這個作用。由於前邊我們給dates列生成了從0開始的序列連續數據，因此我們可以直接把它當作索引，從真正的日期列表裡去取對應的數據。在這里我們要使用matplotlib.ticker.FuncFormattter()方法，它允許我們指定一個格式化坐標軸標簽的函數，在這個函數里，我們需要接受坐標軸的值以及位置，並返回自定義的標簽。

你學會了嗎？

當然，一個完整的K線圖到這里並沒有結束，後邊我們會考慮加入均線、成交量等元素，感興趣的同學歡迎關注哦！

⑤ python爬蟲的工作步驟

當前處於一個大數據的時代，一般網站數據來源有二：網站用戶自身產生的數據和網站從其他來源獲取的數據，今天要分享的是如何從其他網站獲取你想要的數據。

目前最適合用於寫爬蟲的語言是python，python中最受歡迎的爬蟲框架是scrapy,本文圍繞scrapy來展開講解爬蟲是怎麼工作的。

1.如下圖所示，爬蟲從編寫的spider文件中的start_urls開始，這個列表中的url就是爬蟲抓取的第一個網頁，它的返回值是該url對應網頁的源代碼，我們可以用默認的parse(self,response)函數去列印或解析這個源代碼

2.我們獲取到源代碼之後，就可以從網頁源代碼中找到我們想要的信息或需要進一步訪問的url,提取信息這一步，scrapy中集成了xpath,正則(re),功能十分強大，提取到信息之後會通過yield進入到中間件當中。

中間件包括爬蟲中間件和下載中間件，爬蟲中間件主要用於設置處理爬蟲文件中的代碼塊，下載中間件主要用於判斷爬蟲進入網頁前後的爬取狀態，在此中間件中，你可以根據爬蟲的返回狀態去做進一步判斷。

最後我們將yield過來的item，即就是我們想要的數據會在pipeline.py文件中進行處理，存入資料庫，寫入本地文件，都可以在這里進行，另外，為了減少代碼冗餘，建議所有與設置參數有關的參數，都寫在settings.py中去

⑥ python爬蟲怎麼做