❶ 如何讓python可視化
簡介
在 Python 中,將數據可視化有多種選擇,正是因為這種多樣性,何時選用何種方案才變得極具挑戰性。本文包含了一些較為流行的工具以及如何使用它們來創建簡單的條形圖,我將使用下面幾種工具來完成繪圖示例:
Pandas
Seaborn
ggplot
Bokeh
pygal
Plotly
在示例中,我將使用 pandas 處理數據並將數據可視化。大多數案例中,使用上述工具時無需結合 pandas,但我認為 pandas 與可視化工具結合是非常普遍的現象,所以以這種方式開啟本文是很棒的。
什麼是 Matplotlib?
Matplotlib是眾多 Python 可視化包的鼻祖。其功能非常強大,同時也非常復雜。你可以使用 Matplotlib 去做任何你想做的事情,但是想要搞明白卻並非易事。我不打算展示原生的 Matplotlib 例子,因為很多工具(特別是 Pandas 和 Seaborn)是基於 Matplotlib 的輕量級封裝,如果你想了解更多關於 Matplotlib 的東西,在我的這篇文章—《simple graphing》中有幾個例子可供參考。
Matplotlib 令我最不滿的地方是它花費太多工作來獲得目視合理的圖表,但是在本文的某些示例中,我發現無需太多代碼就可以輕松獲得漂亮的可視化圖表。關於 Matplotlib 冗長特點的示例,可以參考這篇文章《ggplot》中的平面圖示例。
方法論
簡要說一下本文的方法論。我堅信只要讀者開始閱讀本文,他們將會指出使用這些工具的更好方法。我的目標並非在每個例子中創造出完全相同的圖表,而是花費大致相同的時間探索方法,從而在每個例子中以大體相同的方法將數據可視化。
在這個過程中,我所面臨的最大挑戰是格式化 x 軸和 y 軸以及基於某些大的標簽讓數據看起來合理,弄明白每種工具是如何格式化數據的也花費了我不少精力,我搞懂這些之後,剩餘的部分就相對簡單了。
另外還需要注意的一點是,條形圖可能是製作起來相對更簡單的圖表,使用這些工具可以製作出多種類型的圖表,但是我的示例更加側重的是簡易的格式化,而不是創新式的可視化。另外,由於標簽眾多,導致一些圖表占據了很多空間,所以我就擅自移除了它們,以保證文章長度可控。最後,我又調整了圖片尺寸,所以圖片的任何模糊現象都是縮放導致的問題,並不代表真實圖像的質量。
最後一點,我以一種嘗試使用 Excel 另外一款替代品的心態來實現示例。我認為我的示例在報告、展示、郵件或者靜態網頁中都更具說服力。如果你正在評估用於實時可視化數據的工具,亦或是通過其他途徑去分享,那麼其中的部分工具會提供很多我還未涉獵到的功能。
數據集
之前的文章描述了我們要處理的數據,我從每一類中抽取了更深一層的樣例,並選用了更詳細的元素。這份數據集包含了125行,但是為了保持簡潔,我只選用了前10行,完整的數據集可以在這里找到。
❷ 可以讓你快速用Python進行數據分析的10個小技巧
一些小提示和小技巧可能是非常有用的,特別是在編程領域。有時候使用一點點黑客技術,既可以節省時間,還可能挽救「生命」。
一個小小的快捷方式或附加組件有時真是天賜之物,並且可以成為真正的生產力助推器。所以,這里有一些小提示和小技巧,有些可能是新的,但我相信在下一個數據分析項目中會讓你非常方便。
Pandas中數據框數據的Profiling過程
Profiling(分析器)是一個幫助我們理解數據的過程,而Pandas Profiling是一個Python包,它可以簡單快速地對Pandas 的數據框數據進行 探索 性數據分析。
Pandas中df.describe()和df.info()函數可以實現EDA過程第一步。但是,它們只提供了對數據非常基本的概述,對於大型數據集沒有太大幫助。 而Pandas中的Profiling功能簡單通過一行代碼就能顯示大量信息,且在互動式HTML報告中也是如此。
對於給定的數據集,Pandas中的profiling包計算了以下統計信息:
由Pandas Profiling包計算出的統計信息包括直方圖、眾數、相關系數、分位數、描述統計量、其他信息——類型、單一變數值、缺失值等。
安裝
用pip安裝或者用conda安裝
pip install pandas-profiling
conda install -c anaconda pandas-profiling
用法
下面代碼是用很久以前的泰坦尼克數據集來演示多功能Python分析器的結果。
#importing the necessary packages
import pandas as pd
import pandas_profiling
df = pd.read_csv('titanic/train.csv')
pandas_profiling.ProfileReport(df)
一行代碼就能實現在Jupyter Notebook中顯示完整的數據分析報告,該報告非常詳細,且包含了必要的圖表信息。
還可以使用以下代碼將報告導出到互動式HTML文件中。
profile = pandas_profiling.ProfileReport(df)
profile.to_file(outputfile="Titanic data profiling.html")
Pandas實現互動式作圖
Pandas有一個內置的.plot()函數作為DataFrame類的一部分。但是,使用此功能呈現的可視化不是互動式的,這使得它沒那麼吸引人。同樣,使用pandas.DataFrame.plot()函數繪制圖表也不能實現交互。 如果我們需要在不對代碼進行重大修改的情況下用Pandas繪制互動式圖表怎麼辦呢?這個時候就可以用Cufflinks庫來實現。
Cufflinks庫可以將有強大功能的plotly和擁有靈活性的pandas結合在一起,非常便於繪圖。下面就來看在pandas中如何安裝和使用Cufflinks庫。
安裝
pip install plotly
# Plotly is a pre-requisite before installing cufflinks
pip install cufflinks
用法
#importing Pandas
import pandas as pd
#importing plotly and cufflinks in offline mode
import cufflinks as cf
import plotly.offline
cf.go_offline()
cf.set_config_file(offline=False, world_readable=True)
是時候展示泰坦尼克號數據集的魔力了。
df.iplot()
df.iplot() vs df.plot()
右側的可視化顯示了靜態圖表,而左側圖表是互動式的,更詳細,並且所有這些在語法上都沒有任何重大更改。
Magic命令
Magic命令是Jupyter notebook中的一組便捷功能,旨在解決標准數據分析中的一些常見問題。使用命令%lsmagic可以看到所有的可用命令。
所有可用的Magic命令列表
Magic命令有兩種:行magic命令(line magics),以單個%字元為前綴,在單行輸入操作;單元magic命令(cell magics),以雙%%字元為前綴,可以在多行輸入操作。如果設置為1,則不用鍵入%即可調用Magic函數。
接下來看一些在常見數據分析任務中可能用到的命令:
% pastebin
%pastebin將代碼上傳到Pastebin並返回url。Pastebin是一個在線內容託管服務,可以存儲純文本,如源代碼片段,然後通過url可以與其他人共享。事實上,Github gist也類似於pastebin,只是有版本控制。
在file.py文件中寫一個包含以下內容的python腳本,並試著運行看看結果。
#file.py
def foo(x):
return x
在Jupyter Notebook中使用%pastebin生成一個pastebin url。
%matplotlib notebook
函數用於在Jupyter notebook中呈現靜態matplotlib圖。用notebook替換inline,可以輕松獲得可縮放和可調整大小的繪圖。但記得這個函數要在導入matplotlib庫之前調用。
%run
用%run函數在notebook中運行一個python腳本試試。
%run file.py
%%writefile
%% writefile是將單元格內容寫入文件中。以下代碼將腳本寫入名為foo.py的文件並保存在當前目錄中。
%%latex
%%latex函數將單元格內容以LaTeX形式呈現。此函數對於在單元格中編寫數學公式和方程很有用。
查找並解決錯誤
互動式調試器也是一個神奇的功能,我把它單獨定義了一類。如果在運行代碼單元時出現異常,請在新行中鍵入%debug並運行它。 這將打開一個互動式調試環境,它能直接定位到發生異常的位置。還可以檢查程序中分配的變數值,並在此處執行操作。退出調試器單擊q即可。
Printing也有小技巧
如果您想生成美觀的數據結構,pprint是首選。它在列印字典數據或JSON數據時特別有用。接下來看一個使用print和pprint來顯示輸出的示例。
讓你的筆記脫穎而出
我們可以在您的Jupyter notebook中使用警示框/注釋框來突出顯示重要內容或其他需要突出的內容。注釋的顏色取決於指定的警報類型。只需在需要突出顯示的單元格中添加以下任一代碼或所有代碼即可。
藍色警示框:信息提示
<p class="alert alert-block alert-info">
<b>Tip:</b> Use blue boxes (alert-info) for tips and notes.
If it』s a note, you don』t have to include the word 「Note」.
</p>
黃色警示框:警告
<p class="alert alert-block alert-warning">
<b>Example:</b> Yellow Boxes are generally used to include additional examples or mathematical formulas.
</p>
綠色警示框:成功
<p class="alert alert-block alert-success">
Use green box only when necessary like to display links to related content.
</p>
紅色警示框:高危
<p class="alert alert-block alert-danger">
It is good to avoid red boxes but can be used to alert users to not delete some important part of code etc.
</p>
列印單元格所有代碼的輸出結果
假如有一個Jupyter Notebook的單元格,其中包含以下代碼行:
In [1]: 10+5
11+6
Out [1]: 17
單元格的正常屬性是只列印最後一個輸出,而對於其他輸出,我們需要添加print()函數。然而通過在notebook頂部添加以下代碼段可以一次列印所有輸出。
添加代碼後所有的輸出結果就會一個接一個地列印出來。
In [1]: 10+5
11+6
12+7
Out [1]: 15
Out [1]: 17
Out [1]: 19
恢復原始設置:
InteractiveShell.ast_node_interactivity = "last_expr"
使用'i'選項運行python腳本
從命令行運行python腳本的典型方法是:python hello.py。但是,如果在運行相同的腳本時添加-i,例如python -i hello.py,就能提供更多優勢。接下來看看結果如何。
首先,即使程序結束,python也不會退出解釋器。因此,我們可以檢查變數的值和程序中定義的函數的正確性。
其次,我們可以輕松地調用python調試器,因為我們仍然在解釋器中:
import pdb
pdb.pm()
這能定位異常發生的位置,然後我們可以處理異常代碼。
自動評論代碼
Ctrl / Cmd + /自動注釋單元格中的選定行,再次命中組合將取消注釋相同的代碼行。
刪除容易恢復難
你有沒有意外刪除過Jupyter notebook中的單元格?如果答案是肯定的,那麼可以掌握這個撤消刪除操作的快捷方式。
如果您刪除了單元格的內容,可以通過按CTRL / CMD + Z輕松恢復它。
如果需要恢復整個已刪除的單元格,請按ESC + Z或EDIT>撤消刪除單元格。
結論
在本文中,我列出了使用Python和Jupyter notebook時收集的一些小提示。我相信它們會對你有用,能讓你有所收獲,從而實現輕松編碼!
❸ Python數據可視化 箱線圖
Python數據可視化:箱線圖
一、箱線圖概念
箱形圖(Box-plot)又稱為盒須圖、盒式圖或箱線圖,是一種用作顯示一組數據分散情況資料的統計圖。
計算過程:
(1)計算上四分位數(Q3),中位數,下四分位數(Q1)
(2)計算上四分位數和下四分位數之間的差值,即四分位數差(IQR,interquartile range)Q3-Q1
(3)繪制箱線圖的上下范圍,上限為上四分位數,下限為下四分位數。在箱子內部中位數的位置繪制橫線。
(4)大於上四分位數1.5倍四分位數差的值,或者小於下四分位數1.5倍四分位數差的值,劃為異常值(outliers)。
(5)異常值之外,最靠近上邊緣和下邊緣的兩個值處,畫橫線,作為箱線圖的觸須。
(6)極端異常值,即超出四分位數差3倍距離的異常值,用實心點表示;較為溫和的異常值,即處於1.5倍-3倍四分位數差之間的異常值,用空心點表示。
(7)為箱線圖添加名稱,數軸等
二、四分位數的計算
分位數根據其將數列等分的形式不同可以分為中位數,四分位數,十分位數、百分位數等等。四分位數作為分位數的一種形式,在統計中有著十分重要的意義和作用,而大多數的統計學原理教材只介紹其基本含義,對其具體計算,尤其是由組距數列計算都不作介紹,成為統計學原理教材中的空白。那麼,如何根據數列計算四分位數呢?一般來講,視資料是否分組而定。
1、根據未分組的資料計算四分位數
第一步:確定四分位數的位置
四分位數是將數列等分成四個部分的數,一個數列有三個四分位數,設下分位數、中分位數和上分位式中n表示資料的項數
第二步:根據第一步所確定的四分位數的位置,確定其相應的四分位數。
例1:某車間某月份的工人生產某產品的數量分別為13、13.5、13.8、13.9、14、14.6、14.8、15、15.2、15.4、15.7公斤,則三個四分位數的位置分別為:
即變數數列中的第三個、第六個、第九個工人的某種產品產量分別為下四分位數、中位 數和上四分位數。即:
Q1 =13.8公斤、Q2=14.6公斤、Q3=15.2公斤
上例中(n+1)恰好為4的倍數,所以確定四分數較簡單,如果(n+1)不為4的整數倍數,按上述分式計算出來的四分位數位置就帶有小數,這時,有關的四分位數就應該是與該小數相鄰的兩個整數位置上的標志值的平均數,權數的大小取決於兩個整數位置距離的遠近,距離越近,權數越大,距離越遠,權數越小,權數之和等於1。
例2:某車間某月份的工人生產某產品的數量分別為13、13.5、13.8、13.9、14、14.6、14.8、15、15.2、15.4公斤,則三個四分位數的位置分別為:
即變數數列中的第2.75項、第5.5項、第8.25項工人的某種產品產量分別為下四分位 數、中位數和上四分位數。即:
在實際資料中,由於標志值序列中的相鄰標志值往往是相同的,因而不一定要通過計算才能得到有關的四分位數。
2、由組距式數列確定四分位數
第一步,向上或向下累計次數.
第二步,根據累計次數確定四分位數的位置.
(1)、當採用向上累計次數的資料確定四分位數時,四分位數位置的公式是:
(2)、當採用向下累計次數的資料確定四分位數時,四分位數位置的公式是:
第三步,根據四分位數的位置算出各四分位數.
(1)、當累計次數是向上累計時,按下限公式計算各四分位數.
(2)、當累計次數是向下累計時,按上限公式計算各四分位數.
例3:某企業職工按月工資的分組資料如下:
根據上述資料確定某企業職工的月工資的三個四分位數如下:
(1)、採用向上累計職工人數的資料得月工資四分位數的位置為:
(2)、採用向下累計職工人數的資料得月工資四分位數的位置為:
3、異常值
異常值:限制線以外的數據全部為異常值
三、畫圖
# Python
import plotly.plotly
import plotly.graph_objs as go
data = [
go.Box(
y=[0, 1, 1, 2, 3, 5, 8, 13, 21] # 9個數據
)
]
plotly.offline.plot(data) # 離線繪圖
❹ python使用plotly生成了多個離線圖表,如何將他們合並成一個html做展示
本人在使用groovy爬取了全國3000+城市的歷史天氣之後,需要把每個城市的歷史天氣都繪制一張Time Series表格,用來反映各地的最高溫最低溫溫差的變化曲線。這里遇到了一個問題,每次plotly繪制完圖標總會調起系統瀏覽器打開呈現,一旦我批量生成N多張表格時,電腦就會卡死了。在使用中文作為文件名的時候遇到了一個錯誤,這個錯誤剛好能巧妙解決這個問題。在不同編碼格式的字元拼接時文件路徑時,會報錯,報錯內容如下:
'ascii' codec can't encode characters in position 69-70: ordinal not in range(128)
然後程序停止運行,但是文件已經生成了。在做了異常處理後,剛好能滿足需求。關於python2.7的編碼問題,並不是很了解為什麼出這個錯。有大神了解的可以分享一下。
python部分的代碼如下:
#!/usr/bin/python
# coding=utf-8
from first.date import DatePlot
import os
from second.MysqlFission import MysqlFission
import shutil
import time
class Fission:
x = []
y = []
z = []
d = []
def __init__(self):
print "歡迎使用fission類!"
# def __init__(self,x,y,z,d):
# def __init__(self,name):
# self.name = name
# print "歡迎使用fission類!"
def getData(self, name):
size = 0;
with open("/Users/Vicky/Documents/workspace/source_api/long/" + name + ".log") as apidata:
for i in apidata:
data = i.split(" ")[0].split("|")[0]
low = i.split(" ")[0].split("|")[1]
high = i.split(" ")[0].split("|")[2]
diff = int(high) - int(low)
self.x.append(data)
self.y.append(low)
self.z.append(high)
self.d.append(diff)
size += 1;
def getDataMarkLine(self, name):
with open("/Users/Vicky/Documents/workspace/source_api/long/" + name + ".log") as apidata:
for i in apidata:
data = i.split(" ")[0].split("|")
day = data[0]
time = float(data[1])
self.x.append(day)
self.y.append(time)
return [self.x, self.y]
if __name__ == "__main__":
names = []
for name in names:
name = u"三沙"
sql = MysqlFission()
sql.getWeather(name)
fission = Fission()
fission.x = []
fission.y = []
fission.z = []
fission.d = []
fission.getData(name)
try:
DatePlot.MakePlotTwo(fission.x, name, high=fission.y, low=fission.z, diff=fission.d)
except BaseException:
print 2
shutil.file(name + ".html", "/Users/Vicky/Desktop/w/" + name + ".html")
os.remove(name + ".html")
time.sleep(5)
下面是北京市的效果圖:
❺ 求助Python可視化庫plotly_express
應該是你那個函數獲取數據沒有成功,從原來的例子來看,他那些壽命和gdp的數據應該是存在網上,然後人家的函數可以直接獲取那些數據。從你這個運行結果來看,這些函數應該是訪問不到對應的數據,所以執行也沒有結果和顯示。
❻ Python實現簡單多線程任務隊列
Python實現簡單多線程任務隊列
最近我在用梯度下降演算法繪制神經網路的數據時,遇到了一些演算法性能的問題。梯度下降演算法的代碼如下(偽代碼):
defgradient_descent(): # the gradient descent code plotly.write(X, Y)
一般來說,當網路請求 plot.ly 繪圖時會阻塞等待返回,於是也會影響到其他的梯度下降函數的執行速度。
一種解決辦法是每調用一次 plotly.write 函數就開啟一個新的線程,但是這種方法感覺不是很好。 我不想用一個像 cerely(一種分布式任務隊列)一樣大而全的任務隊列框架,因為框架對於我的這點需求來說太重了,並且我的繪圖也並不需要 redis 來持久化數據。
那用什麼辦法解決呢?我在 python 中寫了一個很小的任務隊列,它可以在一個單獨的線程中調用 plotly.write函數。下面是程序代碼。
classTaskQueue(Queue.Queue):
首先我們繼承 Queue.Queue 類。從 Queue.Queue 類可以繼承 get 和 put 方法,以及隊列的行為。
def__init__(self, num_workers=1): Queue.Queue.__init__(self) self.num_workers=num_workers self.start_workers()
初始化的時候,我們可以不用考慮工作線程的數量。
defadd_task(self, task,*args,**kwargs): args=argsor() kwargs=kwargsor{} self.put((task, args, kwargs))
我們把 task, args, kwargs 以元組的形式存儲在隊列中。*args 可以傳遞數量不等的參數,**kwargs 可以傳遞命名參數。
defstart_workers(self): foriinrange(self.num_workers): t=Thread(target=self.worker) t.daemon=True t.start()
我們為每個 worker 創建一個線程,然後在後台刪除。
下面是 worker 函數的代碼:
defworker(self): whileTrue: tupl=self.get() item, args, kwargs=self.get() item(*args,**kwargs) self.task_done()
worker 函數獲取隊列頂端的任務,並根據輸入參數運行,除此之外,沒有其他的功能。下面是隊列的代碼:
我們可以通過下面的代碼測試:
defblokkah(*args,**kwargs): time.sleep(5) print「Blokkah mofo!」 q=TaskQueue(num_workers=5) foriteminrange(1): q.add_task(blokkah) q.join()# wait for all the tasks to finish. print「Alldone!」
Blokkah 是我們要做的任務名稱。隊列已經緩存在內存中,並且沒有執行很多任務。下面的步驟是把主隊列當做單獨的進程來運行,這樣主程序退出以及執行資料庫持久化時,隊列任務不會停止運行。但是這個例子很好地展示了如何從一個很簡單的小任務寫成像工作隊列這樣復雜的程序。
defgradient_descent(): # the gradient descent code queue.add_task(plotly.write, x=X, y=Y)
修改之後,我的梯度下降演算法工作效率似乎更高了。如果你很感興趣的話,可以參考下面的代碼。 classTaskQueue(Queue.Queue): def__init__(self, num_workers=1):Queue.Queue.__init__(self)self.num_workers=num_workersself.start_workers() defadd_task(self, task,*args,**kwargs):args=argsor()kwargs=kwargsor{}self.put((task, args, kwargs)) defstart_workers(self):foriinrange(self.num_workers):t=Thread(target=self.worker)t.daemon=Truet.start() defworker(self):whileTrue:tupl=self.get()item, args, kwargs=self.get()item(*args,**kwargs)self.task_done() deftests():defblokkah(*args,**kwargs):time.sleep(5)print"Blokkah mofo!" q=TaskQueue(num_workers=5) foriteminrange(10):q.add_task(blokkah) q.join()# block until all tasks are doneprint"All done!" if__name__=="__main__":tests()
❼ 【可視化】python地圖可視化_Folium
Folium是Leaflet.js的Python的API,即可以使用Python語言調用Leaflet的地圖可視化能力。
其中,Leaflet是一個非常輕的前端地圖可視化庫。
默認參數為OpenStreetMap地圖,(0,0)經緯度坐標,全球范圍縮放
最簡單的配置,初始化中心位置和縮放尺度
文檔說內置「Mapbox Bright」和「Mapbox Control Room」,本次實驗中無法載入
瓦片地址參考 http://openwhatevermap.xyz
瓦片地址參考頁面頂部鏈接
各種要素可以設置顏色、大小、文字標記等屬性,具體看操作手冊
這里以高德地圖為底圖,添加點、線、面形狀
以高德地圖API的坐標提取器為准,取操場位置的坐標,並打在默認地圖和高德地圖上,可以看到坐標不同
做地圖可視化的方法,通常有
其中
python語言近年來比較熱,也有很多可視化庫可以用,但是在地圖的可視化方面很弱。有一些可視化庫也支持一點點,如plotly內置的mapbox可視化;還有上面提到的的pyecharts可以做形狀,底圖(應該)可以用網路地圖。但是這些或者不靈活、或者限定了底圖,基本能力還是有的,雖然都不全。
背景完,具體內容到頁面頂部。