A. 使用gdb查看python段錯誤(Segmentation fault)
公司有個業務是使用python腳本調用.so文件,但是有時候so文件內部發生錯誤,python就直接崩潰了,無任何提示信息,所以很不方便找錯誤原因.
使用 gdb 可以看到更詳細的一些信息,其使用方式如下:
ulimit -c 是查看創建的核心轉儲的最大大小,這里為0,是需要修改的,可以將其改成不限制大小的 unlimited .
cat /proc/sys/kernel/core_pattern 這一步我的理解是查看到時候生成的緩存文件存儲名稱,這里為 core ,表示其會在當前目錄下生成一個名為core的緩存文件,但是為了使其更加通用,可以修改一下其路徑和名稱格式.
可以看到在 var/cores 目錄下生成了一個 core.python.31796 文件,此時可以在剛才的運行目錄下執行,下面的 which 前面是`符號,不是單引號
此時可以看到項目最終是在 #0 0x00007f89d8700960 in mkl_pds_lp64_ladj_mod_pardiso () from /usr/lib/libmkl_intel_thread.so 時發生了錯誤,這個時候可以輸入 bt 查看更多,其從上到下是錯誤從底層到最外層的順序.
若執行的時候沒有 gdb ,可以執行 apt-get install gdb 安裝.
還有就是,若查看的時候錯誤地方是 #0 0x00000000005406df in ?? () 這樣的沒有具體函數名的情況,這是因為so文件在編譯時候沒有鏈接符號到文件裡面,需要在使用gcc編譯的時候加上 -g
B. 如何利用 Python 讀取數據科學中常見幾種文件
前言
如果你是數據行業的一份子，那麼你肯定會知道和不同的數據類型打交道是件多麼麻煩的事。不同數據格式、不同壓縮演算法、不同系統下的不同解析方法——很快就會讓你感到抓狂！噢！我還沒提那些非結構化數據和半結構化數據呢。
對於所有數據科學家和數據工程師來說，和不同的格式打交道都乏味透頂！但現實情況是，人們很少能得到整齊的列表數據。因此，熟悉不同的文件格式、了解處理它們時會遇到的困難以及處理某類數據時的最佳／最高效的方法，對於任何一個數據科學家（或者數據工程師）而言都必不可少。
在本篇文章中，你會了解到數據科學家或數據工程師必須知道的幾種常規格式。我會先向你介紹數據行業里常用的幾種不同的文件格式。隨後，我會向大家介紹如何在 Python 里讀取這些文件格式。
PS：在後文中提到的數據科學家，同樣也包括數據工程師以及所有的數據科學專家。
目錄
文件格式是什麼。數據科學家應當了解各種不同文件格式的原因。不同的文件格式以及從 Python 中讀取這些文件的方法。
1. 逗號分隔值
2. XLSX
3. ZIP
4. 純文本(txt)
5. JSON
6. XML
7. HTML
8. 圖像
9. 分層數據格式
10. PDF
11. DOCX
12. MP3
13. MP4
1. 文件格式是什麼。
文件格式是計算機為了存儲信息而使用的對信息的特殊編碼方式。首先，文件格式代表著文件的類型，如二進制文件或者 ASCII 文件等。其次，它體現了信息組織的方式。比如，逗號分隔值（CSV）文件格式用純文本來儲存列表數據。
為了識別一個文件的格式，你通常會去看這個文件的擴展名。比如，一個以「CSV」格式保存的名為「Data」的文件下方的文件名會顯示為「Data.csv」。看到「.csv」這個擴展名，我們就會清楚地知道這是一個「CSV」文件，並且還可以知道其中的數據是以表格的形式儲存的。
2. 數據科學家應當了解各種不同文件格式的原因。
通常，你碰到的文件類型取決於你當下構造的應用。舉個例子，在一個圖像處理系統中，你需要把圖像作為輸入和輸出。所以，你所見到的文件大都是jpeg、gif 或者 png 格式的。
作為一個數據科學家，你需要了解各種文件格式的底層結構以及相應的優勢和劣勢。只有了解了數據的底層結構，你才能夠進一步去探索它，或者決定如何來儲存相關的數據。
選擇一個最理想的文件格式來儲存數據能夠提升你的模型在處理數據時的性能。
現在，讓我們討論一下下方這些文件格式以及如何在 Python 中讀取它們：
逗號分隔值（CSV）XLSXZIP純文本（txt）JSONXMLHTML圖像分層數據格式PDFDOCXMP3MP4
3. 不同的文件格式以及從 Python 中讀取這些文件的方法。
3.1 逗號分隔值
逗號分隔值文件格式屬於電子表格文件格式的一種。
什麼是電子表格文件格式？
在電子表格文件格式中，數據被儲存在單元格里。每個單元格都處於特定的行和列中。電子表格文件中的列擁有不同的類型。比如說，它可以是字元串型的、日期型的或者整數型的。最常用的電子表格文件格式包括：逗號分隔值（CSV）、Microsoft Excel 電子表格（xls）以及 Microsoft Excel Open XML 電子表格（xlsx）。
CSV 文件中的每一行都代表一份觀察報告，或者也可以說是一條記錄。每一個記錄都包含一個或者更多由逗號分隔的欄位。
有時你看你會遇到用製表符而非逗號來分隔欄位的文件。這種文件格式被稱為 TSV（製表符分隔值）文件格式。
下面是一個用 Notepad 打開的 CSV 文件。
在Python 中從 CSV 文件里讀取數據
現在讓我們看看如何在 Python 中讀取一個 CSV 文件。你可以用 Python 中的「pandas」庫來載入數據。import pandas as pd
df = pd.read_csv(「/home/Loan_Prediction/train.csv」)
上方的代碼將會把 train.csv 文件載入進 DataFrame df 中。
3.2 XLSX文件
XLSX 是 Microsoft Excel Open XML 的文件格式，它同樣可以歸入電子表格文件格式這一類中。它是由 Microsoft Excel 開發的一種基於 XML 文件格式。Microsoft Office 2007 最先採用 XLSX 格式來儲存數據。
在XLSX 中，數據被放在工作表的單元格和列當中。每個 XLSX 文件可能包含一個或者更多工作表，所以一個工作簿中可能會包含多個工作表。
下面是一個在 Microsoft Excel 中打開的「xlsx」文件。
上圖顯示的這個文件里包含多個工作表，這些工作表的名稱分別為 Customers、Employees、Invoice 和 Order。圖片中顯示的是其中一個工作表——「Invoice」——中的數據。
從XLSX 文件讀取數據
讓我們一起來載入一下來自 XLSX 文件的數據並且定義一下相關工作表的名稱。此時，你可以用 Python 中的「pandas」庫來載入這些數據。import pandas as pd
df = pd.read_excel(「/home/Loan_Prediction/train.xlsx」,sheetname = 「Invoice」)
上方的代碼將會把來自「train.xlsx」文件的工作表「Invoice」載入進 DataFrame df 中。
3.3 ZIP 文件
ZIP 格式是一種歸檔文件格式。
什麼是歸檔文件格式？
在歸檔文件格式中，你可以創建一個包含多個文件和元數據的文件。歸檔文件格式通常用於將多個數據文件放入一個文件中的過程。這么做是為了方便對這些文件進行壓縮從而減少儲存它們所需的存儲空間。
有很多種常用的電腦數據歸檔格式可以創建歸檔文件。Zip、RAR 和 Tar 是最常用的3種用於壓縮數據的歸檔文件格式。
因此，ZIP 文件格式是一種無損壓縮格式，這意味著如果你用 ZIP 格式壓縮了多個文件，那麼在解壓縮之後你能夠完全恢復這些數據。ZIP 文件格式使用多種壓縮演算法來壓縮文件。你可以通過 .zip 這個擴展名輕易地識別出一個 ZIP 文件。
在Python 中讀取 .ZIP 文件
你可以通過導入「zipfile」包來讀取 zip 文件。下方的代碼可以實現讀取「T.zip」中的「train.csv」文件。import zipfile
在這里我已經討論了其中一種最常用的歸檔格式，也已經討論了如何在 python 中打開這種歸檔格式。我不會再對其他的歸檔格式進行展開討論。如果你想了解不同類型的歸檔格式並且想對其做出比較
C. python從資料庫中讀取某列的數值
select bug_type,bug_severity,count(bug_type),ft_id from tm_bug group by ft_id,bug_type,bug_severity
查找表 tm_bug ,欄位1名稱為(bug_type),欄位2名稱為(bug_severity),欄位3名稱為(ft_id),行數,,以為具有相同欄位的ft_id,bug_type,bug_severity進行分組,