python3csvnumpy

❶ python實現對CSV文件多維不同單位數據的歸一化處理

1）線性歸一化
這種歸一化比較適用在數值比較集中的情況，缺陷就是如果max和min不穩定，很容易使得歸一化結果不穩定，使得後續的效果不穩定，實際使用中可以用經驗常量來代替max和min。
2）標准差標准化
經過處理的數據符合標准正態分布，即均值為0，標准差為1。
3）非線性歸一化
經常用在數據分化較大的場景，有些數值大，有些很小。通過一些數學函數，將原始值進行映射。該方法包括log、指數、反正切等。需要根據數據分布的情況，決定非線性函數的曲線。
log函數：x = lg(x)/lg(max)
反正切函數：x = atan(x)*2/pi
Python實現
線性歸一化
定義數組：x = numpy.array(x)
獲取二維數組列方向的最大值：x.max(axis = 0)
獲取二維數組列方向的最小值：x.min(axis = 0)
對二維數組進行線性歸一化：
def max_min_normalization(data_value, data_col_max_values, data_col_min_values):
""" Data normalization using max value and min value

Args:
data_value: The data to be normalized
data_col_max_values: The maximum value of data's columns
data_col_min_values: The minimum value of data's columns
"""
data_shape = data_value.shape
data_rows = data_shape[0]
data_cols = data_shape[1]

for i in xrange(0, data_rows, 1):
for j in xrange(0, data_cols, 1):
data_value[i][j] = \
(data_value[i][j] - data_col_min_values[j]) / \
(data_col_max_values[j] - data_col_min_values[j])

標准差歸一化
定義數組：x = numpy.array(x)
獲取二維數組列方向的均值：x.mean(axis = 0)
獲取二維數組列方向的標准差：x.std(axis = 0)
對二維數組進行標准差歸一化：
def standard_deviation_normalization(data_value, data_col_means,
data_col_standard_deviation):
""" Data normalization using standard deviation

Args:
data_value: The data to be normalized
data_col_means: The means of data's columns
data_col_standard_deviation: The variance of data's columns
"""
data_shape = data_value.shape
data_rows = data_shape[0]
data_cols = data_shape[1]

for i in xrange(0, data_rows, 1):
for j in xrange(0, data_cols, 1):
data_value[i][j] = \
(data_value[i][j] - data_col_means[j]) / \
data_col_standard_deviation[j]

非線性歸一化（以lg為例）
定義數組：x = numpy.array(x)
獲取二維數組列方向的最大值：x.max(axis=0)
獲取二維數組每個元素的lg值：numpy.log10(x)
獲取二維數組列方向的最大值的lg值：numpy.log10(x.max(axis=0))
對二維數組使用lg進行非線性歸一化：
def nonlinearity_normalization_lg(data_value_after_lg,
data_col_max_values_after_lg):
""" Data normalization using lg

Args:
data_value_after_lg: The data to be normalized
data_col_max_values_after_lg: The maximum value of data's columns
"""

data_shape = data_value_after_lg.shape
data_rows = data_shape[0]
data_cols = data_shape[1]

for i in xrange(0, data_rows, 1):
for j in xrange(0, data_cols, 1):
data_value_after_lg[i][j] = \
data_value_after_lg[i][j] / data_col_max_values_after_lg[j]

❷ 如何用python將csv文件中的數據讀取成數組

很多時候，我們將數據存在txt或者csv格式的文件里，最後再用python讀取出來，存到數組或者列表裡，再做相應計算。本文首先介紹寫入txt的方法，再根據不同的需求（存為數組還是list）,介紹從txt讀取浮點數的方法。
一、寫入浮點數到txt文件：
假設每次有兩個浮點數需要寫入txt文件，這里提供用with關鍵字打開文件的方法，使用with打開文件是一個很好的習慣，因為with結束，它就會自動close file，不用手動再去flie.close()。

[python] view plain
with open('file_path/filename.txt','a') as file:
write_str = '%f %f\n'%(float_data1,float_data2)
file.write(write_str)

二、從txt文件提取浮點數到numpy數組或list列表

首先假設你有一個odom.txt 的文件，裡面每一行的數據個數都相同，如截圖所示：

1.如果你是想把這些數據讀取出來，存為numpy數組,那麼一句代碼可以搞定：

[python] view plain
a = numpy.loadtxt('odom.txt')

存為numpy數組以後，a的尺寸可以用a.shape進行查看，這里應為：（14,2）也就是14行2列。如果你覺得這個形狀不是你期待的，你可以用:

[python] view plain

❸ 如何將csv文件中的數據寫入python並轉換成矩陣以文件形式輸出

Python處理csv文件時經常會用到講csv文件整體讀取為一個數組或者矩陣的情況，藉助numpy包，可以使用如下代碼簡潔高效低實現：

[python]view plain

• importnumpy

• my_matrix=numpy.loadtxt(open("c:\1.csv","rb"),delimiter=",",skiprows=0)

將數組或者矩陣存儲為csv文件可以使用如下代碼實現：

[python]view plain

• numpy.savetxt('new.csv',my_matrix,delimiter=',')

❹ 請問python中如何讀取一個csv或者dat文件，並儲存為一個二維數組

numpy.loadtxt()即可

❺ python3中關於matplotlib的figure內數據動態更新的問題

你可以參考一下下面的代碼：
import matplotlib.pyplot as plt
import numpy as np

x = np.linspace(0, 10*np.pi, 100)
y = np.sin(x)

plt.ion() #Setting interactive mode on is essential: plt.ion(). This controls if the figure is redrawn every draw() command.
fig = plt.figure()
ax = fig.add_subplot(111)
line1, = ax.plot(x, y, 'b-')

for phase in np.linspace(0, 10*np.pi, 100):
line1.set_ydata(np.sin(0.5 * x + phase))
fig.canvas.draw() #不斷的更新

❻ python loadtxt（）讀取.csv文件

用 csv 包讀取 csv，而不是用 loadtxt 包 ……
csv 包是 python 內置的標准庫

❼ Python中 怎麼對csv中的某一列進行取lg呢

這取決於你csv文件是怎麼讀進來的。
是直接open()讀入的
還是用numpy讀入的
或者使用pyexcel讀入的呢?
每個包對於列的操作各不相同。

❽ python 讀取CSV 文件

讀取一個CSV 文件

最全的

一個簡化版本

filepath_or_buffer : str，pathlib。str, pathlib.Path, py._path.local.LocalPath or any object with a read() method (such as a file handle or StringIO)

可以是URL，可用URL類型包括：http, ftp, s3和文件。對於多文件正在准備中

本地文件讀取實例：://localhost/path/to/table.csv

**sep **: str, default 『,』

指定分隔符。如果不指定參數，則會嘗試使用逗號分隔。分隔符長於一個字元並且不是『s+』,將使用python的語法分析器。並且忽略數據中的逗號。正則表達式例子：' '

**delimiter **: str, default None

定界符，備選分隔符（如果指定該參數，則sep參數失效）

delim_whitespace : boolean, default False.

指定空格(例如』 『或者』 『)是否作為分隔符使用，等效於設定sep='s+'。如果這個參數設定為Ture那麼delimiter 參數失效。

在新版本0.18.1支持

header : int or list of ints, default 『infer』

指定行數用來作為列名，數據開始行數。如果文件中沒有列名，則默認為0，否則設置為None。如果明確設定header=0 就會替換掉原來存在列名。header參數可以是一個list例如：[0,1,3]，這個list表示將文件中的這些行作為列標題（意味著每一列有多個標題），介於中間的行將被忽略掉。

注意：如果skip_blank_lines=True 那麼header參數忽略注釋行和空行，所以header=0表示第一行數據而不是文件的第一行。

**names **: array-like, default None

用於結果的列名列表，如果數據文件中沒有列標題行，就需要執行header=None。默認列表中不能出現重復，除非設定參數mangle_pe_cols=True。

index_col : int or sequence or False, default None

用作行索引的列編號或者列名，如果給定一個序列則有多個行索引。

如果文件不規則，行尾有分隔符，則可以設定index_col=False 來是的pandas不適用第一列作為行索引。

usecols : array-like, default None

返回一個數據子集，該列表中的值必須可以對應到文件中的位置（數字可以對應到指定的列）或者是字元傳為文件中的列名。例如：usecols有效參數可能是 [0,1,2]或者是 [『foo』, 『bar』, 『baz』]。使用這個參數可以加快載入速度並降低內存消耗。

as_recarray : boolean, default False

不贊成使用：該參數會在未來版本移除。請使用pd.read_csv(...).to_records()替代。

返回一個Numpy的recarray來替代DataFrame。如果該參數設定為True。將會優先squeeze參數使用。並且行索引將不再可用，索引列也將被忽略。

**squeeze **: boolean, default False

如果文件值包含一列，則返回一個Series

**prefix **: str, default None

在沒有列標題時，給列添加前綴。例如：添加『X』 成為 X0, X1, ...

**mangle_pe_cols **: boolean, default True

重復的列，將『X』...』X』表示為『X.0』...』X.N』。如果設定為false則會將所有重名列覆蓋。

dtype : Type name or dict of column -> type, default None

每列數據的數據類型。例如 {『a』: np.float64, 『b』: np.int32}

**engine **: {『c』, 『python』}, optional

Parser engine to use. The C engine is faster while the python engine is currently more feature-complete.

使用的分析引擎。可以選擇C或者是python。C引擎快但是Python引擎功能更加完備。

converters : dict, default None

列轉換函數的字典。key可以是列名或者列的序號。

true_values : list, default None

Values to consider as True

false_values : list, default None

Values to consider as False

**skipinitialspace **: boolean, default False

忽略分隔符後的空白（默認為False，即不忽略）.

skiprows : list-like or integer, default None

需要忽略的行數（從文件開始處算起），或需要跳過的行號列表（從0開始）。

skipfooter : int, default 0

從文件尾部開始忽略。 (c引擎不支持)

skip_footer : int, default 0

不推薦使用：建議使用skipfooter ，功能一樣。

nrows : int, default None

需要讀取的行數（從文件頭開始算起）。

na_values : scalar, str, list-like, or dict, default None

一組用於替換NA/NaN的值。如果傳參，需要制定特定列的空值。默認為『1.#IND』, 『1.#QNAN』, 『N/A』, 『NA』, 『NULL』, 『NaN』, 『nan』`.

**keep_default_na **: bool, default True

如果指定na_values參數，並且keep_default_na=False，那麼默認的NaN將被覆蓋，否則添加。

**na_filter **: boolean, default True

是否檢查丟失值（空字元串或者是空值）。對於大文件來說數據集中沒有空值，設定na_filter=False可以提升讀取速度。

verbose : boolean, default False

是否列印各種解析器的輸出信息，例如：「非數值列中缺失值的數量」等。

skip_blank_lines : boolean, default True

如果為True，則跳過空行；否則記為NaN。

**parse_dates **: boolean or list of ints or names or list of lists or dict, default False

infer_datetime_format : boolean, default False

如果設定為True並且parse_dates 可用，那麼pandas將嘗試轉換為日期類型，如果可以轉換，轉換方法並解析。在某些情況下會快5~10倍。

**keep_date_col **: boolean, default False

如果連接多列解析日期，則保持參與連接的列。默認為False。

date_parser : function, default None

用於解析日期的函數，默認使用dateutil.parser.parser來做轉換。Pandas嘗試使用三種不同的方式解析，如果遇到問題則使用下一種方式。

1.使用一個或者多個arrays（由parse_dates指定）作為參數；

2.連接指定多列字元串作為一個列作為參數；

3.每行調用一次date_parser函數來解析一個或者多個字元串（由parse_dates指定）作為參數。

**dayfirst **: boolean, default False

DD/MM格式的日期類型

**iterator **: boolean, default False

返回一個TextFileReader 對象，以便逐塊處理文件。

chunksize : int, default None

文件塊的大小， See IO Tools docs for more information on iterator and chunksize.

compression : {『infer』, 『gzip』, 『bz2』, 『zip』, 『xz』, None}, default 『infer』

直接使用磁碟上的壓縮文件。如果使用infer參數，則使用 gzip, bz2, zip或者解壓文件名中以『.gz』, 『.bz2』, 『.zip』, or 『xz』這些為後綴的文件，否則不解壓。如果使用zip，那麼ZIP包中國必須只包含一個文件。設置為None則不解壓。

新版本0.18.1版本支持zip和xz解壓

thousands : str, default None

千分位分割符，如「，」或者「."

decimal : str, default 『.』

字元中的小數點 (例如：歐洲數據使用』，『).

float_precision : string, default None

Specifies which converter the C engine should use for floating-point values. The options are None for the ordinary converter, high for the high-precision converter, and round_trip for the round-trip converter.

指定

**lineterminator **: str (length 1), default None

行分割符，只在C解析器下使用。

**quotechar **: str (length 1), optional

引號，用作標識開始和解釋的字元，引號內的分割符將被忽略。

quoting : int or csv.QUOTE_* instance, default 0

控制csv中的引號常量。可選 QUOTE_MINIMAL (0), QUOTE_ALL (1), QUOTE_NONNUMERIC (2) or QUOTE_NONE (3)

doublequote : boolean, default True

雙引號，當單引號已經被定義，並且quoting 參數不是QUOTE_NONE的時候，使用雙引號表示引號內的元素作為一個元素使用。

escapechar : str (length 1), default None

當quoting 為QUOTE_NONE時，指定一個字元使的不受分隔符限值。

comment : str, default None

標識著多餘的行不被解析。如果該字元出現在行首，這一行將被全部忽略。這個參數只能是一個字元，空行（就像skip_blank_lines=True）注釋行被header和skiprows忽略一樣。例如如果指定comment='#' 解析『#empty a,b,c 1,2,3』 以header=0 那麼返回結果將是以』a,b,c'作為header。

encoding : str, default None

指定字元集類型，通常指定為'utf-8'. List of Python standard encodings

dialect : str or csv.Dialect instance, default None

如果沒有指定特定的語言，如果sep大於一個字元則忽略。具體查看csv.Dialect 文檔

tupleize_cols : boolean, default False

Leave a list of tuples on columns as is (default is to convert to a Multi Index on the columns)

error_bad_lines : boolean, default True

如果一行包含太多的列，那麼默認不會返回DataFrame ，如果設置成false，那麼會將改行剔除（只能在C解析器下使用）。

warn_bad_lines : boolean, default True

如果error_bad_lines =False，並且warn_bad_lines =True 那麼所有的「bad lines」將會被輸出（只能在C解析器下使用）。

**low_memory **: boolean, default True

分塊載入到內存，再低內存消耗中解析。但是可能出現類型混淆。確保類型不被混淆需要設置為False。或者使用dtype 參數指定類型。注意使用chunksize 或者iterator 參數分塊讀入會將整個文件讀入到一個Dataframe，而忽略類型（只能在C解析器中有效）

**buffer_lines **: int, default None

不推薦使用，這個參數將會在未來版本移除，因為他的值在解析器中不推薦使用

compact_ints : boolean, default False

不推薦使用，這個參數將會在未來版本移除

如果設置compact_ints=True ，那麼任何有整數類型構成的列將被按照最小的整數類型存儲，是否有符號將取決於use_unsigned 參數

use_unsigned : boolean, default False

不推薦使用：這個參數將會在未來版本移除

如果整數列被壓縮(i.e. compact_ints=True)，指定被壓縮的列是有符號還是無符號的。

memory_map : boolean, default False

如果使用的文件在內存內，那麼直接map文件使用。使用這種方式可以避免文件再次進行IO操作。

ref：
http://pandas.pydata.org/pandas-docs/stable/generated/pandas.read_csv.html

❾ python如何導入數據

通過標準的Python庫導入CSV文件：

Python提供了一個標準的類庫CSV文件。這個類庫中的reader()函數用來導入CSV文件。當CSV文件被讀入後，可以利用這些數據生成一個NumPy數組，用來訓練演算法模型：

❿ 怎麼將Python的運行結果導出為csv格式

將 list 或 numpy.narray 類型的數據導出為csv文件（同理可擴展到導出為excel，即寫入的文件格式為xls，且最後使用to_excel()方法）