目前編程最常用的機器學習庫

㈠ spark和hadoop的區別

直接比較Hadoop和Spark有難度，因為它們處理的許多任務都一樣，但是在一些方面又並不相互重疊。

比如說，Spark沒有文件管理功能，因而必須依賴Hadoop分布式文件系統(HDFS)或另外某種解決方案。

Hadoop框架的主要模塊包括如下：

• Hadoop Common

• Hadoop分布式文件系統(HDFS)

• Hadoop YARN

• Hadoop MapRece

雖然上述四個模塊構成了Hadoop的核心，不過還有其他幾個模塊。這些模塊包括：Ambari、Avro、Cassandra、Hive、 Pig、Oozie、Flume和Sqoop，它們進一步增強和擴展了Hadoop的功能。

Spark確實速度很快(最多比Hadoop MapRece快100倍)。Spark還可以執行批量處理，然而它真正擅長的是處理流工作負載、互動式查詢和機器學習。

相比MapRece基於磁碟的批量處理引擎，Spark賴以成名之處是其數據實時處理功能。Spark與Hadoop及其模塊兼容。實際上，在Hadoop的項目頁面上，Spark就被列為是一個模塊。

Spark有自己的頁面，因為雖然它可以通過YARN(另一種資源協調者)在Hadoop集群中運行，但是它也有一種獨立模式。它可以作為 Hadoop模塊來運行，也可以作為獨立解決方案來運行。

MapRece和Spark的主要區別在於，MapRece使用持久存儲，而Spark使用彈性分布式數據集(RDDS)。

性能

Spark之所以如此快速，原因在於它在內存中處理一切數據。沒錯，它還可以使用磁碟來處理未全部裝入到內存中的數據。

Spark的內存處理為來自多個來源的數據提供了近乎實時分析的功能：營銷活動、機器學習、物聯網感測器、日誌監控、安全分析和社交媒體網站。另 外，MapRece使用批量處理，其實從來就不是為驚人的速度設計的。它的初衷是不斷收集來自網站的信息，不需要這些數據具有實時性或近乎實時性。

易用性

支持Scala(原生語言)、java、python和Spark SQL。Spark SQL非常類似於SQL 92，所以幾乎不需要經歷一番學習，馬上可以上手。

Spark還有一種交互模式，那樣開發人員和用戶都可以獲得查詢和其他操作的即時反饋。MapRece沒有交互模式，不過有了Hive和Pig等附加模塊，採用者使用MapRece來得容易一點。

成本

「Spark已證明在數據多達PB的情況下也輕松自如。它被用於在數量只有十分之一的機器上，對100TB數據進行排序的速度比Hadoop MapRece快3倍。」這一成績讓Spark成為2014年Daytona GraySort基準。

兼容性

MapRece和Spark相互兼容;MapRece通過JDBC和ODC兼容諸多數據源、文件格式和商業智能工具，Spark具有與MapRece同樣的兼容性。

數據處理

MapRece是一種批量處理引擎。MapRece以順序步驟來操作，先從集群讀取數據，然後對數據執行操作，將結果寫回到集群，從集群讀 取更新後的數據，執行下一個數據操作，將那些結果寫回到結果，依次類推。Spark執行類似的操作，不過是在內存中一步執行。它從集群讀取數據後，對數據 執行操作，然後寫回到集群。

Spark還包括自己的圖形計算庫GraphX。GraphX讓用戶可以查看與圖形和集合同樣的數據。用戶還可以使用彈性分布式數據集(RDD)，改變和聯合圖形，容錯部分作了討論。

容錯

至於容錯，MapRece和Spark從兩個不同的方向來解決問題。MapRece使用TaskTracker節點，它為 JobTracker節點提供了心跳(heartbeat)。如果沒有心跳，那麼JobTracker節點重新調度所有將執行的操作和正在進行的操作，交 給另一個TaskTracker節點。這種方法在提供容錯性方面很有效，可是會大大延長某些操作(即便只有一個故障)的完成時間。

Spark使用彈性分布式數據集(RDD)，它們是容錯集合，裡面的數據元素可執行並行操作。RDD可以引用外部存儲系統中的數據集，比如共享式文件系統、HDFS、HBase，或者提供Hadoop InputFormat的任何數據源。Spark可以用Hadoop支持的任何存儲源創建RDD，包括本地文件系統，或前面所列的其中一種文件系統。

RDD擁有五個主要屬性：

• 分區列表

• 計算每個分片的函數

• 依賴其他RDD的項目列表

• 面向鍵值RDD的分區程序(比如說RDD是散列分區)，這是可選屬性

• 計算每個分片的首選位置的列表(比如HDFS文件的數據塊位置)，這是可選屬性

RDD可能具有持久性，以便將數據集緩存在內存中。這樣一來，以後的操作大大加快，最多達10倍。Spark的緩存具有容錯性，原因在於如果RDD的任何分區丟失，就會使用原始轉換，自動重新計算。

可擴展性

按照定義，MapRece和Spark都可以使用HDFS來擴展。那麼，Hadoop集群能變得多大呢?

據稱雅虎有一套42000個節點組成的Hadoop集群，可以說擴展無極限。最大的已知Spark集群是8000個節點，不過隨著大數據增多，預計集群規模也會隨之變大，以便繼續滿足吞吐量方面的預期。

安全

Hadoop支持Kerberos身份驗證，這管理起來有麻煩。然而，第三方廠商讓企業組織能夠充分利用活動目錄Kerberos和LDAP用於身份驗證。同樣那些第三方廠商還為傳輸中數據和靜態數據提供數據加密。

Hadoop分布式文件系統支持訪問控制列表(ACL)和傳統的文件許可權模式。Hadoop為任務提交中的用戶控制提供了服務級授權(Service Level Authorization)，這確保客戶擁有正確的許可權。

Spark的安全性弱一點，目前只支持通過共享密鑰(密碼驗證)的身份驗證。Spark在安全方面帶來的好處是，如果你在HDFS上運行Spark，它可以使用HDFS ACL和文件級許可權。此外，Spark可以在YARN上運行，因而能夠使用Kerberos身份驗證。

總結

Spark與MapRece是一種相互共生的關系。Hadoop提供了Spark所沒有的功能特性，比如分布式文件系統，而Spark 為需要它的那些數據集提供了實時內存處理。完美的大數據場景正是設計人員當初預想的那樣：讓Hadoop和Spark在同一個團隊裡面協同運行。

然後看這篇文章：Link



註：對下面這一段持保留意見：

此外我們這里還要講到的是一個關於spark的重要誤區—「spark是基於內存的技術」。它不是基於內存的技術；spark是一個管道式的執行引擎，而且在shuffle的過程中會將數據寫入磁碟(比如說，如果我們想針對某個欄位做聚合操作)、如果內存不夠的話也一樣會內存溢出(但是內存可以調整)。因此，spark之所以比MapRece快主要是因為它是管道式處理方式而不是有些人說的「基於內存的優化」。當然，spark在內存中做了緩存來提高性能，但這不是spark真正工作快的原因。

現在，我們再來完整比對一下：

1. MapRece可以被Spark Core替換？是的，它會隨著時間的推移被替代，而且這種替代是合理的。但是spark目前還不是特別成熟能完全替代MapRece。此外，也沒有人會完全放棄MapRece,除非所有依賴MapRece的工具都有可替代方案。比如說，想要在pig上運行的腳本能在spark上執行還是有些工作要做的。

（註：Pig是一種數據流語言，用來快速輕松的處理巨大的數據，雅虎推出的，現在正在走下坡路。Pig可以非常方便的處理HDFS和HBase的數據，和Hive一樣,Pig可以非常高效的處理其需要做的，通過直接操作Pig查詢可以節省大量的勞動和時間。當你想在你的數據上做一些轉換，並且不想編寫MapRece jobs就可以用Pig.）

2. Hive可以被Spark SQL替換？是的，這又是對的。但是我們需要理解的是Spark SQL對於spark本身來說還是比較年輕的，大概要年輕1.5倍。相對於比較成熟的Hive來說它只能算是玩具了吧，我將在一年半到兩年之內再回頭來看Spark SQL.。如果我們還記得的話，兩到三年前Impala就號稱要終結Hive,但是截止到目前兩種技術也還是共存狀態，Impala並沒有終結Hive。在這里對於Spark SQL來說也是一樣的。

3. Storm可以被Spark Streaming替換？是的，可以替換。只不過平心而論storm並不是Hadoop生態系統中的一員，因為它是完全獨立的工具。他們的計算模型並不太形同，所以我不認為storm會消失，反而仍會作為一個商業產品。

4. Mahout可以被MLib替換？公平的講，Machout已經失去了市場，而且從過去的幾年來看它正在快速失去市場。對於這個工具，我們可以說這里是Spark真正可以替換Hadoop生態系統中的地方。 (註：同意！Spark的ML非常好用！要好好學！)

因此，總的來說，這篇文章的結論是：

1.不要被大數據供應商的包裝所愚弄。他們大量推進的是市場而不是最終的真理。Hadoop最開始是被設計為可擴展的框架，而且其中很多部分是可替換的：可以將HDFS替換為Tachyon（現在新的名字是Alluxio），可以將YARN替換為Mesos，可以將MapRece替換為Tez並且在Tez之上可以運行Hive。這將會是Hadoop技術棧的可選方案或者完全替代方案？倘若我們放棄的MR（MapRece）而使用Tez,那麼它還會是Hadoop嗎？

2. Spark不能為我們提供完整的技術棧。它允許我們將它的功能集成到我們的Hadoop集群中並且從中獲益，而不用完全脫離我們老的集群方案。

3. Spark還不夠成熟。我認為在過三到四年我們就不會再叫「Hadoop棧」而是叫它「大數據棧」或者類似的稱呼。因為在大數據棧中我們有很廣泛的選擇可以選出不同的開源產品來組合在一起形成一個單獨的技術棧使用。

㈡ 計算機什麼編程語言常常會應用於人工智慧的開發庫

Python

㈢ 想學習編程學哪個比較好呢

1、java-大眾化的編程語言

Java是歷史最悠久的編程語言之一。Java可謂是Web應用程序、桌面程序、操作系統及更多系統的立足之本。這種面向對象、基於類的編程語言廣泛使用;此外，它也是最受歡迎的語言之一。

2、python-最好的編程語言

Python 是一種模塊化的、易於學習的、面向對象的解釋型計算機程序設計語言。Web應用、用戶界面、數據分析、數據統計——無論是什麼問題，Python都有框架可以解決。用Python編寫的許多開源庫能夠實現數據科學廣泛使用的一些核心的機器學習演算法。

最近，由於對大數據分析和機器學習演算法的需求的增長，對Python的需求也在快速增長。數據科學家也將其當作篩選大型數據集的一個關鍵工具。

3、C/C++

C和C++都是優秀的入門編程語言。如果你對游戲開發很有興趣，C++是一種優秀的入門語言，因為除了Web開發應用程序、移動應用程序和桌面應用程序外，它還經常用於開發游戲和游戲引擎。

C和C++都不僅僅為編程提供了入門知識，還為整個計算機學提供了入門知識。即便你將注意力集中在其他編程語言上，C/C++提供的基礎性知識也很有價值。

不過，C++在最初階段對初學者來說可能頗具挑戰性。如果你能夠克服這個困難，那麼將會大有回報。

4、C#-微軟家族各種應用的首選

C#是微軟公司發布的一種面向對象的、運行於.NET Framework之上的高級程序設計語言，並定於在微軟職業開發者論壇(PDC)上登台亮相。C#是微軟公司研究員Anders Hejlsberg的最新成果。C#看起來與Java有著驚人的相似;它包括了諸如單一繼承、介面等與Java幾乎同樣的語法和編譯成中間代碼再運行的過程。
5.Visual Basic .NET

Visual Basic .NET與去年一樣，在指數中繼續保持第六位。它是微軟的OOP語言之一，結合了基於.NET框架的類和運行時環境的強大功能。它自VB6衍生而來，擅長開發GUI應用程序，為程序員簡化了任務，並提高生產力。對於程序員來說，除了Web服務和Web開發外，VB.NET還為針對Windows平台開發桌面應用程序提供了一種快速簡單的方法。

㈣ 吐血整理：C++編程語言資源匯總

關於 C++ 框架、庫和資源的一些匯總列表，內容包括：標准庫、Web應用框架、人工智慧、資料庫、圖片處理、機器學習、日誌、代碼分析等。有需要的小夥伴可以收藏一下！

C++標准庫，包括了STL容器，演算法和函數等。

C++ Standard Library：是一系列類和函數的集合，使用核心語言編寫，也是C++ISO自身標準的一部分。

Standard Template Library：標准模板庫

C POSIX library ： POSIX系統的C標准庫規范

ISO C++ Standards Committee ：C++標准委員會

C++通用框架和庫

Apache C++ Standard Library：是一系列演算法，容器，迭代器和其他基本組件的集合

ASL ：Adobe源代碼庫提供了同行的評審和可移植的C++源代碼庫。

Boost ：大量通用C++庫的集合。

BDE ：來自於彭博資訊實驗室的開發環境。

Cinder：提供專業品質創造性編碼的開源開發社區。

Cxxomfort：輕量級的，只包含頭文件的庫，將C++ 11的一些新特性移植到C++03中。

Dlib：使用契約式編程和現代C++ 科技 設計的通用的跨平台的C++庫。

EASTL ：EA-STL公共部分

ffead-cpp ：企業應用程序開發框架

Folly：由Facebook開發和使用的開源C++庫

JUCE ：包羅萬象的C++類庫，用於開發跨平台軟體

libPhenom：用於構建高性能和高度可擴展性系統的事件框架。

LibSourcey ：用於實時的視頻流和高性能網路應用程序的C++11 evented IO

LibU ： C語言寫的多平台工具庫

Loki ：C++庫的設計，包括常見的設計模式和習語的實現。

MiLi ：只含頭文件的小型C++庫

openFrameworks ：開發C++工具包，用於創意性編碼。

Qt ：跨平台的應用程序和用戶界面框架

Reason ：跨平台的框架，使開發者能夠更容易地使用Java，.Net和Python，同時也滿足了他們對C++性能和優勢的需求。

ROOT ：具備所有功能的一系列面向對象的框架，能夠非常高效地處理和分析大量的數據，為歐洲原子能研究機構所用。

STLport：是STL具有代表性的版本

STXXL：用於額外的大型數據集的標准模板庫。

Ultimate++ ：C++跨平台快速應用程序開發框架

Windows Template Library：用於開發Windows應用程序和UI組件的C++庫

Yomm11 ：C++11的開放multi-methods.

btsk ： 游戲 行為樹啟動器工具

Evolving Objects：基於模板的，ANSI C++演化計算庫，能夠幫助你非常快速地編寫出自己的隨機優化演算法。

Neu：C++11框架，編程語言集，用於創建人工智慧應用程序的多用途軟體系統。

Boost.Asio：用於網路和底層I/O編程的跨平台的C++庫。

libev ：功能齊全，高性能的時間循環，輕微地仿效libevent，但是不再像libevent一樣有局限性，也修復了它的一些bug。

libevent ：事件通知庫

libuv ：跨平台非同步I/O。

音頻，聲音，音樂，數字化音樂庫

FMOD ：易於使用的跨平台的音頻引擎和音頻內容的 游戲 創作工具。

Maximilian ：C++音頻和音樂數字信號處理庫

OpenAL ：開源音頻庫—跨平台的音頻API

Opus：一個完全開放的，免版稅的，高度通用的音頻編解碼器

Speex：免費編解碼器，為Opus所廢棄

Tonic： C++易用和高效的音頻合成

Vorbis： Ogg Vorbis是一種完全開放的，非專有的，免版稅的通用壓縮音頻格式。

生物信息，基因組學和生物技術

libsequence：用於表示和分析群體遺傳學數據的C++庫。

SeqAn：專注於生物數據序列分析的演算法和數據結構。

Vcflib ：用於解析和處理VCF文件的C++庫

Wham：直接把聯想測試應用到BAM文件的基因結構變異。

壓縮和歸檔庫

bzip2：一個完全免費，免費專利和高質量的數據壓縮

doboz：能夠快速解壓縮的壓縮庫

PhysicsFS：對各種歸檔提供抽象訪問的庫，主要用於視頻 游戲 ，設計靈感部分來自於Quake3的文件子系統。

KArchive：用於創建，讀寫和操作文件檔案（例如zip和 tar）的庫，它通過QIODevice的一系列子類，使用gzip格式，提供了透明的壓縮和解壓縮的數據。

LZ4 ：非常快速的壓縮演算法

LZHAM ：無損壓縮資料庫，壓縮比率跟LZMA接近，但是解壓縮速度卻要快得多。

LZMA ：7z格式默認和通用的壓縮方法。

LZMAT ：及其快速的實時無損數據壓縮庫

miniz：單一的C源文件，緊縮/膨脹壓縮庫，使用zlib兼容API，ZIP歸檔讀寫，PNG寫方式。

Minizip：Zlib最新bug修復，支持PKWARE磁碟跨越，AES加密和IO緩沖。

Snappy ：快速壓縮和解壓縮

ZLib ：非常緊湊的數據流壓縮庫

ZZIPlib：提供ZIP歸檔的讀許可權。

並發執行和多線程

Boost.Compute ：用於OpenCL的C++GPU計算庫

Bolt ：針對GPU進行優化的C++模板庫

C++React ：用於C++11的反應性編程庫

Intel TBB ：Intel線程構件塊

Libclsph：基於OpenCL的GPU加速SPH流體模擬庫

OpenCL ：並行編程的異構系統的開放標准

OpenMP：OpenMP API

Thrust ：類似於C++標准模板庫的並行演算法庫

HPX ：用於任何規模的並行和分布式應用程序的通用C++運行時系統

VexCL ：用於OpenCL/CUDA 的C++向量表達式模板庫。

C++ B-tree ：基於B樹數據結構，實現命令內存容器的模板庫

Hashmaps： C++中開放定址哈希表演算法的實現

Bcrypt ：一個跨平台的文件加密工具，加密文件可以移植到所有可支持的操作系統和處理器中。

BeeCrypt：

Botan： C++加密庫

Crypto++：一個有關加密方案的免費的C++庫

GnuPG： OpenPGP標準的完整實現

GnuTLS ：實現了SSL，TLS和DTLS協議的安全通信庫

Libgcrypt

libmcrypt

LibreSSL：免費的SSL/TLS協議，屬於2014 OpenSSL的一個分支

LibTomCrypt：一個非常全面的，模塊化的，可移植的加密工具

libsodium：基於NaCI的加密庫，固執己見，容易使用

Nettle 底層的加密庫

OpenSSL ： 一個強大的，商用的，功能齊全的，開放源代碼的加密庫。

Tiny AES128 in C ：用C實現的一個小巧，可移植的實現了AES128ESB的加密演算法

資料庫，SQL伺服器，ODBC驅動程序和工具

hiberlite ：用於Sqlite3的C++對象關系映射

Hiredis： 用於Redis資料庫的很簡單的C客戶端庫

LevelDB： 快速鍵值存儲庫

LMDB：符合資料庫四大基本元素的嵌入鍵值存儲

MySQL++：封裝了MySql的C API的C++ 包裝器

RocksDB：來自Facebook的嵌入鍵值的快速存儲

SQLite：一個完全嵌入式的，功能齊全的關系資料庫，只有幾百KB，可以正確包含到你的項目中。

調試庫， 內存和資源泄露檢測，單元測試

Boost.Test：Boost測試庫

Catch：一個很 時尚 的，C++原生的框架，只包含頭文件，用於單元測試，測試驅動開發和行為驅動開發。

CppUnit：由JUnit移植過來的C++測試框架

CTest：CMake測試驅動程序

googletest：谷歌C++測試框架

ig-debugheap：用於跟蹤內存錯誤的多平台調試堆

libtap：用C語言編寫測試

MemTrack —用於C++跟蹤內存分配

microprofile- 跨平台的網路試圖分析器

minUnit ：使用C寫的迷你單元測試框架，只使用了兩個宏

Remotery：用於web視圖的單一C文件分析器

UnitTest++：輕量級的C++單元測試框架

Cocos2d-x ：一個跨平台框架，用於構建2D 游戲 ，互動圖書，演示和其他圖形應用程序。

Grit ：社區項目，用於構建一個免費的 游戲 引擎，實現開放的世界3D 游戲 。

Irrlicht ：C++語言編寫的開源高性能的實時#D引擎

Polycode：C++實現的用於創建 游戲 的開源框架（與Lua綁定）。

CEGUI ： 很靈活的跨平台GUI庫

FLTK ：快速，輕量級的跨平台的C++GUI工具包。

GTK+： 用於創建圖形用戶界面的跨平台工具包

gtkmm ：用於受歡迎的GUI庫GTK+的官方C++介面。

imgui：擁有最小依賴關系的立即模式圖形用戶界面

libRocket ：libRocket 是一個C++ HTML/CSS 游戲 介面中間件

MyGUI ：快速，靈活，簡單的GUI

Ncurses：終端用戶界面

QCustomPlot ：沒有更多依賴關系的Qt繪圖控制項

Qwt ：用戶與技術應用的Qt 控制項

QwtPlot3D ：功能豐富的基於Qt/OpenGL的C++編程庫，本質上提供了一群3D控制項

OtterUI ：OtterUI 是用於嵌入式系統和互動 娛樂 軟體的用戶界面開發解決方案

PDCurses 包含源代碼和預編譯庫的公共圖形函數庫

wxWidgets C++庫，允許開發人員使用一個代碼庫可以為widows， Mac OS X，Linux和其他平台創建應用程序

bgfx：跨平台的渲染庫

Cairo：支持多種輸出設備的2D圖形庫

Horde3D 一個小型的3D渲染和動畫引擎

magnum C++11和OpenGL 2D/3D 圖形引擎

Ogre 3D 用C++編寫的一個面向場景，實時，靈活的3D渲染引擎（並非 游戲 引擎）

OpenSceneGraph 具有高性能的開源3D圖形工具包

Panda3D 用於3D渲染和 游戲 開發的框架，用Python和C++編寫。

Skia 用於繪制文字，圖形和圖像的完整的2D圖形庫

urho3d 跨平台的渲染和 游戲 引擎。

Boost.GIL：通用圖像庫

CImg ：用於圖像處理的小型開源C++工具包

CxImage ：用於載入，保存，顯示和轉換的圖像處理和轉換庫，可以處理的圖片格式包括 BMP, JPEG, GIF, PNG, TIFF, MNG, ICO, PCX, TGA, WMF, WBMP, JBG, J2K。

FreeImage ：開源庫，支持現在多媒體應用所需的通用圖片格式和其他格式。

GDCM：Grassroots DICOM 庫

ITK：跨平台的開源圖像分析系統

Magick++：ImageMagick程序的C++介面

MagickWnd：ImageMagick程序的C++介面

OpenCV ： 開源計算機視覺類庫

tesseract-ocr：OCR引擎

VIGRA ：用於圖像分析通用C++計算機視覺庫

VTK ：用於3D計算機圖形學，圖像處理和可視化的開源免費軟體系統。

最後， 對於學習編程或者在工作想升職的程序員兄弟，如果你想更好的提升你的編程能力幫助你提升水平！ 筆者這里或許可以幫到你~

編程學習書籍分享：

編程學習視頻分享：

分享（源碼、項目實戰視頻、項目筆記，基礎入門教程）

歡迎轉行和學習編程的夥伴，利用更多的資料學習成長比自己琢磨更快哦！

㈤ windows11與那個python兼容

windows11支持python3.5，還有python3.9都支持，不支持python2。Python是一種跨平台的計算機程序設計語言。 是一個高層次的結合了解釋性、編譯性、互動性和面向對象的腳本語言。

㈥ Python 最重要的庫都有哪些

第一、NumPy

NumPy是Numerical
Python的簡寫，是Python數值計算的基石。它提供多種數據結構、演算法以及大部分涉及Python數值計算所需的介面。NumPy還包括其他內容：

①快速、高效的多維數組對象ndarray

②基於元素的數組計算或數組間數學操作函數

③用於讀寫硬碟中基於數組的數據集的工具

④線性代數操作、傅里葉變換以及隨機數生成

除了NumPy賦予Python的快速數組處理能力之外，NumPy的另一個主要用途是在演算法和庫之間作為數據傳遞的數據容器。對於數值數據，NumPy數組能夠比Python內建數據結構更為高效地存儲和操作數據。

第二、pandas

pandas提供了高級數據結構和函數，這些數據結構和函數的設計使得利用結構化、表格化數據的工作快速、簡單、有表現力。它出現於2010年，幫助Python成為強大、高效的數據分析環境。常用的pandas對象是DataFrame，它是用於實現表格化、面向列、使用行列標簽的數據結構;以及Series，一種一維標簽數組對象。

pandas將表格和關系型資料庫的靈活數據操作能力與Numpy的高性能數組計算的理念相結合。它提供復雜的索引函數，使得數據的重組、切塊、切片、聚合、子集選擇更為簡單。由於數據操作、預處理、清洗在數據分析中是重要的技能，pandas將是重要主題。

第三、matplotlib

matplotlib是最流行的用於制圖及其他二維數據可視化的Python庫，它由John D.
Hunter創建，目前由一個大型開發者團隊維護。matplotlib被設計為適合出版的制圖工具。

對於Python編程者來說也有其他可視化庫，但matplotlib依然使用最為廣泛，並且與生態系統的其他庫良好整合。

第四、IPython

IPython項目開始於2001年，由Fernando
Pérez發起，旨在開發一個更具交互性的Python解釋器。在過去的16年中，它成為Python數據技術棧中最重要的工具之一。

盡管它本身並不提供任何計算或數據分析工具，它的設計側重於在交互計算和軟體開發兩方面將生產力最大化。它使用了一種執行-探索工作流來替代其他語言中典型的編輯-編譯-運行工作流。它還提供了針對操作系統命令行和文件系統的易用介面。由於數據分析編碼工作包含大量的探索、試驗、試錯和遍歷，IPython可以使你更快速地完成工作。

第五、SciPy

SciPy是科學計算領域針對不同標准問題域的包集合。以下是SciPy中包含的一些包：

①scipy.integrate數值積分常式和微分方程求解器

②scipy.linalg線性代數常式和基於numpy.linalg的矩陣分解

③scipy.optimize函數優化器和求根演算法

④scipy.signal信號處理工具

⑤scipy.sparse稀疏矩陣與稀疏線性系統求解器

SciPy與Numpy一起為很多傳統科學計算應用提供了一個合理、完整、成熟的計算基礎。

第六、scikit-learn

scikit-learn項目誕生於2010年，目前已成為Python編程者首選的機器學習工具包。僅僅七年，scikit-learn就擁有了全世界1500位代碼貢獻者。其中包含以下子模塊：

①分類：SVM、最近鄰、隨機森林、邏輯回歸等

②回歸：Lasso、嶺回歸等

③聚類：K-means、譜聚類等

④降維：PCA、特徵選擇、矩陣分解等

⑤模型選擇：網格搜索、交叉驗證、指標矩陣

⑥預處理：特徵提取、正態化

scikit-learn與pandas、statsmodels、IPython一起使Python成為高效的數據科學編程語言。

㈦ 學人工智慧怎麼樣

學習人工智慧 (Artificial Intelligence, AI) 可以讓您掌握一種強大的技術，並在許多領域中應用。目前，人工智慧技術在計算機科學、數學、心理學、認知科學等多個領域都有廣泛應用。

學習人工智慧需要具備一定的數學基礎，尤其是線性代數、微積分、概率論等方面的知識。此外，還需要學習一些常用的編程語言，如 Python、Java 等，並掌握相關的機器學習演算法和工具。

在當前的市場需求下，一些熱門的技術領域包括：

• 編程語言：例如 Python、Java、C++、JavaScript 等。

• 數據分析與可視化：例如 SQL、Excel、Tableau、Power BI 等。

• 機器學習與人工智慧：例如 Python 中的機器學習庫、TensorFlow、PyTorch 等。

• 雲計算：例如 AWS、GCP、Azure 等。

• 移動開發：例如 Android 開發、iOS 開發、Flutter 等。

• 網路與安全：例如 網路基礎知識、Linux 系統管理、網路安全等。

希望以上信息能幫助您。

㈧ rust上能跑sklearn嗎

rust上能跑sklearn。可以使用Rust和Python分別實現了K-Means演算法。rust和sklearn都是學習機里的學習編程。sklearn是針對Python編程語言的免費軟體機器學習庫。sklearn又稱Scikit-learn,是機器學習中常用的第三方模塊,對常用的機器學習方法進行了封裝,包括回歸、降維、分類、聚類等方法。是一項簡單高效的數據挖掘和數據分析工具。

㈨ 機器學習應該看哪些書籍

1、人工智慧編程範例

如果您想接觸最新的人工智慧技術，那麼PeterNorvig寫的人工智慧編程範例將非常適合。

這被廣泛認為是有史以來最好的編程書籍之一。實際的寫作風格很容易遵循。它會引導你在學習的過程中自我發現。而且例子也幫助你用最清晰的方式寫出高質量的LISP程序。

請注意，在打開這本書之前，作者默認你應該有編程經驗。這並不是說你要成為一個編程方面的專家，但如果你從來沒有寫代碼(或者寫的不太好)，那麼你可能在學習的過程中遇到很多困難。

這本書長達900多頁，但它仍然是無可爭議學習人工智慧這一與機器學習非常相關的主題的最好的資源。

2、傻瓜機器學習

以前，我一直是討厭推薦「Formmies」系列的書籍，因為它們都太過簡單直白。但是，由於這本書的作者都是經驗豐富的數據科學家，我決定破一次例。

即使是零基礎，傻瓜機器學習這本書也能讓讀者快速體驗到機器學習的魅力。盡管書中的例子是用python語言寫的，但是其實你並不需要了解python的語法。

在本書中，你將了解到機器學習的歷史以及機器學習與人工智慧的不同。作者為我們詳盡地講解了每一個知識點。

在讀本書之前，你只需要一些數學和邏輯方面的基本知識，而並不需要編程的經驗。如果你在讀這本書前從沒接觸過演算法，可能你會有點痛苦，不過仍然可以做一些互補的研究。