深度演算法是怎麼回事

『壹』 怎樣理解深度優先演算法和廣度優先演算法

胡說八道.... 深度優先:前序遍歷 廣度優先:按層遍歷

『貳』 常見的深度學習演算法主要有哪些

深度學習常見的3種演算法有：卷積神經網路、循環神經網路、生成對抗網路。
卷積神經網路(Convolutional Neural Networks, CNN)是一類包含卷積計算且具有深度結構的前饋神經網路(Feedforward Neural Networks)，是深度學習的代表演算法之一。
循環神經網路(Recurrent Neural Network, RNN)是一類以序列數據為輸入，在序列的演進方向進行遞歸且所有節點(循環單元)按鏈式連接的遞歸神經網路。
生成對抗網路(GAN, Generative Adversarial Networks )是一種深度學習模型，是最近兩年十分熱門的一種無監督學習演算法。

『叄』 什麼是深度學習

隨著阿爾法狗、無人駕駛、智能翻譯的橫空出世，「人工智慧」這個已經存在60多年的詞語，彷彿一夜之間重新成為熱詞。同時被科技圈和企業界廣泛提及的還有「機器學習」「深度學習」「神經網路」…… 但事實是，如此喧囂熱烈的氣氛之下，大部分人對這一領域仍是一知半解。

如果要說誰有資格談論目前正在進行的「人工智慧革命」，特倫斯·謝諾夫斯基（Terry Sejnowski）必然是其中一個。

在智能翻譯、無人駕駛、阿爾法狗、微軟小冰還被認為是遠在天邊的願景時，謝諾夫斯基就已經在為深度學習領域奠定基礎了。

《深度學習：智能時代的核心驅動力量》

中信出版集團 2019.2

Q：首先，我想問一下定義。人們幾乎可以互換地使用「人工智慧」，「神經網路」，「深度學習」和「機器學習」等詞語。 但這些是不同的東西。你能解釋一下嗎？

人工智慧可以追溯到1956年的美國，那時工程師們決定編寫一個試圖仿效智能的計算機程序。

在人工智慧中，一個新領域成長起來，稱為機器學習。不是編寫一個按部就班的程序來做某事——這是人工智慧中的傳統方法——而是你收集了大量關於你試圖理解的事物的數據。例如，設想您正在嘗試識別對象，因此您可以收集大量它們的圖像。然後，通過機器學習，這是一個可以剖析各種特徵的自動化過程，就可以確定一個物體是汽車，而另一個是訂書機。

機器學習是一個非常大的領域，其歷史可以追溯到更久遠的時期。最初，人們稱之為「模式識別」。後來演算法在數學上變得更加廣泛和復雜。

在機器學習中有受大腦啟發的神經網路，然後是深度學習。深度學習演算法具有特定的體系結構，其中有許多層數據流經的網路。

基本上，深度學習是機器學習的一部分，機器學習是人工智慧的一部分。

Q: 有什麼「深度學習」能做而其他程序不能做的嗎？

編寫程序非常耗費人力。在過去，計算機是如此之慢，內存非常昂貴，以至於人們採用邏輯，也就是計算機的工作原理，來編寫程序。他們通過基礎機器語言來操縱信息。計算機太慢了，計算太貴了。

但現在，計算力越來越便宜，勞動力也越來越昂貴。而且計算力變得如此便宜，以至於慢慢地，讓計算機學習會比讓人類編寫程序更有效。在那時，深度學習會開始解決以前沒有人編寫過程序的問題，比如在計算機視覺和翻譯等領域。

機器學習是計算密集型的，但你只需編寫一個程序，通過給它不同的數據集，你可以解決不同的問題。並且你不需要是領域專家。因此，對於存在大量數據的任何事物，都有對應的大量應用程序。

Q：「深度學習」現在似乎無處不在。 它是如何變得如此主導潮流？

我可以在歷史上精確地找到這一特定時刻：2012年12月在NIPS會議（這是最大的AI會議）上。在那裡，計算機科學家Geoff Hinton和他的兩個研究生表明你可以使用一個名為ImageNet的非常大的數據集，包含10,000個類別和1000萬個圖像，並使用深度學習將分類錯誤減少20％。

通常，在該數據集上，錯誤在一年內減少不到1％。 在一年內，20年的研究被跨越了。

這真的打開了潮水的閘門。

Q：深度學習的靈感來自大腦。那麼計算機科學和神經科學這些領域如何協同工作呢？

深度學習的靈感來自神經科學。最成功的深度學習網路是由Yann LeCun開發的卷積神經網路（CNN）。

如果你看一下CNN的架構，它不僅僅是很多單元，它們以一種基本上鏡像大腦的方式連接起來。大腦中被研究的最好的一部分在視覺系統，在對視覺皮層的基礎研究工作中，表明那裡存在簡單和復雜細胞。如果你看一下CNN架構，會發現有簡單細胞和復雜細胞的等價物，這直接來自我們對視覺系統的理解。

Yann沒有盲目地試圖復制皮質。他嘗試了許多不同的變種，但他最終收斂到的方式和那些自然收斂到的方式相同。這是一個重要的觀察。自然與人工智慧的趨同可以教給我們很多東西，而且還有更多的東西要去探索。

Q：我們對計算機科學的理解有多少取決於我們對大腦的理解程度？

我們現在的大部分AI都是基於我們對大腦在60年代的了解。 我們現在知道的更多，並且更多的知識被融入到架構中。

AlphaGo，這個擊敗圍棋冠軍的程序不僅包括皮質模型，還包括大腦的一部分被稱為「基底神經節」的模型，這對於制定一系列決策來實現目標非常重要。 有一種稱為時間差分的演算法，由Richard Sutton在80年代開發，當與深度學習相結合時，能夠進行人類以前從未見過的非常復雜的玩法。

當我們了解大腦的結構，並且當我們開始了解如何將它們集成到人工系統中時，它將提供越來越多的功能，超越我們現在所擁有的。

Q：人工智慧也會影響神經科學嗎？

它們是並行的工作。創新神經技術已經取得了巨大的進步，從一次記錄一個神經元到同時記錄數千個神經元，並且同時涉及大腦的許多部分，這完全開辟了一個全新的世界。

我說人工智慧與人類智能之間存在著一種趨同。隨著我們越來越多地了解大腦如何工作，這些認識將反映到AI中。 但與此同時，他們實際上創造了一整套學習理論，可用於理解大腦，讓我們分析成千上萬的神經元以及他們的活動是如何產生的。 所以神經科學和人工智慧之間存在這種反饋循環，我認為這更令人興奮和重要。

Q：你的書討論了許多不同的深度學習應用，從自動駕駛汽車到金融交易。你覺得哪個特定領域最有趣？

我完全被震撼到的一個應用是生成對抗網路，或稱GANS。使用傳統的神經網路，你給出一個輸入，你得到一個輸出。 GAN能夠在沒有輸入的情況下開展活動 - 產生輸出。

是的，我在這些網路創建假視頻的故事背景下聽說過這個。他們真的會產生看似真實的新事物，對吧？

從某種意義上說，它們會產生內部活動。事實證明這是大腦運作的方式。你可以看某處並看到一些東西，然後你可以閉上眼睛，你可以開始想像出那裡沒有的東西。你有一個視覺想像，當周圍安靜時，你鬧鍾聲會浮現想法。那是因為你的大腦是生成性的。現在，這種新型網路可以生成從未存在過的新模式。所以你可以給它，例如，數百張汽車圖像，它會創建一個內部結構，可以生成從未存在的汽車的新圖像，並且它們看起來完全像汽車。

Q：另一方面，您認為哪些想法可能是過度炒作？

沒有人可以預測或想像這種新技術的引入會對未來的事物組織方式產生什麼影響。當然這其中有炒作。我們還沒有解決真正困難的問題。我們還沒有通用智能，就有人說機器人將不久後會取代我們，其實機器人遠遠落後於人工智慧，因為復制身體被發現比復制大腦更復雜。

讓我們看一下這一種技術進步：激光。它是在大約50年前發明的，當時占據了整個房間。從占據整個房間到我現在演講時使用的激光筆需要50年的技術商業化。它必須被推進到體積足夠小並可以用五美元購買它的程度。同樣的事情將發生在像自動駕駛汽車這樣的被炒作的技術上。它並不被期望在明年或者未來10年，就變得無處不在。這過程可能需要花費50年，但重點是，在此過程中會有逐步推進，使它越來越靈活，更安全，更兼容我們組織運輸網路的方式。炒作的錯誤在於人們的時標設定錯了。他們期待太多事情太快發生，其實事物只在適當的時候。

關於深度學習的問題可以看下這個網頁的視頻講解：AI深度學習---中科院公開課。

『肆』 深度學習主要是學習哪些演算法

深度學習（也稱為深度結構化學習或分層學習）是基於人工神經網路的更廣泛的機器學習方法族的一部分。學習可以是有監督的、半監督的或無監督的。
深度學習架構，例如深度神經網路、深度信念網路、循環神經網路和卷積神經網路，已經被應用於包括計算機視覺、語音識別、自然語言處理、音頻識別、社交網路過濾、機器翻譯、生物信息學、葯物設計、醫學圖像分析、材料檢查和棋盤游戲程序在內的領域，在這些領域中，它們的成果可與人類專家媲美，並且在某些情況下勝過人類專家。
神經網路受到生物系統中信息處理和分布式通信節點的啟發。人工神經網路與生物大腦有各種不同。具體而言，神經網路往往是靜態和象徵性的，而大多數生物的大腦是動態(可塑)和模擬的。
定義
深度學習是一類機器學習演算法： 使用多個層逐步從原始輸入中逐步提取更高級別的特徵。例如，在圖像處理中，較低層可以識別邊緣，而較高層可以識別對人類有意義的部分，例如數字/字母或面部。

『伍』 深度優先演算法 和 寬度優先演算法 的優缺點

1、深度優先演算法佔內存少但速度較慢，廣度優先演算法佔內存多但速度較快，在距離和深度成正比的情況下能較快地求出最優解。
2、深度優先與廣度優先的控制結構和產生系統很相似，唯一的區別在於對擴展節點選取上。由於其保留了所有的前繼節點，所以在產生後繼節點時可以去掉一部分重復的節點，從而提高了搜索效率。
3、這兩種演算法每次都擴展一個節點的所有子節點，而不同的是，深度優先下一次擴展的是本次擴展出來的子節點中的一個，而廣度優先擴展的則是本次擴展的節點的兄弟點。在具體實現上為了提高效率,所以採用了不同的數據結構。

『陸』 求解深度學習演算法是怎麼實現的

現在深度學習在機器學習領域是一個很熱的概念，不過經過各種媒體的轉載播報，這個概念也逐漸變得有些神話的感覺：例如，人們可能認為，深度學習是一種能夠模擬出人腦的神經結構的機器學習方式，從而能夠讓計算機具有人一樣的智慧；而這樣一種技術在將來無疑是前景無限的。那麼深度學習本質上又是一種什麼樣的技術呢？
深度學習是什麼
深度學習是機器學習領域中對模式（聲音、圖像等等）進行建模的一種方法，它也是一種基於統計的概率模型。在對各種模式進行建模之後，便可以對各種模式進行識別了，例如待建模的模式是聲音的話，那麼這種識別便可以理解為語音識別。而類比來理解，如果說將機器學習演算法類比為排序演算法，那麼深度學習演算法便是眾多排序演算法當中的一種（例如冒泡排序），這種演算法在某些應用場景中，會具有一定的優勢。
深度學習的「深度」體現在哪裡
論及深度學習中的「深度」一詞，人們從感性上可能會認為，深度學習相對於傳統的機器學習演算法，能夠做更多的事情，是一種更為「高深」的演算法。而事實可能並非我們想像的那樣，因為從演算法輸入輸出的角度考慮，深度學習演算法與傳統的有監督機器學習演算法的輸入輸出都是類似的，無論是最簡單的Logistic Regression，還是到後來的SVM、boosting等演算法，它們能夠做的事情都是類似的。正如無論使用什麼樣的排序演算法，它們的輸入和預期的輸出都是類似的，區別在於各種演算法在不同環境下的性能不同。
那麼深度學習的「深度」本質上又指的是什麼呢？深度學習的學名又叫深層神經網路（Deep Neural Networks ），是從很久以前的人工神經網路（Artificial Neural Networks）模型發展而來。這種模型一般採用計算機科學中的圖模型來直觀的表達，而深度學習的「深度」便指的是圖模型的層數以及每一層的節點數量，相對於之前的神經網路而言，有了很大程度的提升。
深度學習也有許多種不同的實現形式，根據解決問題、應用領域甚至論文作者取名創意的不同，它也有不同的名字：例如卷積神經網路（Convolutional Neural Networks）、深度置信網路（Deep Belief Networks）、受限玻爾茲曼機（Restricted Boltzmann Machines）、深度玻爾茲曼機（Deep Boltzmann Machines）、遞歸自動編碼

『柒』 深度優先法(DFS)演算法

深度優先法：O(n+e)是指在圖形中，如果以頂點v作為起始開始查找，我們從頂點v的鄰接列表選擇一個未查找過的頂點w，由定點w繼續進行深度優先法的查找，沒查找一個頂點，便把該頂點存放在堆棧。知道查找到已經沒有任何鄰接未遍歷的頂點u，此時回到取出堆棧中的頂點，回到上一層頂點繼續查找未遍歷的頂點，知道所有的頂點皆查找過為止。over~!

『捌』 深度優先演算法的定義

深度優先搜索演算法（Depth-First-Search），是搜索演算法的一種。是沿著樹的深度遍歷樹的節點，盡可能深的搜索樹的分支。當節點v的所有邊都己被探尋過，搜索將回溯到發現節點v的那條邊的起始節點。這一過程一直進行到已發現從源節點可達的所有節點為止。如果還存在未被發現的節點，則選擇其中一個作為源節點並重復以上過程，整個進程反復進行直到所有節點都被訪問為止。屬於盲目搜索。
深度優先搜索是圖論中的經典演算法，利用深度優先搜索演算法可以產生目標圖的相應拓撲排序表，利用拓撲排序表可以方便的解決很多相關的圖論問題，如最大路徑問題等等。
因發明「深度優先搜索演算法」，霍普克洛夫特與陶爾揚共同獲得計算機領域的最高獎：圖靈獎.

『玖』 二叉樹的深度演算法怎麼算啊

二叉樹的深度演算法：
一、遞歸實現基本思想：
為了求得樹的深度，可以先求左右子樹的深度，取二者較大者加1即是樹的深度，遞歸返回的條件是若節點為空，返回0
演算法：
1
int
FindTreeDeep(BinTree
BT){
2
int
deep=0;
3
if(BT){
4
int
lchilddeep=FindTreeDeep(BT->lchild);
5
int
rchilddeep=FindTreeDeep(BT->rchild);
6
deep=lchilddeep>=rchilddeep?lchilddeep+1:rchilddeep+1;
7
}
8
return
deep;
9
}
二、非遞歸實現基本思想：
受後續遍歷二叉樹思想的啟發，想到可以利用後續遍歷的方法來求二叉樹的深度，在每一次輸出的地方替換成算棧S的大小，遍歷結束後最大的棧S長度即是棧的深度。
演算法的執行步驟如下：
（1）當樹非空時，將指針p指向根節點，p為當前節點指針。
（2）將p壓入棧S中，0壓入棧tag中，並令p執行其左孩子。
（3）重復步驟（2），直到p為空。
（4）如果tag棧中的棧頂元素為1，跳至步驟（6）。從右子樹返回
（5）如果tag棧中的棧頂元素為0，跳至步驟（7）。從左子樹返回
（6）比較treedeep與棧的深度，取較大的賦給treedeep，對棧S和棧tag出棧操作，p指向NULL，並跳至步驟（8）。
（7）將p指向棧S棧頂元素的右孩子，彈出棧tag，並把1壓入棧tag。（另外一種方法，直接修改棧tag棧頂的值為1也可以）
（8）循環（2）~（7），直到棧為空並且p為空
（9）返回treedeep，結束遍歷
1
int
TreeDeep(BinTree
BT
){
2
int
treedeep=0;
3
stack
S;
4
stack
tag;
5
BinTree
p=BT;
6
while(p!=NULL||!isEmpty(S)){
7
while(p!=NULL){
8
push(S,p);
9
push(tag,0);
10
p=p->lchild;
11
}
12
if(Top(tag)==1){
13
deeptree=deeptree>S.length?deeptree:S.length;
14
pop(S);
15
pop(tag);
16
p=NULL;
17
}else{
18
p=Top(S);
19
p=p->rchild;
20
pop(tag);
21
push(tag,1);
22
}
23
}
24
return
deeptree;
25
}