武漢深度學習演算法系統

⑴ 機器學習演算法和深度學習的區別

一、指代不同

1、機器學習演算法：是一門多領域交叉學科，涉及概率論、統計學、逼近論、凸分析、演算法復雜度理論等多門學科。

2、深度學習：是機器學習(ML, Machine Learning)領域中一個新的研究方向，它被引入機器學習使其更接近於最初的目標人工智慧。

二、學習過程不同

1、機器學習演算法：學習系統的基本結構。環境向系統的學習部分提供某些信息，學習部分利用這些信息修改知識庫，以增進系統執行部分完成任務的效能，執行部分根據知識庫完成任務，同時把獲得的信息反饋給學習部分。

2、深度學習：通過設計建立適量的神經元計算節點和多層運算層次結構，選擇合適的輸人層和輸出層，通過網路的學習和調優，建立起從輸入到輸出的函數關系，雖然不能100%找到輸入與輸出的函數關系，但是可以盡可能的逼近現實的關聯關系。

三、應用不同

1、機器學習演算法：：數據挖掘、計算機視覺、自然語言處理、生物特徵識別、搜索引擎、醫學診斷、DNA序列測序、語音和手寫識別、戰略游戲和機器人運用。

2、深度學習：計算機視覺、語音識別、自然語言處理等其他領域。

⑵ 簡述深度學習的基本方法。

深度學習，需要怎麼做到？
最佳答案
1、深度學習，首先要學會給自己定定目標（大、小、長、短），這樣學習會有一個方向；然後要學會梳理自身學習情況，以課本為基礎，結合自己做的筆記、試卷、掌握的薄弱環節、存在的問題等，合理的分配時間，有針對性、具體的去一點一點的去攻克、落實。

2、可以學習掌握速讀記憶的能力，提高學習復習效率。速讀記憶是一種高效的學習、復習方法，其訓練原理就在於激活「腦、眼」潛能，培養形成眼腦直映式的閱讀、學習方式。速讀記憶的練習見《精英特全腦速讀記憶訓練》，用軟體練習，每天一個多小時，一個月的時間，可以把閱讀速度提高5、6倍，記憶力、注意力、思維、理解力等也會得到相應的提高，最終提高學習、復習效率，取得好成績。如果你的閱讀、學習效率低的話，可以好好的去練習一下。

3、要學會整合知識點。把需要學習的信息、掌握的知識分類，做成思維導圖或知識點卡片，會讓你的大腦、思維條理清醒，方便記憶、溫習、掌握。同時，要學會把新知識和已學知識聯系起來，不斷糅合、完善你的知識體系。這樣能夠促進理解，加深記憶。

4、做題的時候要學會反思、歸類、整理出對應的解題思路。遇到錯的題（粗心做錯也好、不會做也罷），最好能把這些錯題收集起來，每個科目都建立一個獨立的錯題集（錯題集要歸類），當我們進行考前復習的時候，它們是重點復習對象，保證不再同樣的問題上再出錯、再丟分。

⑶ CCCF專欄 | 智能計算系統——一門人工智慧專業的系統課程

我國人工智慧底層研究能力缺失的現象嚴重，最根本的原因在於這方面人才教育培養的缺失。2018年中，作者陳雲霽在中國科學院大學開設了一門「智能計算系統」課程。這門課程受到了學生的歡迎，有很多選不上課的學生跟著旁聽了整個學期。

關鍵詞：智能計算系統 人工智慧 專業課程

編者按 ：5年前，本文作者陳雲霽受邀在CCCF專欄上發表了一篇題為《體系結構研究者的人工智慧之夢》 1 的文章，第一次公開介紹他從通用處理器轉向深度學習處理器方向的心路歷程（那篇文章後來也被收錄進了《CCCF優秀文章精選》）。經過5年的努力，陳雲霽在深度學習處理器方向作出了國際公認的貢獻：他的學術論文被頂級會議ISCA』18超過四分之一的論文引用，他的技術成果被應用到華為、曙光、阿里等近億台智能手機和伺服器中。他因此被Science雜志評價為智能晶元的「先驅」和「領導者」。現在，當深度學習處理器已經成為學術界和工業界的熱點時，陳雲霽再次轉身，邁向人工智慧系統課程教學的新舞台。這篇文章將和大家分享他走向這個新舞台的心路歷程。

智能計算系統課程的開設

我是一名中國科學院計算技術研究所的青年科研人員，主要從事計算機系統結構和人工智慧交叉方向的基礎研究。看到本文的標題和作者單位，大家可能會覺得有一點奇怪：作者和人工智慧專業課程有什麼關系？因為傳統意義上，上課是高校教師的職責，中國科學院的員工除非是自願擔任了中國科學院大學（國科大）的崗位教授，否則並沒有上課的義務。

驅使我主動思考人工智慧專業課程設計的最主要的原因，是這樣一個眾所周知的現象：越是人工智慧上層（演算法層、應用層，見圖1）的研究，我國研究者對世界作出的貢獻越多；越是底層（系統層、晶元層），我國研究者的貢獻越少。在各種ImageNet比賽中，我國很多機構的演算法模型已經呈現「霸榜」的趨勢，可以說代表了世界前沿水平。但這些演算法模型絕大部分都是在CUDA 2 編程語言、Tensorflow編程框架以及GPU之上開發的。在這些底層「硬 科技 」中，我國研究者對世界的貢獻就相對少了很多。底層研究能力的缺失不僅會給我國人工智慧基礎研究拖後腿，更重要的是，將使得我國智能產業成為一個空中樓閣，走上信息產業受核心晶元和操作系統制約的老路。

圖1 人工智慧研究大致層次

我國人工智慧底層研究能力缺失的原因很多，我認為最根本的原因在於這方面的人才教育培養的缺失。沒有肥沃的土壤，就長不出參天大樹。沒有具備系統思維的人工智慧專業學生，我國就難以出現傑夫·迪恩(Jeff Dean)這樣的智能計算系統大師，也不會產生有國際競爭力的智能系統產品。因此，在人工智慧專業學生的培養上，我們應當主動作為去改變局面。

2018年我國有35個高校設立了人工智慧本科專業，這是重新思考和梳理人工智慧培養體系的一次重大機遇。就我目前的了解，大部分高校在考慮人工智慧課程體系時，採用的是純演算法、純應用的教學思路。這樣培養出來的學生，仍然是偏向上層應用開發，對智能計算系統缺乏融會貫通的理解。

事實上，各個高校不乏有識之士，在課程設計上繞開系統課程往往受制於三大客觀困難：一是國內還沒有太多人工智慧系統類的課程可供參考，二是國內缺乏人工智慧系統類課程的師資，三是國際上缺乏人工智慧系統課程的教材。

基於自己的研究背景，我對人工智慧的演算法和系統都有一些粗淺的涉獵。我是否能為解決人工智慧系統課程、師資、教材上的困難作一點微薄的貢獻？是否可以身體力行地培養一些具備系統思維和能力的人工智慧專業學生呢？

因此，2018年中，我向中國科學院大學申請開設一門人工智慧專業的系統課程，名為「智能計算系統」（曾名「智能計算機」），希望能培養學生對智能計算完整軟硬體技術棧（包括基礎智能演算法、智能計算編程框架、智能計算編程語言、智能晶元體系結構等）融會貫通的理解。這門課程受到了學生的歡迎，有很多選不上課的學生跟著旁聽了整個學期。讓我尤其感動的是，有其他研究所的學生慕名自發地從中關村跑到懷柔來聽課，上一次課來回車程就要三個小時，回到中關村都是深夜。這也許能說明這門課對學生來說有一定吸引力，大家在聽課中有真正的收獲。

人工智慧專業學生培養和課程體系

人工智慧專業的課程體系設計應該服務於學生培養目標。那麼高校人工智慧專業應該培養什麼樣的學生？

這個問題可能還沒有統一的答案。對比和人工智慧專業非常接近的計算機專業，高校的計算機專業培養的顯然不是計算機的使用者，而是計算機整機或者子系統的研究者、設計者和製造者。

我國計算機專業的前輩在六十多年前開始設立計算機專業時，就高瞻遠矚地設計了一個軟硬結合的方案來培養計算機整機或者子系統的研究者、設計者和製造者。這套方案經過六十年的演進，依然基本保持了當年的初衷。今天，各個高校的計算機專業，基本都開設了計算機組成原理、操作系統、編譯原理、計算機體系結構等系統類的必修課程（見圖2）。也就是說，雖然計算機專業的學生畢業後大多從事軟體開發工作，但是他們對計算機硬體系統還是有基礎的了解的。

圖2 網易雲課堂上的計算機專業培養方案 3

人工智慧專業學生的培養目標應當是人工智慧系統或者子系統的研究者、設計者和製造者。只有實現這個目標，高校培養的人才才能源源不斷地全面支撐我國人工智慧的產業和研究。為了實現這個目標，人工智慧專業的課程設計應當包括軟硬兩條線（就像計算機專業）。如果人工智慧專業只開設機器學習演算法、視聽覺應用等課程，那充其量只能算是「人工智慧應用專業」或者「人工智慧演算法專業」。畢竟演算法只是冰山露出水面的一角，冰山底下90%還是硬體和系統。

就拿擁有世界上最大的AI演算法研究團隊的公司谷歌來說，谷歌董事長約翰·軒尼詩(John Hennessy)是計算機體系結構科學家，圖靈獎得主；谷歌AI的總負責人傑夫·迪恩(Jeff Dean)是計算機系統研究者；谷歌AI最令人矚目的三個進展(Tensorflow, AlphaGo, TPU)都是系統，而不僅僅是某個特定演算法，演算法只是系統的一個環節。因此，從人工智慧國際學術主流來看，系統的重要性是不亞於演算法的。

只學過演算法的學生或許對於調模型參數很在行，但是對一個演算法的耗時、耗電毫無感覺。這樣的學生不具備把一個演算法在工業系統上應用起來的基本功（因為一個演算法真正要用起來必須滿足延遲和能耗的限制）。

只有加入了系統線的課程，學生才能真正理解人工智慧是怎樣工作的，包括一個人工智慧演算法到底如何調用編程框架，編程框架又是怎麼和操作系統打交道，編程框架里的運算元又是怎樣一步步在晶元上運行起來。這樣的學生能親手構建出復雜的系統或者子系統，在科研上會有更大的潛力，在產業里也會有更強的競爭力。正如業界所雲：「會用Tensorflow每年賺30萬人民幣，會設計Tensorflow每年賺30萬美元。」

有很多老師和我說：「人工智慧專業確實應當有一些系統類的課程。但國內從來沒有開過這樣的課，也沒有合適的教材，我們學院也缺乏相應的老師來教這樣的課程。」這是很實際的三個客觀困難，但不應當影響我們對人工智慧專業的課程設計。

從學生角度講，人工智慧專業開設什麼課程，應該是看國家和企業需要學生會什麼，而不完全是看老師現在會什麼。六十年前，我國沒有幾個人見過計算機，更別說開課了。但為了兩彈一星等科學和工程計算任務，我國依然成立了中科院計算所，並在計算所辦計算機教師培訓班，在清華大學、中國科學技術大學等高校（此處恕不能一一列全）開設計算機專業，這才有了今天我國巨大的計算機產業。

從教師角度講，人工智慧的系統研究已經成為國際學術熱點，講授這類課程是一個教學相長的過程，能幫助教師走到國際學術前沿。今年美國計算機方向Top4高校（斯坦福大學、卡耐基梅隆大學、加州大學伯克利分校和麻省理工學院）以及其他多個國際單位的研究者聯合發布了一份名為「Machine Learning System（機器學習系統）」的白皮書。在這樣的新興熱門方向布局培育一批青年教師，無疑對提升所在高校乃至我國在人工智慧學術界的影響力有巨大幫助。

因此，不論是對於人工智慧專業的學生還是教師來說，把系統類課程開起來，都是有必要，也是有實際意義的。

什麼是智能計算系統

簡單來說，智能計算系統就是人工智慧的物質載體。現階段的智能計算系統通常是集成通用CPU和智能晶元（英偉達GPU或寒武紀MLU等）的異構系統，並向開發者提供智能計算編程框架和編程語言等。之所以要在通用CPU之外加上智能晶元，主要是因為通用CPU難以滿足人工智慧計算不斷增長的速度和能耗需求。例如，2012年穀歌大腦用了1.6萬個CPU核運行了數天來訓練怎麼識別貓臉，這對於工業應用來說是很難接受的。顯然，要想真正把人工智慧技術用起來，必須使用異構的智能計算系統。而為了降低異構智能計算系統的編程難度，就需要有面向智能計算的編程框架和編程語言。

事實上，智能計算系統已經以種種形態廣泛滲透到我們的生活中了。IBM的超級計算機Summit用機器學習方法做天氣預報，BAT的數據中心上運行著大量的廣告推薦任務，華為的手機上集成寒武紀深度學習處理器來處理圖像分析和語音識別，特斯拉的自動駕駛系統……都可以看成是智能計算系統。在智能時代，中國乃至全世界都需要大批的智能計算系統的開發者、設計者、應用者。

智能計算系統的發展並不是一蹴而就的事情。20世紀80年代面向符號主義智能處理的專用計算機（Prolog機和LISP機）可以被看成是第一代智能計算系統。但是當時人工智慧缺乏實際應用，演算法也不成熟，而且當時摩爾定律還處於飛速發展階段，專用計算機相對每18個月性能就能翻番的通用CPU並沒有太大優勢。因此，第一代智能計算系統逐漸退出了 歷史 舞台。

「智能計算系統」課程重點關注的是第二代智能計算系統，主要是面向深度學習等機器學習任務的計算機。相對於30年前的第一代智能計算系統，當今的第二代深度學習智能計算系統可謂是碰到了天時地利人和。當前圖像識別、語音識別、自然語言理解、 游戲 、廣告推薦等人工智慧應用已開始落地，深度學習演算法發展速度令人應接不暇。尤其重要的是，通用CPU性能發展已經趨停，要支撐不斷發展的深度學習演算法，必須要靠智能計算系統。因此，深度學習智能計算系統會在很長一個階段里都是學術界和產業界關注的焦點。「智能計算系統」課程將能幫助學生深刻理解深度學習智能計算系統。

第二代智能計算系統主要支持深度學習等機器學習任務。未來如果人類真的要在通用人工智慧道路上再往前走一步，那未來的第三代智能計算系統需要支持的演算法將遠遠超出機器學習的范疇，必須包括聯想、推理、涌現等高級認知智能演算法。我個人猜測，第三代智能計算系統可能會是孵化通用人工智慧的虛擬世界環境。「智能計算系統」課程或許能激發學生的好奇心，吸引學生投身於未來的第三代智能計算系統的研究中。

智能計算系統課程概況

「智能計算系統」這門課程主要是面向人工智慧、計算機和軟體工程專業的高年級本科生或研究生。課程目標是培養學生對智能計算完整軟硬體技術棧（包括基礎智能演算法、智能計算編程框架、智能計算編程語言、智能晶元體系結構等）融會貫通的理解，成為智能計算系統（子系統）的設計者和開發者。

課程的前序課程包括C/C++編程語言、計算機組成原理和演算法導論（或機器學習）。課程的課時相對比較靈活，可以是大學期上一個學期（40學時，課程提綱見表1），可以是小學期集中上一周（20學時），也可以嵌入到其他機器學習課程中作為一個補充。對於20學時的短期學習，課程希望學生能對智能計算系統「知其然」，主要是面向實際操作；對於40學時的長期學習，課程希望學生能對智能計算系統「知其所以然」，因此要把機理講透。

表1 智能計算系統課程提綱（40學時）

在課程講授上，應該秉承兩個原則。一是應用驅動。一門好的工程學科的課程應當是學以致用的，尤其是「智能計算系統」這樣的課程，如果上完之後只學會了一些定理和公式，那基本沒效果。另外一個原則是全棧貫通。過去計算機專業課程設計有個問題，就是條塊分割明顯，比如操作系統和計算機體系結構是割裂的，操作系統對計算機體系結構提出了什麼要求，計算機體系結構對操作系統有哪些支持，沒有一門課把這些串起來。「智能計算系統」作為高年級本科生（或研究生）課程，有義務幫助學生把過去所有的人工智慧軟硬體知識都串起來，形成整體理解。

對於「智能計算系統」課程，驅動範例是一個抓手。在國科大上課時，我們選擇了視頻風格遷移作為驅動範例。簡單來說，風格遷移可以保留一個視頻中每幀圖片的基本內容，但是把圖片的繪畫風格改掉（比如從普通照片遷移成畢加索風格或者中國水墨畫風格等，見圖3）。對於學生來說，這是很有意思又在能力范圍之內的一個驅動範例。

圖3 從普通照片到畢加索風格遷移的驅動範例

我們圍繞如何實現視頻實時風格遷移，一步步帶著學生寫出演算法，移植到編程框架上，為編程框架編寫運算元，再為運算元設計晶元，構建多晶元系統，並測評這個系統的速度、能效和精度上的優勢和劣勢，然後進行系統的閉環迭代優化。最後再給大家一個智能計算系統的實驗環境，包括攝像頭和智能晶元開發板，學生就可以實現一個對攝像頭拍攝的視頻進行畫風實時轉換的「半產品」應用了。

結語

我的母親是一位中學教師。我自己成長過程中，對我幫助非常大的幾位前輩恩師陳國良、胡偉武和徐志偉，也都是常年浸淫在教學第一線，有著極大教學熱情的名師。從小到大，這些長輩的言傳身教，讓我深刻地感受到，教育是一項偉大的事業，能深刻地改變學生、改變行業、改變 社會 、改變國家、改變人類。今天我們教給學生的那些人工智慧知識，可能會影響明天我國在智能時代的競爭力。因此，雖然手頭有不少基礎研究任務，但我還是情願把培養人工智慧的系統人才當成自己未來最重要的使命，把自己絕大部分時間精力花在「智能計算系統」這門課程在各個高校的講授和推廣上。

非常欣慰的是，「智能計算系統」這樣新生的一門課程，雖然還有很多缺陷，但還是得到了很多師生的支持和鼓勵。我們已在或將在中國科學院大學、北京大學、北京航空航天大學、天津大學、中國科學技術大學、南開大學、北京理工大學、華中 科技 大學等多個高校聯合開設這門課程。今年我們還會開放這門課程的所有PPT、講義、教材、錄像、代碼、雲平台和開發板，供老師們批評指正。非常歡迎大家給我發郵件，提出寶貴意見。

未來，我們希望和更多培養人工智慧專業學生的高校合作，廣泛參與人工智慧系統課程的交流研討，共同提高人工智慧系統課程的教學水平。相信通過大家的共同努力，一定能解決人工智慧系統課程開設中的實際困難，使得我國未來培養出來的人工智慧人才沒有技術上的短板。

作為一名青年教師，我在教學能力和經驗上與很多教育領域的前輩有著巨大的差距，還需要更多地學習。這門「智能計算系統」課程，對於我國的人工智慧系統能力培養來說，也頂多是起到拋磚引玉的作用。正如魯迅先生在《熱風·隨感錄四十一》中寫給青年的一段話所言：「有一分熱，發一分光，就令螢火一般，也可以在黑暗裡發一點光……倘若有了炬火，出了太陽，我們自然……隨喜贊美這炬火或太陽；因為他照了人類，連我都在內。」

腳註：

1 此文發表在《中國計算機學會通訊》(CCCF) 2014年第5期，https://dl.ccf.org.cn/institude/institudeDetail?id=3738875863074816&_ack=1。

2 CUDA：Compute Unified Device Architecture，計算統一設備架構。

3 參見https://study.163.com/curricula/cs.htm。

作者介紹：

陳雲霽

CCF傑出會員、CCF青年科學家獎獲得者、CCCF編委。中科院計算所研究員。曾獲首屆國家自然科學基金「優秀青年基金」、首屆國家萬人計劃「青年拔尖人才」以及中科院青年人才獎等獎項。主要研究方向為計算機體系結構。[email protected]

點擊 「閱讀原文」 ，加入CCF。

⑷ 什麼是深度學習

隨著阿爾法狗、無人駕駛、智能翻譯的橫空出世，「人工智慧」這個已經存在60多年的詞語，彷彿一夜之間重新成為熱詞。同時被科技圈和企業界廣泛提及的還有「機器學習」「深度學習」「神經網路」…… 但事實是，如此喧囂熱烈的氣氛之下，大部分人對這一領域仍是一知半解。

如果要說誰有資格談論目前正在進行的「人工智慧革命」，特倫斯·謝諾夫斯基（Terry Sejnowski）必然是其中一個。

在智能翻譯、無人駕駛、阿爾法狗、微軟小冰還被認為是遠在天邊的願景時，謝諾夫斯基就已經在為深度學習領域奠定基礎了。

《深度學習：智能時代的核心驅動力量》

中信出版集團 2019.2

Q：首先，我想問一下定義。人們幾乎可以互換地使用「人工智慧」，「神經網路」，「深度學習」和「機器學習」等詞語。 但這些是不同的東西。你能解釋一下嗎？

人工智慧可以追溯到1956年的美國，那時工程師們決定編寫一個試圖仿效智能的計算機程序。

在人工智慧中，一個新領域成長起來，稱為機器學習。不是編寫一個按部就班的程序來做某事——這是人工智慧中的傳統方法——而是你收集了大量關於你試圖理解的事物的數據。例如，設想您正在嘗試識別對象，因此您可以收集大量它們的圖像。然後，通過機器學習，這是一個可以剖析各種特徵的自動化過程，就可以確定一個物體是汽車，而另一個是訂書機。

機器學習是一個非常大的領域，其歷史可以追溯到更久遠的時期。最初，人們稱之為「模式識別」。後來演算法在數學上變得更加廣泛和復雜。

在機器學習中有受大腦啟發的神經網路，然後是深度學習。深度學習演算法具有特定的體系結構，其中有許多層數據流經的網路。

基本上，深度學習是機器學習的一部分，機器學習是人工智慧的一部分。

Q: 有什麼「深度學習」能做而其他程序不能做的嗎？

編寫程序非常耗費人力。在過去，計算機是如此之慢，內存非常昂貴，以至於人們採用邏輯，也就是計算機的工作原理，來編寫程序。他們通過基礎機器語言來操縱信息。計算機太慢了，計算太貴了。

但現在，計算力越來越便宜，勞動力也越來越昂貴。而且計算力變得如此便宜，以至於慢慢地，讓計算機學習會比讓人類編寫程序更有效。在那時，深度學習會開始解決以前沒有人編寫過程序的問題，比如在計算機視覺和翻譯等領域。

機器學習是計算密集型的，但你只需編寫一個程序，通過給它不同的數據集，你可以解決不同的問題。並且你不需要是領域專家。因此，對於存在大量數據的任何事物，都有對應的大量應用程序。

Q：「深度學習」現在似乎無處不在。 它是如何變得如此主導潮流？

我可以在歷史上精確地找到這一特定時刻：2012年12月在NIPS會議（這是最大的AI會議）上。在那裡，計算機科學家Geoff Hinton和他的兩個研究生表明你可以使用一個名為ImageNet的非常大的數據集，包含10,000個類別和1000萬個圖像，並使用深度學習將分類錯誤減少20％。

通常，在該數據集上，錯誤在一年內減少不到1％。 在一年內，20年的研究被跨越了。

這真的打開了潮水的閘門。

Q：深度學習的靈感來自大腦。那麼計算機科學和神經科學這些領域如何協同工作呢？

深度學習的靈感來自神經科學。最成功的深度學習網路是由Yann LeCun開發的卷積神經網路（CNN）。

如果你看一下CNN的架構，它不僅僅是很多單元，它們以一種基本上鏡像大腦的方式連接起來。大腦中被研究的最好的一部分在視覺系統，在對視覺皮層的基礎研究工作中，表明那裡存在簡單和復雜細胞。如果你看一下CNN架構，會發現有簡單細胞和復雜細胞的等價物，這直接來自我們對視覺系統的理解。

Yann沒有盲目地試圖復制皮質。他嘗試了許多不同的變種，但他最終收斂到的方式和那些自然收斂到的方式相同。這是一個重要的觀察。自然與人工智慧的趨同可以教給我們很多東西，而且還有更多的東西要去探索。

Q：我們對計算機科學的理解有多少取決於我們對大腦的理解程度？

我們現在的大部分AI都是基於我們對大腦在60年代的了解。 我們現在知道的更多，並且更多的知識被融入到架構中。

AlphaGo，這個擊敗圍棋冠軍的程序不僅包括皮質模型，還包括大腦的一部分被稱為「基底神經節」的模型，這對於制定一系列決策來實現目標非常重要。 有一種稱為時間差分的演算法，由Richard Sutton在80年代開發，當與深度學習相結合時，能夠進行人類以前從未見過的非常復雜的玩法。

當我們了解大腦的結構，並且當我們開始了解如何將它們集成到人工系統中時，它將提供越來越多的功能，超越我們現在所擁有的。

Q：人工智慧也會影響神經科學嗎？

它們是並行的工作。創新神經技術已經取得了巨大的進步，從一次記錄一個神經元到同時記錄數千個神經元，並且同時涉及大腦的許多部分，這完全開辟了一個全新的世界。

我說人工智慧與人類智能之間存在著一種趨同。隨著我們越來越多地了解大腦如何工作，這些認識將反映到AI中。 但與此同時，他們實際上創造了一整套學習理論，可用於理解大腦，讓我們分析成千上萬的神經元以及他們的活動是如何產生的。 所以神經科學和人工智慧之間存在這種反饋循環，我認為這更令人興奮和重要。

Q：你的書討論了許多不同的深度學習應用，從自動駕駛汽車到金融交易。你覺得哪個特定領域最有趣？

我完全被震撼到的一個應用是生成對抗網路，或稱GANS。使用傳統的神經網路，你給出一個輸入，你得到一個輸出。 GAN能夠在沒有輸入的情況下開展活動 - 產生輸出。

是的，我在這些網路創建假視頻的故事背景下聽說過這個。他們真的會產生看似真實的新事物，對吧？

從某種意義上說，它們會產生內部活動。事實證明這是大腦運作的方式。你可以看某處並看到一些東西，然後你可以閉上眼睛，你可以開始想像出那裡沒有的東西。你有一個視覺想像，當周圍安靜時，你鬧鍾聲會浮現想法。那是因為你的大腦是生成性的。現在，這種新型網路可以生成從未存在過的新模式。所以你可以給它，例如，數百張汽車圖像，它會創建一個內部結構，可以生成從未存在的汽車的新圖像，並且它們看起來完全像汽車。

Q：另一方面，您認為哪些想法可能是過度炒作？

沒有人可以預測或想像這種新技術的引入會對未來的事物組織方式產生什麼影響。當然這其中有炒作。我們還沒有解決真正困難的問題。我們還沒有通用智能，就有人說機器人將不久後會取代我們，其實機器人遠遠落後於人工智慧，因為復制身體被發現比復制大腦更復雜。

讓我們看一下這一種技術進步：激光。它是在大約50年前發明的，當時占據了整個房間。從占據整個房間到我現在演講時使用的激光筆需要50年的技術商業化。它必須被推進到體積足夠小並可以用五美元購買它的程度。同樣的事情將發生在像自動駕駛汽車這樣的被炒作的技術上。它並不被期望在明年或者未來10年，就變得無處不在。這過程可能需要花費50年，但重點是，在此過程中會有逐步推進，使它越來越靈活，更安全，更兼容我們組織運輸網路的方式。炒作的錯誤在於人們的時標設定錯了。他們期待太多事情太快發生，其實事物只在適當的時候。

關於深度學習的問題可以看下這個網頁的視頻講解：AI深度學習---中科院公開課。

⑸ 深度學習有哪些演算法

只有簡單的了解：
常見的深度學習演算法有三種：來卷積神經網路、循環神經網路、生成對抗網路。具體的需要自己去鑽研了

⑹ 如何在arm上進行深度學習演算法開發

AlphaGo依靠精確的專家評估系統（value network）:專家系統是一個智能計算機程序系統，其內部含有大量的某個領域專家水平的知識與經驗，能夠利用人類專家的知識和解決問題的方法來處理該領域問題。
基於海量數據的深度神經網路（policy network）:多層的好處是可以用較少的參數表示復雜的函數。在監督學習中，以前的多層神經網路的問題是容易陷入局部極值點。如果訓練樣本足夠充分覆蓋未來的樣本，那麼學到的多層權重可以很好的用來預測新的測試樣本。但是很多任務難以得到足夠多的標記樣本，在這種情況下，簡單的模型，比如線性回歸或者決策樹往往能得到比多層神經網路更好的結果。非監督學習中，以往沒有有效的方法構造多層網路。多層神經網路的頂層是底層特徵的高級表示，比如底層是像素點，上一層的結點可能表示橫線，三角； 而頂層可能有一個結點表示人臉。
傳統的人工智慧方法蒙特卡洛樹搜索的組合:是一種人工智慧問題中做出最優決策的方法，一般是在組合博弈中的行動（move）規劃形式。它結合了隨機模擬的一般性和樹搜索的准確性。