矩陣計算pdf

① 如何用Excel做矩陣基本計算

在計算矩陣的時候，需要很細心，一不小心就會算錯了，在沒有標准答案的時候，該如何驗證你算的對不對呢?這個時候，你就可以使用excel來驗證了。

1，數據及要求

打開數據表，假設數據如下所示：

根據這兩個矩陣，做如下運算：矩陣加法，減法，乘法，矩陣的逆矩陣。

2，步驟

(1)選擇E2:G4單元格區域，輸入「=」，用滑鼠選擇A2:C4單元格區域，輸入「+」，用滑鼠選擇A6:C8單元格區域，同時按Ctrl+Shift+Enter鍵，矩陣加法計算結果如下。

(2)選擇E6:G8單元格區域，輸入「=」，用滑鼠選擇A2:C4單元格區域，輸入「-」，用滑鼠選擇A6:C8單元格區域，同時按Ctrl+Shift+Enter鍵，矩陣減法計算結果如下。

(3)選擇E2:G4單元格區域，「公式」選項卡，「函數庫」工具箱，「插入函數」工具，找到MMULT函數，單擊「確定」按鈕。

(4)在彈出的MMULT函數參數對話框中進行設置。

單擊「Array1」右邊的文本框，用滑鼠選擇「A2:C4」單元格區域，單擊「Array2」右邊的文本框，用滑鼠選擇「A6:C8」單元格區域，同時按Ctrl+Shift+Enter鍵.得到矩陣相乘的結果如下所示。

關於矩陣的加，減，乘演算法就介紹到這里了，可以分享給身邊的小夥伴哦。

PS：做好的Excel表格需要轉換成其他格式，可以藉助轉轉大師pdf轉換器進行轉換~支持 PDF轉Excel 、Excel轉PDF、 PDF轉Word 、Word轉PDF等格式轉換功能。

② 我要進行工程方面研究,要建橋梁模型,進行矩陣計算和編程,Matlab，Maple與Mathematica 哪個軟體好用謝謝

個人建議：MATLAB

目前在科技和工程界上比較流行和著名的數學軟體主要有四個，分別是Maple、MATLAB、MathCAD和Mathematica。它們在各自針對的目標都有不同的特色。

一、Maple V 系統

Maple V是由Waterloo大學開發的數學系統軟體，它不但具有精確的數值處理功能，而且具有無以倫比的符號計算功能。Maple V的符號計算能力還是MathCAD和MATLAB等軟體的符號處理的核心。Maple提供了2000餘種數學函數，涉及范圍包括：普通數學、高等數學、線性代數、數論、離散數學、圖形學。它還提供了一套內置的編程語言，用戶可以開發自己的應用程序，而且Maple自身的2000多種函數，基本上是用此語言開發的。

Maple採用字元行輸入方式，輸入時需要按照規定的格式輸入，雖然與一般常見的數學格式不同，但靈活方便，也很容易理解。輸出則可以選擇字元方式和圖形方式，產生的圖形結果可以很方便地剪貼到Windows應用程序內。

二、MATLAB 系統

MATLAB原是矩陣實驗室（Matrix Laboratory）在70年代用來提供Linpack和Eispack軟體包的介面程序，採用C語言編寫。從80年代出現3.0的DOS版本，逐漸成為科技計算、視圖交互系統和程序語言。MATLAB可以運行在十幾個操作平台上，比較常見的有基於Windows 9X/NT、OS/2、Macintosh、Sun、Unix、Linux等平台的系統。

MATLAB程序主要由主程序和各種工具包組成，其中主程序包含數百個內部核心函數，工具包則包括復雜系統模擬、信號處理工具包、系統識別工具包、優化工具包、神經網路工具包、控制系統工具包、μ分析和綜合工具包、樣條工具包、符號數學工具包、圖像處理工具包、統計工具包等。而且5.x版本還包含一套幾十個的PDF文件，從MATLAB的使用入門到其他專題應用均有詳細的介紹。

MATLAB是數值計算的先鋒，它以矩陣作為基本數據單位，在應用線性代數、數理統計、自動控制、數字信號處理、動態系統模擬方面已經成為首選工具，同時也是科研工作人員和大學生、研究生進行科學研究的得力工具。MATLAB在輸入方面也很方便，可以使用內部的Editor或者其他任何字元處理器，同時它還可以與Word6.0/7.0結合在一起，在Word的頁面里直接調用MATLAB的大部分功能，使Word具有特殊的計算能力。

三、MathCAD 系統

MathCAD是美國Mathsoft公司推出的一個互動式的數學系統軟體。從早期的DOS下的1.0和Windows下的4.0版本，到今日的8.0版本，功能也從簡單的數值計算，直至引用Maple強大的符號計算能力，使得它發生了一個質的飛躍。

MathCAD是集文本編輯、數學計算、程序編輯和模擬於一體的軟體。 MathCAD7.0 Professional（專業版）運行在Win9X/NT下，它的主要特點是輸入格式與人們習慣的數學書寫格式很近似，採用WYSWYG（所見所得）界面，特別適合一般無須進行復雜編程或要求比較特殊的計算。MathCAD 7.0 Professional 還帶有一個程序編輯器，對於一般比較短小，或者要求計算速度比較低時，採用它也是可以的。這個程序編輯器的優點是語法特別簡單。

MathCAD可以看作是一個功能強大的計算器，沒有很復雜的規則；同時它也可以和Word、Lotus、WPS2000等字處理軟體很好地配合使用，可以把它當作一個出色的全屏幕數學公式編輯器。

四、Mathematica 系統

Mathematica是由美國物理學家Stephen Wolfram領導的Wolfram Research開發的數學系統軟體。它擁有強大的數值計算和符號計算能力，在這一方面與Maple類似，但它的符號計算不是基於Maple上的，而是自己開發的。

Mathematica的基本系統主要是用C語言開發的，因而可以比較容易地移植到各種平台上，Mathematica是一個互動式的計算系統，計算是在用戶和Mathematica互相交換、傳遞信息數據的過程中完成的。 Mathematica系統所接受的命令都被稱作表達式，系統在接受了一個表達式之後就對它進行處理，然後再把計算結果返回。Mathematica對於輸入形式有比較嚴格的規定，用戶必須按照系統規定的數學格式輸入，系統才能正確地處理，不過由於3.0版本引入輸入面板，並且可以修改、重組輸入面板，因此以前版本輸入指令時需要不斷切換大小寫字元的繁瑣方式得到很好的改善。3.0版本可以用各種格式保存文件和剪貼內容，包括RTF、HTML、BMP等格式。

五、四種軟體的比較

選用何種數學軟體?如果僅僅是要求一般的計算或者是普通用戶日常使用，首選的是 MathCAD，它在高等數學方面所具有的能力，足夠一般客戶的要求，而且它的輸入界面也特別友好。如果要求計算精度、符號計算和編程方面的話，最好同時使用Maple和Mathematica，它們在符號處理方面各具特色，有些Maple不能處理的，Mathematica卻能處理，諸如某些積分、求極限等方面，這些都是比較特殊的。如果要求進行矩陣方面或圖形方面的處理，則選擇MATLAB，它的矩陣計算和圖形處理方面則是它的強項，同時利用MATLAB的NoteBook功能，結合Word6.0/7.0的編輯功能，可以很方便地處理科技文章。

mathematica 值得信賴，國外很多著名的大學都在用它作解析計算和公式的推導，證明，演算法的研究，非常好的數學研究軟體，我個人認為是No.1。它的數學分析可視化無與倫比。綜合性能和另一個著名的軟體Maple相比，又過之而無不及，要知道世界上絕大部分的量子物理，天體物理論文中的公式推導都由它完成。絕對高端但又易用，是數學，力學，物理研究人員的好幫手，甚至它的數值計算也完全可以應付學術研究。mathematica 和 Maple 的最新版本在用戶公式的輸入上都有很大改進，更加方便，隨意。

北美不少Top大學的彈性力學，板殼理論，有限元等數學力學理論課的作業和Project都要求用它來完成。 我個人認為， 作為計算力學的工作者，從掌握語言的角度來講， 只要掌握3種計算語言足夠了，mathematica用來作解析法和數學模型的研究，Matlab用來實現數值演算法（當然仍然可以還用mathematica), Fortran用來寫可執行源代碼。沒必要把自己陷入眾多的語言和計算軟體之中，沒有意義的。

③ 《大學數學系列課程學習輔導與同步練習線性代數》pdf下載在線閱讀全文，求百度網盤雲資源

《大學數學系列課程學習輔導與同步練習線性代數》網路網盤pdf最新全集下載:
鏈接：https://pan..com/s/1XvCHNwdRVF-JzYHcEDtM1A

?pwd=5965 提取碼：5965
簡介：大學數學系列課程學習輔導與同步練習線性代數pdf免費版包含了矩陣及其運算, 行列式及其計算, 矩陣的逆, Gramer法則, 矩陣運算的實際案例分析, 矩陣運算的Matlab實驗, 矩陣的初等變換與初等矩陣，

④ 3D圖形:矩陣的行列式,矩陣的逆、正交矩陣、齊次矩陣

在前面我們說到關於矩陣的一些計算知識,相信大家已經覺得進入了水深火熱之中了,那麼為了讓大家感到更加刺激的視覺體驗和感官體驗,這一篇博客,我將對矩陣的行列式,矩陣的逆,正交矩陣,齊次矩陣進行探討研究整理.我很慶幸你們看到這里了,為什麼這么說呢?其實呢,因為齊次矩陣是我們平常開發用的比較多的,我曾經在 Core Graphics框架 :仿射變換與齊次坐標 簡單的提到過(小白視角),這篇我將對齊次矩陣進行進一步的說明.

那麼接下來,好戲登場了.

在任意的一個 方陣 都存在這樣的一個標量,稱作該方陣的行列式.一開始如果我一頓說概念,可能到時候懵的就不單單是讀者了,連我自己都會懵逼的,我們就用實際的例子來說明行列式以及行列式的幾何意義.

首先,我們先看方陣 M 的行列式為 |M| ,(註明:非方陣的行列式是未定義的)我們先從最簡單的2x2的方陣來說明.2x2的方陣的行列式具體的定義如下所示.

根據書上所說的,我們可以這樣進行記憶計算過程,將主對角線和反對角線的元素各自相乘,然後主對角線上的積減去反對角線元素的積.如下圖所示.當然了,這是適用於2x2方陣的行列式的計算,3x3方陣的行列式計算可不是這么簡單的,要麻煩的多得多.客官容我慢慢道來.

2x2方陣的行列式的計算例子如下所示.

上面基本就是2x2方陣行列式的計算的所有內容了,接下來我們看3x3方陣行列式的計算.首先我們先看一下3x3方陣行列式的定義.

看上去是不是很麻煩?其實當我們掌握它的計算技巧之後,可以很簡單的計算出來.首先先把矩陣 M 連寫兩遍,接著如圖所示進行計算.

好了經過2x2方陣和3x3方陣的洗禮,我們逐漸懵圈了,而且方陣的難道我們就只能這樣計算行列式嗎?不不不,數學界的前輩們已經為了我們留下來寶貴的計算方式,那就是餘子式和代數餘子式,兩者的使用和不同就讓我們一睹為快吧.

首先我們先看一下餘子式.我們首先看一下概念,假設一個矩陣M,去除第i行和第j列之後剩下的矩陣就是矩陣M的餘子式(i和j的限制條件就不過多解釋說明了),記法如下所示.

接下來,我們用一個示例來做一下說明餘子式是如何生成的.

上面我們已經對餘子式的定義和計算方法有所了解.那麼接下來,我們要對餘子式的相關知識來做一下說明.那麼什麼叫代數餘子式呢?

代數餘子式是這樣定義的,對於一個方陣 M ,給定行、列元素的代數餘子式等於對應的餘子式的有符號的行列式.我們把上面的這句定義給提煉一下,某個矩陣的代數餘子式是行列式,那麼我們已經注意到了,某個矩陣的餘子式是一個矩陣.這樣我們就知道兩者的不同之處了,一個是標量,一個是矩陣,這就是兩者的不同之處.好了,了解完兩者的不同之處之後,我們來看代數餘子式的計算方法是怎麼定義的,如下所示.

只有上面的公式讓我們感到很無助不是,那麼接下來我們用一個接著餘子式的示例來求解對應的代數餘子式.如下所示.

那麼說了這么多餘子式和代數餘子式的知識,到底對我們的行列式的求解有什麼幫助呢?其實,我們是可以利用餘子式和代數餘子式直接計算任意n維方陣的行列式,首先,我們找到矩陣的任意一行i(i不大於最大行數),然後,列數j依次增加.具體的計算公式如下所示.

那麼有了公式之後避免不了就是驗證,接下來我們就用公式來推導4x4方陣的行列式.由於有了計算公式的便利,我們計算起來就比較方便了,但是我們要仔細判斷每一個項的正負(自己驗證的時候沒注意,驗證出錯兩三遍).這里,我選擇的i =1(自己驗證的時候可自行選擇i) ,具體的驗證過程如下所示.(由於其中的項過多,所以分兩步截圖.)

通過上面我們發現,行數列數越多的方陣行列式的復雜度就會越高.復雜度會呈指數增長.我們計算到4x4的就已經非常的麻煩了(其實4x4的行列式我們已經夠用了),那麼要是在來個10x10的方陣行列式,我們豈不要瘋掉?這里,書中提到了一種行列式的計算方式叫做"主元選擇"的計算方式,感興趣的小夥伴可自行查詢資料.

上面我們已經說完了行列式,但是說了一大堆,我們還是懵圈的,那麼行列式是用來干什麼的呢?或者說是行列式代表著什麼意義呢?其實,在2D中行列式代表著以基向量為兩邊的平行四邊形的有符號面積.在3D環境中則代表著以基向量為三邊的平行六面體有符號體積.我們看以下示例來驗證我們的想法.

如圖所示,在2D環境中有基向量 v = [3 0] ,u = [1 2] .

那麼它的面積是3x2 = 6,它的行列式是3x2-1x0 = 6,我們發現行列式是和面積相等的(當然了,如果基向量 v = [-3 0] ,行列式最終計算出來的值為-6)

接下來,我們看一下在3D環境中的有三個基向量 u = [2 0 0],v = [1 2 0],w= [0 0 1] ,如圖所示.

然後我們計算由上面三個基向量所圍成的正六面體的體積為1x2x2 = 4,計算的三個基向量所組成的矩陣的行列式.發現兩者的絕對值是相等的.如下所示.

矩陣的逆和矩陣的轉置是有所不同的,矩陣的轉置請查看 3D圖形:矩陣的相關知識 .求逆運算有個先決條件,那就是只有方陣才可以進行求逆運算.

首先我們看一下方陣的逆是如何定義的.假設一個方陣 M ,方陣 M 的逆,記作 M^-1 ,方陣的逆也是一個矩陣.當 M 和 M^-1 相乘的時候,結果是單位矩陣 I .如下所示.

那麼我該如何計算方陣 M 的逆呢?在我看的3D圖形上是給出了如下的方法.

在上面的公式中矩陣的行列式我們知道如何求解,那麼 adj M 是什麼鬼? adj M 叫做矩陣 M 的伴隨矩陣,定義為矩陣 M 的代數餘子式矩陣的轉置矩陣(挺繞口).沒事,我們看一下示例是如何解釋的這個的.假設矩陣 M 如下所示.

那麼接下來,我們把矩陣中所有的元素的代數餘子式求解出來,如下所示.

那麼代數餘子式的轉置矩陣( adjM )如下所示.

代數餘子式的轉置矩陣( adjM ),我們已經求解出來了,接下來,我們就要求解矩陣的逆了.套用公式計算過程如下所示.

上面我們知道了矩陣的逆的概念和計算方法,那麼它的實際作用是什麼呢?或者說是它的幾何意義是什麼呢?其實矩陣的逆主要適用於"撤銷"功能的實現.比如一個向量 ν 通過矩陣 M 進行了變換,然後呢,我們可以再呈上 M 的逆矩陣,這樣就撤銷了變換動作了,驗證過程如下所示.

先來看一下正交矩陣是如何定義的,若方陣 M 是正交的,則當且僅當 M 與他的轉置矩陣 M^T 的乘積等於單位矩陣,那麼就稱矩陣 M 為正交矩陣.

在矩陣的逆中我們知道,矩陣的逆和矩陣的乘積為單位矩陣 I ,由此推理,我們可以知道,如果該矩陣為正交矩陣,那麼矩陣的逆和轉置矩陣是相等的.

那麼正交矩陣存在的意義是什麼呢?其實如果一個矩陣是正交矩陣,那麼矩陣的逆和轉置矩陣是相等的.轉置矩陣是非常簡單計算的,而計算矩陣的逆如果使用代數餘子式計算是非常的麻煩,所以我們可以直接計算轉置矩陣然後直接得到該矩陣的逆.

DuangDuangang~本文的最重要的部分--齊次矩陣,在說其相關內容之前,我們要先用兩個比較經典的示例來說一下齊次空間是如何出現的,(範例是從網上尋找到,莫怪)

兩條平行線會相交嗎?
在沒有認識到齊次空間之前,我們知道兩條平行線是不能相交的,但是兩條平行線真的不能相交嗎?我們看下面這幅圖,我們都知道兩條鐵軌是平行的,但是這兩條平行的鐵軌在無窮遠處會相交於一點.這對嗎?在笛卡爾2D坐標系中, 我們用 ( x, y ) 表示笛卡爾空間中的一個 2D 點，而處於無限遠處的點 (∞,∞) 在笛卡爾空間里是沒有意義的。所以我們是無法解釋這種現象的,但是在齊次空間中,我們可以解釋這種現象.

帶著上面的兩個問題,我們開始我們的齊次坐標之旅.其實齊次空間的出現主要是用於投影問題的解決.所謂 齊次坐標 就是將一個原本是n維的向量用一個n+1維向量來表示. 4D齊次空間有4個分量分別是(x,y,z,w),第四個是w,稱為 齊次坐標 .那麼在3D笛卡爾坐標系中可以使用其次坐標表示為(x/w,y/w,z/w).

那麼我們就解決第一個問題,解釋兩條平行線投射到一個2D平面中相交於一點.我們知道在2D笛卡爾坐標系中用 Ax+By+C= 0 表示一條直線.兩條平行直線相交的話,要關聯兩個方程式.如下所示.

在笛卡爾坐標系中,上述的兩者如果相交,那麼C=D=0,也就是兩者是同一條過原點的直線.顯然是解釋不了兩條平行線相交於一點的.如果我們引入齊次坐標的概念的話,我們把x/w, y/w 代替 x, y 放到投影空間里,如下所示.

上面的方程式組可以轉換為下面的方程式組.

在C≠D的情況下,那麼對方程組求解,就是w = 0兩條直線相交,那麼就是(x,y,0).兩條直線相交於無限遠處.

那麼引進齊次坐標有什麼必要，它有什麼優點呢？
1.它提供了用矩陣運算把二維、三維甚至高維空間中的一個點集從一個坐標系變換到另一個坐標系的有效方法.
2.它可以表示無窮遠的點。n+1維的齊次坐標中如果h=0，實際上就表示了n維空間的一個無窮遠點。對於齊次坐標[a,b,h]，保持a,b不變， 點沿直線 ax+by=0 逐漸走向無窮遠處的過程.

在 3D圖形:矩陣與線性變換 我說過幾種線性變換,比如旋轉,縮放,鏡像等等,唯獨沒有平移,但是在日常開發過程中,平移應該算的上我們很常用的一種仿射變換了.那麼這是為什麼呢?根據書上所說,矩陣的乘法性質所決定的,零向量總是變換成零向量,所以任何矩陣的乘法表達的變換是不會有平移的.但是我們卻可以使用4X4平移矩陣表示3D環境中的平移變換,使用3X3平移矩陣表示2D環境中的平移變換.(假設w不變且w = 1)具體公式如下所示.

雖然在4D中,矩陣的乘法仍然是線性的,矩陣的乘法不能表示4D中的平移,卻能代表著3D環境中的平移變換.

最後還是要附上<<3D數學基礎 圖形與游戲開發>>的pdf版的傳送門.

⑤ 《數值分析第五版》pdf下載在線閱讀，求百度網盤雲資源

《數值分析 中南大學韓旭里 126講》網路網盤資源免費下載

鏈接: https://pan..com/s/1ath5aUEumr5ueV5d_GRa5Q

?pwd=hjmi 提取碼: hjmi

數值分析 中南大學 韓旭里 126講|線性方程組的迭代解法（一）.mp4|線性方程組的迭代解法（五）.mp4|線性方程組的迭代解法（四）.mp4|線性方程組的迭代解法（三）.mp4|線性方程組的迭代解法（七）.mp4|線性方程組的迭代解法（六）.mp4|線性方程組的迭代解法（二）.mp4|數值積分與數值微分（一）.mp4|數值積分與數值微分（五）.mp4|數值積分與數值微分（四）.mp4|數值積分與數值微分（十一）.mp4|數值積分與數值微分（十五）.mp4|數值積分與數值微分（十四）.mp4|數值積分與數值微分（十三）.mp4

⑥ 關於求矩陣SVD的問題

你自己看matlab對svd的說明，
X= U*S*V'
這里的V是轉置的
所以跟你的C程序結果是轉置

其次正負號可以隨便分配的，例如你把U的符號全取負號，那麼V也是全取負號

然後就是精度問題，你在matlab 先輸入format long
就能看到更多位數了，大小基本是一樣的

所以其實結果是等價的，說白了就是S按特徵值大小排序的話是唯一的，U,V不唯一

不明白可追問

⑦ 《並行演算法的設計與分析》pdf下載在線閱讀，求百度網盤雲資源

《並行演算法的設計與分析》（陳國良）電子書網盤下載免費在線閱讀

資源鏈接：

鏈接：

提取碼：qc2v

書名：並行演算法的設計與分析

作者：陳國良

出版年份：2009-8

頁數：813

內容簡介：第3版在修訂版的基礎上進行了大幅度的修訂，新增加3章、重寫3章，改寫8章。《普通高等教育十一五國家級規劃教材·並行演算法的設計與分析(第3版)》系統深入地討論了計算機領域中諸多計算問題的並行演算法的設計和分析方法。在著重介紹各種並行計算模型上的常用和典型的並行演算法的同時，也力圖反映本學科的最新成就、學科前沿和發展趨勢。

全書共分二十章，包括基礎篇4章(緒論、設計技術、前綴計算、排序和選擇網路)，並行演算法篇9章（排序和選擇演算法、分布式演算法、並行搜索、選路演算法、串匹配、表達式求值、上下文無關語言、圖論演算法、計算幾何），數值並行演算法篇3章（矩陣運算、數值計算、快速傅氏變換），理論篇4章（組合搜索、隨機演算法、VLSI計算理論、並行計算理論）。

《普通高等教育十一五國家級規劃教材·並行演算法的設計與分析(第3版)》取材豐富，內容系統深入，可作為高等學校計算機及其他信息類有關專業高年級本科生和研究生的教材，也可供從事計算機科學理論和並行演算法研究的科技人員閱讀參考。

《普通高等教育十一五國家級規劃教材·並行演算法的設計與分析(第3版)》初版曾獲1994年度教育部高等學校優秀教材一等獎和1997年度國家級教學成果二等獎。

⑧ 向量，矩陣和張量的導數 | 簡單的數學

前段時間看過一些矩陣求導的教程，在看過的資料中，尤其喜歡斯坦福大學CS231n卷積神經網路課程中提到的Erik這篇文章。循著他的思路，可以逐步將復雜的求導過程簡化、再簡化，直到發現其中有規律的部分。話不多說，一起來看看吧。

本文旨在幫助您學習向量、矩陣和高階張量（三維或三維以上的數組）的求導方法，以及如何求對向量、矩陣和高階張量的導數。

在求關於數組的導數時，大部分困惑都源自於我們想要一次同時做好幾件事。這「幾件事」包括同時對多個元素求導、在求和符號下求導以及應用鏈式法則。至少在我們積累豐富的經驗之前，想要同時做這么多件事情是很容易犯錯的。

為了簡化給定的計算，有一種方法是：寫出輸出中 單個標量元素 的表達式，這個表達式只包含 標量 變數。一旦寫出了輸出中單個標量元素與其他標量值的表達式，就可以使用標量的微積分求導方法，這比同時進行矩陣的求和、求導要容易得多。

例子  假設我們有一個長度為 的列向量 ，它是由 行 列的矩陣 與長度為 的向量 計算得到的：

假設我們想求 對 的導數。完整的求導過程需要計算 中的每一個元素對 中的每一個元素的（偏）導數，在這種情況下，我們會算出 個元素，因為 中有 個元素而 中有 個元素。

讓我們先從計算其中一個元素開始，比如， 中的第3個元素對 中的第7個元素求導。也就是說，我們要計算

也就是一個標量對另一個標量求導。

在求導之前，我們要先寫出 的表達式。根據矩陣-向量乘法的定義，矩陣 的第3行與向量 的點積就是 的值。

此時，我們已經將原始矩陣方程式（1）簡化為了一個標量方程，從而更容易計算所需的導數。

雖然我們可以嘗試直接求式（2）的導數，但包含求和符號或連乘符號的表達式在求導時很容易出錯。為了確保萬無一失，在剛開始的時候最好去掉求和符號，把各項相加的表達式寫出來。我們可以寫出以下表達式，下標由「1」開始

當然，這個表達式中包括了含有 的項，這一項正是我們求導需要的項。現在不難看出，在求 對 的偏導數時，我們只關心這個表達式中的一項， 。由於其他項都不包括 ，他們對 的導數都是0。由此，我們寫出

通過把關注點放在 中的一個元素對 中的一個元素的求導過程，我們盡可能地簡化了計算。以後當你在矩陣求導計算中產生困惑時，也可以試著將問題簡化到這個最基本的程度，這樣便於看清哪裡出了問題。

別忘了，我們的終極目標是計算 中每個元素對 中每個元素的導數，這些導數總共有 個。以下矩陣可以表示所有這些導數：

在這種特殊情況下，它被稱為 雅可比矩陣（Jacobian maxtirx） ，但這個術語對理解我們的目的而言並不那麼重要。

注意，對於公式

對 的偏導數可以簡單地用 來表示。如果挨個兒檢查整個矩陣中的所有元素，就不難發現，對所有的i和j來說，都有

也就是說，偏導數的矩陣可以表示為

現在可以看出，這個矩陣當然就是矩陣 本身。

因此，推導了這么半天，我們終於能得出，對

求 對 的導數相當於

在使用不同的神經網路庫時，留意權重矩陣、數據矩陣等矩陣的具體表達形式是非常重要的。例如，如果一個數據矩陣 包含許多不同的向量，那麼，在這個矩陣中，是一個行向量表示數據集中的一個樣本，還是一個列向量表示一個樣本？

在第一部分的例子中，我們計算的向量 是一個列向量。然而，當 是行向量的時候你也得明白該怎麼算。

假設 是含有 個元素的行向量，它是由含有 個元素的行向量 與 行 列的矩陣 計算得到的：

雖然 和 中的元素數量都和之前一樣，但矩陣 的形狀相當於我們在第一個例子中使用的矩陣 的 轉置（transpose） 。尤其是因為我們現在是矩陣 左乘 ，而不是之前的右乘，現在的矩陣 必須是第一個例子中矩陣 的轉置。

在這個例子中，寫出 的表達式

會得到

注意這個例子中的元素序號與第一個例子中相反。如果寫出完整的雅可比矩陣，我們仍然可以得出

現在假設一個與前兩部分密切相關的情形，如下式

在這個情況下， 沿一個坐標軸變化，而 沿兩個坐標軸變化。因此，整個導數自然會是一個 三維 數組。在這里，我們避免使用「三維矩陣」這樣的術語，因為尚不清楚矩陣乘法和其他矩陣運算在三維數組中是如何定義的。

在處理三維數組的時候，嘗試去找出展示它們的方法可能會帶來不必要的麻煩。相反，我們應該簡單地用表達式寫出結果，用這些表達式可以計算出所需三維數組中的任何元素。

讓我們繼續以標量導數的計算開始，比如 中的一個元素 和 中的一個元素 。我們先用其他標量寫出 的表達式，這個表達式還要體現出 在其計算中所起的作用。

然而，我們發現 在 的計算中沒有起到任何作用，因為

也就是說

不過， 對 中第3列元素求導的結果一定是非零的。例如 對 的偏導數為

其實仔細看式（8）就很容易發現這一點。

一般情況下，當 中元素的下標等於 中元素的第二個下標時，這個偏導數就是非零的，反之則為零。我們由此寫出：

除此以外，三維數組中的其他元素都是0。如果用 表示 對 求導得出的三維數組

其中

但是 中的其他項都為0。

最終，如果我們定義一個新的 二維 數組

就可以看出，我們需要的所有關於 的信息實際上都可以用 來儲存，也就是說， 的非零部分其實是二維的，而不是三維的。

以緊湊的形式表示導數數組對於神經網路的高效實現而言至關重要。

前面的例子已經是很好的求導練習了，但如果需要用到多條數據，也就是多個向量 堆疊在一起構成矩陣 時，又該如何計算呢？我們假設每個單獨的 都是一個長度為 的行向量，矩陣 是一個 行 列的二維數組。而矩陣 ，和之前的例子一樣，是一個 行 列的矩陣。 的定義如下

它是一個 行 列的矩陣。因此， 的每一行將給出一個與輸入 的相應行相關的行向量。

按照我們寫出給定元素表達式的方法，可以寫出

我們馬上就能從這個式子中看出，對於偏導數

只有 的時候計算結果才不為零。也就是說，因為 中的每一個元素都只對 中相應的那一行求導， 與 的不同行之間的偏導數都為0。

我們可以進一步發現

完全不依賴於我們比較的是 和 的哪一行。

事實上，矩陣 完整包含了所有的偏導數——我們只需要根據式（10）和下標來找到我們想要的特定偏導數。

如果用 表示 中的第 行，用 表示 中的第 行，可以發現

正是對之前式（7）的一個簡單的普遍化形式。

我們已經通過幾個例子學會了一些基本形式的計算，現在通過鏈式法則把這些例子結合在一起。再次假設 和 是兩個列向量，讓我們從下式開始

嘗試計算 對 的導數。我們可以簡單地觀察到兩個矩陣 和 的乘積就是另一個矩陣 ，因此可以寫出

然而，我們想通過鏈式法則來定義中間結果，以觀察在非標量求導過程中是如何應用鏈式法則的。

我們把中間結果定義為

於是有

然後我們可以運用鏈式法則寫出

為了確保我們確切地知道該式的含義，再次採用每次分析一個元素的老辦法，從 中的一個元素和 中的一個元素開始：

右邊的乘積該怎麼解釋呢？鏈式法則的思想是將 對 每個標量 中間變數的導數與中間變數對 的導數 相乘 。特別地，如果 有 個元素，那麼可以寫出

回憶之前關於向量對向量求導的計算方法，發現

其實是 ，而

其實是 。所以可以寫出

這就是用 中的元素寫出的求導表達式，至此我們得出了答案。

綜上所述，我們可以用鏈式法則來表示向量和矩陣的導數，只需要注意：

清楚說明中間結果和表示中間結果的變數，

表示出最終導數中各個元素的鏈式法則，

對鏈式法則表達式中的中間結果適當求和。

參考資料：

http://cs231n.stanford.e/vecDerivs.pdf

⑨ 矩陣最大特徵值的演算法，謝謝，求詳細

主要優點：
1.不會遺漏特徵值
2.向後穩定
3.局部二次收斂，相當於直接法，一般o(n^3)步可以完成
對於非對稱矩陣而言，qr演算法仍然是目前求所有特徵值的最好演算法。