矩阵计算pdf

① 如何用Excel做矩阵基本计算

在计算矩阵的时候，需要很细心，一不小心就会算错了，在没有标准答案的时候，该如何验证你算的对不对呢?这个时候，你就可以使用excel来验证了。

1，数据及要求

打开数据表，假设数据如下所示：

根据这两个矩阵，做如下运算：矩阵加法，减法，乘法，矩阵的逆矩阵。

2，步骤

(1)选择E2:G4单元格区域，输入“=”，用鼠标选择A2:C4单元格区域，输入“+”，用鼠标选择A6:C8单元格区域，同时按Ctrl+Shift+Enter键，矩阵加法计算结果如下。

(2)选择E6:G8单元格区域，输入“=”，用鼠标选择A2:C4单元格区域，输入“-”，用鼠标选择A6:C8单元格区域，同时按Ctrl+Shift+Enter键，矩阵减法计算结果如下。

(3)选择E2:G4单元格区域，“公式”选项卡，“函数库”工具箱，“插入函数”工具，找到MMULT函数，单击“确定”按钮。

(4)在弹出的MMULT函数参数对话框中进行设置。

单击“Array1”右边的文本框，用鼠标选择“A2:C4”单元格区域，单击“Array2”右边的文本框，用鼠标选择“A6:C8”单元格区域，同时按Ctrl+Shift+Enter键.得到矩阵相乘的结果如下所示。

关于矩阵的加，减，乘算法就介绍到这里了，可以分享给身边的小伙伴哦。

PS：做好的Excel表格需要转换成其他格式，可以借助转转大师pdf转换器进行转换~支持 PDF转Excel 、Excel转PDF、 PDF转Word 、Word转PDF等格式转换功能。

② 我要进行工程方面研究,要建桥梁模型,进行矩阵计算和编程,Matlab，Maple与Mathematica 哪个软件好用谢谢

个人建议：MATLAB

目前在科技和工程界上比较流行和着名的数学软件主要有四个，分别是Maple、MATLAB、MathCAD和Mathematica。它们在各自针对的目标都有不同的特色。

一、Maple V 系统

Maple V是由Waterloo大学开发的数学系统软件，它不但具有精确的数值处理功能，而且具有无以伦比的符号计算功能。Maple V的符号计算能力还是MathCAD和MATLAB等软件的符号处理的核心。Maple提供了2000余种数学函数，涉及范围包括：普通数学、高等数学、线性代数、数论、离散数学、图形学。它还提供了一套内置的编程语言，用户可以开发自己的应用程序，而且Maple自身的2000多种函数，基本上是用此语言开发的。

Maple采用字符行输入方式，输入时需要按照规定的格式输入，虽然与一般常见的数学格式不同，但灵活方便，也很容易理解。输出则可以选择字符方式和图形方式，产生的图形结果可以很方便地剪贴到Windows应用程序内。

二、MATLAB 系统

MATLAB原是矩阵实验室（Matrix Laboratory）在70年代用来提供Linpack和Eispack软件包的接口程序，采用C语言编写。从80年代出现3.0的DOS版本，逐渐成为科技计算、视图交互系统和程序语言。MATLAB可以运行在十几个操作平台上，比较常见的有基于Windows 9X/NT、OS/2、Macintosh、Sun、Unix、Linux等平台的系统。

MATLAB程序主要由主程序和各种工具包组成，其中主程序包含数百个内部核心函数，工具包则包括复杂系统仿真、信号处理工具包、系统识别工具包、优化工具包、神经网络工具包、控制系统工具包、μ分析和综合工具包、样条工具包、符号数学工具包、图像处理工具包、统计工具包等。而且5.x版本还包含一套几十个的PDF文件，从MATLAB的使用入门到其他专题应用均有详细的介绍。

MATLAB是数值计算的先锋，它以矩阵作为基本数据单位，在应用线性代数、数理统计、自动控制、数字信号处理、动态系统仿真方面已经成为首选工具，同时也是科研工作人员和大学生、研究生进行科学研究的得力工具。MATLAB在输入方面也很方便，可以使用内部的Editor或者其他任何字符处理器，同时它还可以与Word6.0/7.0结合在一起，在Word的页面里直接调用MATLAB的大部分功能，使Word具有特殊的计算能力。

三、MathCAD 系统

MathCAD是美国Mathsoft公司推出的一个交互式的数学系统软件。从早期的DOS下的1.0和Windows下的4.0版本，到今日的8.0版本，功能也从简单的数值计算，直至引用Maple强大的符号计算能力，使得它发生了一个质的飞跃。

MathCAD是集文本编辑、数学计算、程序编辑和仿真于一体的软件。 MathCAD7.0 Professional（专业版）运行在Win9X/NT下，它的主要特点是输入格式与人们习惯的数学书写格式很近似，采用WYSWYG（所见所得）界面，特别适合一般无须进行复杂编程或要求比较特殊的计算。MathCAD 7.0 Professional 还带有一个程序编辑器，对于一般比较短小，或者要求计算速度比较低时，采用它也是可以的。这个程序编辑器的优点是语法特别简单。

MathCAD可以看作是一个功能强大的计算器，没有很复杂的规则；同时它也可以和Word、Lotus、WPS2000等字处理软件很好地配合使用，可以把它当作一个出色的全屏幕数学公式编辑器。

四、Mathematica 系统

Mathematica是由美国物理学家Stephen Wolfram领导的Wolfram Research开发的数学系统软件。它拥有强大的数值计算和符号计算能力，在这一方面与Maple类似，但它的符号计算不是基于Maple上的，而是自己开发的。

Mathematica的基本系统主要是用C语言开发的，因而可以比较容易地移植到各种平台上，Mathematica是一个交互式的计算系统，计算是在用户和Mathematica互相交换、传递信息数据的过程中完成的。 Mathematica系统所接受的命令都被称作表达式，系统在接受了一个表达式之后就对它进行处理，然后再把计算结果返回。Mathematica对于输入形式有比较严格的规定，用户必须按照系统规定的数学格式输入，系统才能正确地处理，不过由于3.0版本引入输入面板，并且可以修改、重组输入面板，因此以前版本输入指令时需要不断切换大小写字符的繁琐方式得到很好的改善。3.0版本可以用各种格式保存文件和剪贴内容，包括RTF、HTML、BMP等格式。

五、四种软件的比较

选用何种数学软件?如果仅仅是要求一般的计算或者是普通用户日常使用，首选的是 MathCAD，它在高等数学方面所具有的能力，足够一般客户的要求，而且它的输入界面也特别友好。如果要求计算精度、符号计算和编程方面的话，最好同时使用Maple和Mathematica，它们在符号处理方面各具特色，有些Maple不能处理的，Mathematica却能处理，诸如某些积分、求极限等方面，这些都是比较特殊的。如果要求进行矩阵方面或图形方面的处理，则选择MATLAB，它的矩阵计算和图形处理方面则是它的强项，同时利用MATLAB的NoteBook功能，结合Word6.0/7.0的编辑功能，可以很方便地处理科技文章。

mathematica 值得信赖，国外很多着名的大学都在用它作解析计算和公式的推导，证明，算法的研究，非常好的数学研究软件，我个人认为是No.1。它的数学分析可视化无与伦比。综合性能和另一个着名的软件Maple相比，又过之而无不及，要知道世界上绝大部分的量子物理，天体物理论文中的公式推导都由它完成。绝对高端但又易用，是数学，力学，物理研究人员的好帮手，甚至它的数值计算也完全可以应付学术研究。mathematica 和 Maple 的最新版本在用户公式的输入上都有很大改进，更加方便，随意。

北美不少Top大学的弹性力学，板壳理论，有限元等数学力学理论课的作业和Project都要求用它来完成。 我个人认为， 作为计算力学的工作者，从掌握语言的角度来讲， 只要掌握3种计算语言足够了，mathematica用来作解析法和数学模型的研究，Matlab用来实现数值算法（当然仍然可以还用mathematica), Fortran用来写可执行源代码。没必要把自己陷入众多的语言和计算软件之中，没有意义的。

③ 《大学数学系列课程学习辅导与同步练习线性代数》pdf下载在线阅读全文，求百度网盘云资源

《大学数学系列课程学习辅导与同步练习线性代数》网络网盘pdf最新全集下载:
链接：https://pan..com/s/1XvCHNwdRVF-JzYHcEDtM1A

?pwd=5965 提取码：5965
简介：大学数学系列课程学习辅导与同步练习线性代数pdf免费版包含了矩阵及其运算, 行列式及其计算, 矩阵的逆, Gramer法则, 矩阵运算的实际案例分析, 矩阵运算的Matlab实验, 矩阵的初等变换与初等矩阵，

④ 3D图形:矩阵的行列式,矩阵的逆、正交矩阵、齐次矩阵

在前面我们说到关于矩阵的一些计算知识,相信大家已经觉得进入了水深火热之中了,那么为了让大家感到更加刺激的视觉体验和感官体验,这一篇博客,我将对矩阵的行列式,矩阵的逆,正交矩阵,齐次矩阵进行探讨研究整理.我很庆幸你们看到这里了,为什么这么说呢?其实呢,因为齐次矩阵是我们平常开发用的比较多的,我曾经在 Core Graphics框架 :仿射变换与齐次坐标 简单的提到过(小白视角),这篇我将对齐次矩阵进行进一步的说明.

那么接下来,好戏登场了.

在任意的一个 方阵 都存在这样的一个标量,称作该方阵的行列式.一开始如果我一顿说概念,可能到时候懵的就不单单是读者了,连我自己都会懵逼的,我们就用实际的例子来说明行列式以及行列式的几何意义.

首先,我们先看方阵 M 的行列式为 |M| ,(注明:非方阵的行列式是未定义的)我们先从最简单的2x2的方阵来说明.2x2的方阵的行列式具体的定义如下所示.

根据书上所说的,我们可以这样进行记忆计算过程,将主对角线和反对角线的元素各自相乘,然后主对角线上的积减去反对角线元素的积.如下图所示.当然了,这是适用于2x2方阵的行列式的计算,3x3方阵的行列式计算可不是这么简单的,要麻烦的多得多.客官容我慢慢道来.

2x2方阵的行列式的计算例子如下所示.

上面基本就是2x2方阵行列式的计算的所有内容了,接下来我们看3x3方阵行列式的计算.首先我们先看一下3x3方阵行列式的定义.

看上去是不是很麻烦?其实当我们掌握它的计算技巧之后,可以很简单的计算出来.首先先把矩阵 M 连写两遍,接着如图所示进行计算.

好了经过2x2方阵和3x3方阵的洗礼,我们逐渐懵圈了,而且方阵的难道我们就只能这样计算行列式吗?不不不,数学界的前辈们已经为了我们留下来宝贵的计算方式,那就是余子式和代数余子式,两者的使用和不同就让我们一睹为快吧.

首先我们先看一下余子式.我们首先看一下概念,假设一个矩阵M,去除第i行和第j列之后剩下的矩阵就是矩阵M的余子式(i和j的限制条件就不过多解释说明了),记法如下所示.

接下来,我们用一个示例来做一下说明余子式是如何生成的.

上面我们已经对余子式的定义和计算方法有所了解.那么接下来,我们要对余子式的相关知识来做一下说明.那么什么叫代数余子式呢?

代数余子式是这样定义的,对于一个方阵 M ,给定行、列元素的代数余子式等于对应的余子式的有符号的行列式.我们把上面的这句定义给提炼一下,某个矩阵的代数余子式是行列式,那么我们已经注意到了,某个矩阵的余子式是一个矩阵.这样我们就知道两者的不同之处了,一个是标量,一个是矩阵,这就是两者的不同之处.好了,了解完两者的不同之处之后,我们来看代数余子式的计算方法是怎么定义的,如下所示.

只有上面的公式让我们感到很无助不是,那么接下来我们用一个接着余子式的示例来求解对应的代数余子式.如下所示.

那么说了这么多余子式和代数余子式的知识,到底对我们的行列式的求解有什么帮助呢?其实,我们是可以利用余子式和代数余子式直接计算任意n维方阵的行列式,首先,我们找到矩阵的任意一行i(i不大于最大行数),然后,列数j依次增加.具体的计算公式如下所示.

那么有了公式之后避免不了就是验证,接下来我们就用公式来推导4x4方阵的行列式.由于有了计算公式的便利,我们计算起来就比较方便了,但是我们要仔细判断每一个项的正负(自己验证的时候没注意,验证出错两三遍).这里,我选择的i =1(自己验证的时候可自行选择i) ,具体的验证过程如下所示.(由于其中的项过多,所以分两步截图.)

通过上面我们发现,行数列数越多的方阵行列式的复杂度就会越高.复杂度会呈指数增长.我们计算到4x4的就已经非常的麻烦了(其实4x4的行列式我们已经够用了),那么要是在来个10x10的方阵行列式,我们岂不要疯掉?这里,书中提到了一种行列式的计算方式叫做"主元选择"的计算方式,感兴趣的小伙伴可自行查询资料.

上面我们已经说完了行列式,但是说了一大堆,我们还是懵圈的,那么行列式是用来干什么的呢?或者说是行列式代表着什么意义呢?其实,在2D中行列式代表着以基向量为两边的平行四边形的有符号面积.在3D环境中则代表着以基向量为三边的平行六面体有符号体积.我们看以下示例来验证我们的想法.

如图所示,在2D环境中有基向量 v = [3 0] ,u = [1 2] .

那么它的面积是3x2 = 6,它的行列式是3x2-1x0 = 6,我们发现行列式是和面积相等的(当然了,如果基向量 v = [-3 0] ,行列式最终计算出来的值为-6)

接下来,我们看一下在3D环境中的有三个基向量 u = [2 0 0],v = [1 2 0],w= [0 0 1] ,如图所示.

然后我们计算由上面三个基向量所围成的正六面体的体积为1x2x2 = 4,计算的三个基向量所组成的矩阵的行列式.发现两者的绝对值是相等的.如下所示.

矩阵的逆和矩阵的转置是有所不同的,矩阵的转置请查看 3D图形:矩阵的相关知识 .求逆运算有个先决条件,那就是只有方阵才可以进行求逆运算.

首先我们看一下方阵的逆是如何定义的.假设一个方阵 M ,方阵 M 的逆,记作 M^-1 ,方阵的逆也是一个矩阵.当 M 和 M^-1 相乘的时候,结果是单位矩阵 I .如下所示.

那么我该如何计算方阵 M 的逆呢?在我看的3D图形上是给出了如下的方法.

在上面的公式中矩阵的行列式我们知道如何求解,那么 adj M 是什么鬼? adj M 叫做矩阵 M 的伴随矩阵,定义为矩阵 M 的代数余子式矩阵的转置矩阵(挺绕口).没事,我们看一下示例是如何解释的这个的.假设矩阵 M 如下所示.

那么接下来,我们把矩阵中所有的元素的代数余子式求解出来,如下所示.

那么代数余子式的转置矩阵( adjM )如下所示.

代数余子式的转置矩阵( adjM ),我们已经求解出来了,接下来,我们就要求解矩阵的逆了.套用公式计算过程如下所示.

上面我们知道了矩阵的逆的概念和计算方法,那么它的实际作用是什么呢?或者说是它的几何意义是什么呢?其实矩阵的逆主要适用于"撤销"功能的实现.比如一个向量 ν 通过矩阵 M 进行了变换,然后呢,我们可以再呈上 M 的逆矩阵,这样就撤销了变换动作了,验证过程如下所示.

先来看一下正交矩阵是如何定义的,若方阵 M 是正交的,则当且仅当 M 与他的转置矩阵 M^T 的乘积等于单位矩阵,那么就称矩阵 M 为正交矩阵.

在矩阵的逆中我们知道,矩阵的逆和矩阵的乘积为单位矩阵 I ,由此推理,我们可以知道,如果该矩阵为正交矩阵,那么矩阵的逆和转置矩阵是相等的.

那么正交矩阵存在的意义是什么呢?其实如果一个矩阵是正交矩阵,那么矩阵的逆和转置矩阵是相等的.转置矩阵是非常简单计算的,而计算矩阵的逆如果使用代数余子式计算是非常的麻烦,所以我们可以直接计算转置矩阵然后直接得到该矩阵的逆.

DuangDuangang~本文的最重要的部分--齐次矩阵,在说其相关内容之前,我们要先用两个比较经典的示例来说一下齐次空间是如何出现的,(范例是从网上寻找到,莫怪)

两条平行线会相交吗?
在没有认识到齐次空间之前,我们知道两条平行线是不能相交的,但是两条平行线真的不能相交吗?我们看下面这幅图,我们都知道两条铁轨是平行的,但是这两条平行的铁轨在无穷远处会相交于一点.这对吗?在笛卡尔2D坐标系中, 我们用 ( x, y ) 表示笛卡尔空间中的一个 2D 点，而处于无限远处的点 (∞,∞) 在笛卡尔空间里是没有意义的。所以我们是无法解释这种现象的,但是在齐次空间中,我们可以解释这种现象.

带着上面的两个问题,我们开始我们的齐次坐标之旅.其实齐次空间的出现主要是用于投影问题的解决.所谓 齐次坐标 就是将一个原本是n维的向量用一个n+1维向量来表示. 4D齐次空间有4个分量分别是(x,y,z,w),第四个是w,称为 齐次坐标 .那么在3D笛卡尔坐标系中可以使用其次坐标表示为(x/w,y/w,z/w).

那么我们就解决第一个问题,解释两条平行线投射到一个2D平面中相交于一点.我们知道在2D笛卡尔坐标系中用 Ax+By+C= 0 表示一条直线.两条平行直线相交的话,要关联两个方程式.如下所示.

在笛卡尔坐标系中,上述的两者如果相交,那么C=D=0,也就是两者是同一条过原点的直线.显然是解释不了两条平行线相交于一点的.如果我们引入齐次坐标的概念的话,我们把x/w, y/w 代替 x, y 放到投影空间里,如下所示.

上面的方程式组可以转换为下面的方程式组.

在C≠D的情况下,那么对方程组求解,就是w = 0两条直线相交,那么就是(x,y,0).两条直线相交于无限远处.

那么引进齐次坐标有什么必要，它有什么优点呢？
1.它提供了用矩阵运算把二维、三维甚至高维空间中的一个点集从一个坐标系变换到另一个坐标系的有效方法.
2.它可以表示无穷远的点。n+1维的齐次坐标中如果h=0，实际上就表示了n维空间的一个无穷远点。对于齐次坐标[a,b,h]，保持a,b不变， 点沿直线 ax+by=0 逐渐走向无穷远处的过程.

在 3D图形:矩阵与线性变换 我说过几种线性变换,比如旋转,缩放,镜像等等,唯独没有平移,但是在日常开发过程中,平移应该算的上我们很常用的一种仿射变换了.那么这是为什么呢?根据书上所说,矩阵的乘法性质所决定的,零向量总是变换成零向量,所以任何矩阵的乘法表达的变换是不会有平移的.但是我们却可以使用4X4平移矩阵表示3D环境中的平移变换,使用3X3平移矩阵表示2D环境中的平移变换.(假设w不变且w = 1)具体公式如下所示.

虽然在4D中,矩阵的乘法仍然是线性的,矩阵的乘法不能表示4D中的平移,却能代表着3D环境中的平移变换.

最后还是要附上<<3D数学基础 图形与游戏开发>>的pdf版的传送门.

⑤ 《数值分析第五版》pdf下载在线阅读，求百度网盘云资源

《数值分析 中南大学韩旭里 126讲》网络网盘资源免费下载

链接: https://pan..com/s/1ath5aUEumr5ueV5d_GRa5Q

?pwd=hjmi 提取码: hjmi

数值分析 中南大学 韩旭里 126讲|线性方程组的迭代解法（一）.mp4|线性方程组的迭代解法（五）.mp4|线性方程组的迭代解法（四）.mp4|线性方程组的迭代解法（三）.mp4|线性方程组的迭代解法（七）.mp4|线性方程组的迭代解法（六）.mp4|线性方程组的迭代解法（二）.mp4|数值积分与数值微分（一）.mp4|数值积分与数值微分（五）.mp4|数值积分与数值微分（四）.mp4|数值积分与数值微分（十一）.mp4|数值积分与数值微分（十五）.mp4|数值积分与数值微分（十四）.mp4|数值积分与数值微分（十三）.mp4

⑥ 关于求矩阵SVD的问题

你自己看matlab对svd的说明，
X= U*S*V'
这里的V是转置的
所以跟你的C程序结果是转置

其次正负号可以随便分配的，例如你把U的符号全取负号，那么V也是全取负号

然后就是精度问题，你在matlab 先输入format long
就能看到更多位数了，大小基本是一样的

所以其实结果是等价的，说白了就是S按特征值大小排序的话是唯一的，U,V不唯一

不明白可追问

⑦ 《并行算法的设计与分析》pdf下载在线阅读，求百度网盘云资源

《并行算法的设计与分析》（陈国良）电子书网盘下载免费在线阅读

资源链接：

链接：

提取码：qc2v

书名：并行算法的设计与分析

作者：陈国良

出版年份：2009-8

页数：813

内容简介：第3版在修订版的基础上进行了大幅度的修订，新增加3章、重写3章，改写8章。《普通高等教育十一五国家级规划教材·并行算法的设计与分析(第3版)》系统深入地讨论了计算机领域中诸多计算问题的并行算法的设计和分析方法。在着重介绍各种并行计算模型上的常用和典型的并行算法的同时，也力图反映本学科的最新成就、学科前沿和发展趋势。

全书共分二十章，包括基础篇4章(绪论、设计技术、前缀计算、排序和选择网络)，并行算法篇9章（排序和选择算法、分布式算法、并行搜索、选路算法、串匹配、表达式求值、上下文无关语言、图论算法、计算几何），数值并行算法篇3章（矩阵运算、数值计算、快速傅氏变换），理论篇4章（组合搜索、随机算法、VLSI计算理论、并行计算理论）。

《普通高等教育十一五国家级规划教材·并行算法的设计与分析(第3版)》取材丰富，内容系统深入，可作为高等学校计算机及其他信息类有关专业高年级本科生和研究生的教材，也可供从事计算机科学理论和并行算法研究的科技人员阅读参考。

《普通高等教育十一五国家级规划教材·并行算法的设计与分析(第3版)》初版曾获1994年度教育部高等学校优秀教材一等奖和1997年度国家级教学成果二等奖。

⑧ 向量，矩阵和张量的导数 | 简单的数学

前段时间看过一些矩阵求导的教程，在看过的资料中，尤其喜欢斯坦福大学CS231n卷积神经网络课程中提到的Erik这篇文章。循着他的思路，可以逐步将复杂的求导过程简化、再简化，直到发现其中有规律的部分。话不多说，一起来看看吧。

本文旨在帮助您学习向量、矩阵和高阶张量（三维或三维以上的数组）的求导方法，以及如何求对向量、矩阵和高阶张量的导数。

在求关于数组的导数时，大部分困惑都源自于我们想要一次同时做好几件事。这“几件事”包括同时对多个元素求导、在求和符号下求导以及应用链式法则。至少在我们积累丰富的经验之前，想要同时做这么多件事情是很容易犯错的。

为了简化给定的计算，有一种方法是：写出输出中 单个标量元素 的表达式，这个表达式只包含 标量 变量。一旦写出了输出中单个标量元素与其他标量值的表达式，就可以使用标量的微积分求导方法，这比同时进行矩阵的求和、求导要容易得多。

例子  假设我们有一个长度为 的列向量 ，它是由 行 列的矩阵 与长度为 的向量 计算得到的：

假设我们想求 对 的导数。完整的求导过程需要计算 中的每一个元素对 中的每一个元素的（偏）导数，在这种情况下，我们会算出 个元素，因为 中有 个元素而 中有 个元素。

让我们先从计算其中一个元素开始，比如， 中的第3个元素对 中的第7个元素求导。也就是说，我们要计算

也就是一个标量对另一个标量求导。

在求导之前，我们要先写出 的表达式。根据矩阵-向量乘法的定义，矩阵 的第3行与向量 的点积就是 的值。

此时，我们已经将原始矩阵方程式（1）简化为了一个标量方程，从而更容易计算所需的导数。

虽然我们可以尝试直接求式（2）的导数，但包含求和符号或连乘符号的表达式在求导时很容易出错。为了确保万无一失，在刚开始的时候最好去掉求和符号，把各项相加的表达式写出来。我们可以写出以下表达式，下标由“1”开始

当然，这个表达式中包括了含有 的项，这一项正是我们求导需要的项。现在不难看出，在求 对 的偏导数时，我们只关心这个表达式中的一项， 。由于其他项都不包括 ，他们对 的导数都是0。由此，我们写出

通过把关注点放在 中的一个元素对 中的一个元素的求导过程，我们尽可能地简化了计算。以后当你在矩阵求导计算中产生困惑时，也可以试着将问题简化到这个最基本的程度，这样便于看清哪里出了问题。

别忘了，我们的终极目标是计算 中每个元素对 中每个元素的导数，这些导数总共有 个。以下矩阵可以表示所有这些导数：

在这种特殊情况下，它被称为 雅可比矩阵（Jacobian maxtirx） ，但这个术语对理解我们的目的而言并不那么重要。

注意，对于公式

对 的偏导数可以简单地用 来表示。如果挨个儿检查整个矩阵中的所有元素，就不难发现，对所有的i和j来说，都有

也就是说，偏导数的矩阵可以表示为

现在可以看出，这个矩阵当然就是矩阵 本身。

因此，推导了这么半天，我们终于能得出，对

求 对 的导数相当于

在使用不同的神经网络库时，留意权重矩阵、数据矩阵等矩阵的具体表达形式是非常重要的。例如，如果一个数据矩阵 包含许多不同的向量，那么，在这个矩阵中，是一个行向量表示数据集中的一个样本，还是一个列向量表示一个样本？

在第一部分的例子中，我们计算的向量 是一个列向量。然而，当 是行向量的时候你也得明白该怎么算。

假设 是含有 个元素的行向量，它是由含有 个元素的行向量 与 行 列的矩阵 计算得到的：

虽然 和 中的元素数量都和之前一样，但矩阵 的形状相当于我们在第一个例子中使用的矩阵 的 转置（transpose） 。尤其是因为我们现在是矩阵 左乘 ，而不是之前的右乘，现在的矩阵 必须是第一个例子中矩阵 的转置。

在这个例子中，写出 的表达式

会得到

注意这个例子中的元素序号与第一个例子中相反。如果写出完整的雅可比矩阵，我们仍然可以得出

现在假设一个与前两部分密切相关的情形，如下式

在这个情况下， 沿一个坐标轴变化，而 沿两个坐标轴变化。因此，整个导数自然会是一个 三维 数组。在这里，我们避免使用“三维矩阵”这样的术语，因为尚不清楚矩阵乘法和其他矩阵运算在三维数组中是如何定义的。

在处理三维数组的时候，尝试去找出展示它们的方法可能会带来不必要的麻烦。相反，我们应该简单地用表达式写出结果，用这些表达式可以计算出所需三维数组中的任何元素。

让我们继续以标量导数的计算开始，比如 中的一个元素 和 中的一个元素 。我们先用其他标量写出 的表达式，这个表达式还要体现出 在其计算中所起的作用。

然而，我们发现 在 的计算中没有起到任何作用，因为

也就是说

不过， 对 中第3列元素求导的结果一定是非零的。例如 对 的偏导数为

其实仔细看式（8）就很容易发现这一点。

一般情况下，当 中元素的下标等于 中元素的第二个下标时，这个偏导数就是非零的，反之则为零。我们由此写出：

除此以外，三维数组中的其他元素都是0。如果用 表示 对 求导得出的三维数组

其中

但是 中的其他项都为0。

最终，如果我们定义一个新的 二维 数组

就可以看出，我们需要的所有关于 的信息实际上都可以用 来储存，也就是说， 的非零部分其实是二维的，而不是三维的。

以紧凑的形式表示导数数组对于神经网络的高效实现而言至关重要。

前面的例子已经是很好的求导练习了，但如果需要用到多条数据，也就是多个向量 堆叠在一起构成矩阵 时，又该如何计算呢？我们假设每个单独的 都是一个长度为 的行向量，矩阵 是一个 行 列的二维数组。而矩阵 ，和之前的例子一样，是一个 行 列的矩阵。 的定义如下

它是一个 行 列的矩阵。因此， 的每一行将给出一个与输入 的相应行相关的行向量。

按照我们写出给定元素表达式的方法，可以写出

我们马上就能从这个式子中看出，对于偏导数

只有 的时候计算结果才不为零。也就是说，因为 中的每一个元素都只对 中相应的那一行求导， 与 的不同行之间的偏导数都为0。

我们可以进一步发现

完全不依赖于我们比较的是 和 的哪一行。

事实上，矩阵 完整包含了所有的偏导数——我们只需要根据式（10）和下标来找到我们想要的特定偏导数。

如果用 表示 中的第 行，用 表示 中的第 行，可以发现

正是对之前式（7）的一个简单的普遍化形式。

我们已经通过几个例子学会了一些基本形式的计算，现在通过链式法则把这些例子结合在一起。再次假设 和 是两个列向量，让我们从下式开始

尝试计算 对 的导数。我们可以简单地观察到两个矩阵 和 的乘积就是另一个矩阵 ，因此可以写出

然而，我们想通过链式法则来定义中间结果，以观察在非标量求导过程中是如何应用链式法则的。

我们把中间结果定义为

于是有

然后我们可以运用链式法则写出

为了确保我们确切地知道该式的含义，再次采用每次分析一个元素的老办法，从 中的一个元素和 中的一个元素开始：

右边的乘积该怎么解释呢？链式法则的思想是将 对 每个标量 中间变量的导数与中间变量对 的导数 相乘 。特别地，如果 有 个元素，那么可以写出

回忆之前关于向量对向量求导的计算方法，发现

其实是 ，而

其实是 。所以可以写出

这就是用 中的元素写出的求导表达式，至此我们得出了答案。

综上所述，我们可以用链式法则来表示向量和矩阵的导数，只需要注意：

清楚说明中间结果和表示中间结果的变量，

表示出最终导数中各个元素的链式法则，

对链式法则表达式中的中间结果适当求和。

参考资料：

http://cs231n.stanford.e/vecDerivs.pdf

⑨ 矩阵最大特征值的算法，谢谢，求详细

主要优点：
1.不会遗漏特征值
2.向后稳定
3.局部二次收敛，相当于直接法，一般o(n^3)步可以完成
对于非对称矩阵而言，qr算法仍然是目前求所有特征值的最好算法。