来源：算法与数学之美
如果有线性方程组
$$\left\{\begin{matrix} a_{11}x_{1}+a_{12}x_{2}+\dots+a_{1n}x_{n}=b_{1} \\ a_{21}x_{1}+a_{22}x_{2}+\dots+a_{2n}x_{n}=b_{2}\\ \dots\dots\dots \\ a_{n1}x_{1}+a_{n2}x_{2}+\dots+a_{nn}x_{n}=b_{n} \end{matrix}\right. \tag {1}$$系数行列式不等于0，即：
$$D = \left|\begin{matrix} a_{11} & a_{12}&\dots &a_{1n}\\ a_{21}&a_{22}&\dots &a_{2n}\\ \dots&\dots&\dots&\dots \\ a_{n1}&a_{n2}&\dots&a_{nn}\end{matrix}\right| \neq 0$$那么线性方程组 $(1)$ 有解并且解是唯一的，解可以表示成：
$$x_{1}=\frac{D_{1}}{D},x_{2}=\frac{D_{2}}{D} ,x_{3}=\frac{D_{3}}{D} ,\dots,x_{n}=\frac{D_{n}}{D}. \tag{2}$$其中 $D_{j}$ 是把系数行列式 $D$ 中第 $j$ 列的元素用方程组右端的常数项代替后得到的 $n$ 阶行列式
$$D_{j} = \left|\begin{matrix} a_{11}&\dots &a_{1,j-1}&\color{red}{b_{1}} &a_{1,j+1} &\dots&a_{1n}\\ \vdots & & \vdots & \color{red}{\vdots} & \vdots & & \vdots \\ a_{n1}&\dots &a_{n,j-1}&\color{red}{b_{n}} &a_{n,j+1} &\dots&a_{nn} \end{matrix}\right|$$由 $m \times n$ 个数 $a_{ij}\ \ (i=1,2,,...,m;j=1,2,...,n)$ 构成的 $m$ 行 $n$ 列的数表
$$ \left . \begin{array}{cccc} a_{11} & a_{12} & \dots & a_{1n} \\ a_{21} & a_{22} & \dots & a_{2n} \\ \vdots & \vdots & & \vdots \\ a_{m1} & a_{m2} & \dots & a_{mn} \\ \end{array} \right . $$称为 $m$ 行 $n$ 列矩阵，简称 $m\times n$ 矩阵，记作：
$$ \left [ \begin{array}{cccc} a_{11} & a_{12} & \dots & a_{1n} \\ a_{21} & a_{22} & \dots & a_{2n} \\ \vdots & \vdots & & \vdots \\ a_{m1} & a_{m2} & \dots & a_{mn} \\ \end{array} \right ] $$简记为：$A=A_{m\times n}=(a_{ij})_{m\times n}=(a_{ij})$
这 $m\times n$ 个数称为矩阵 $A$ 的元素，简称为元
元素是实数的矩阵称为实矩阵
元素是复数的矩阵称为复矩阵
| 行列式 | 矩阵 |
|---|---|
| 行数等于列数 | 行数不一定等于列数 |
| 共有 $n^2$ 个元素 | 共有 $m\times n$ 个元素 |
| 本质上是一个数 | 本质上是一个数表 |
| $det(a_{ij})$ | $(a_{ij})_{m\times n}$ |
行数与列数都等于 $n$ 的矩阵，称为 $n$ 阶方阵，可记作 $A_n$
只有一行的矩阵 $A=(a_1,a_2,\dots,a_n)$ 称为行矩阵（或行向量）
只有一列的矩阵 $B= \left [ \begin{array}{cccc} a_{1} \\ a_{2} \\ \vdots \\ a_{n1} \\ \end{array} \right ] $ 称为列矩阵（或列向量）
元素全为零的矩阵称为零矩阵，记作 $O$
形如 $ \left [ \begin{array}{cccc} \lambda_1 & 0 & \dots & 0 \\ 0 & \lambda_2 & \dots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \dots & \lambda_n\\ \end{array} \right ] $ 的方阵（必须是方阵）称为对角阵，记作 $A=diag(\lambda_1,\lambda_2,\dots,\lambda_n)$
特别的，当 $\lambda_{i}=1$ 时，称为单位阵，记作 $E$
两个矩阵的行数相等、列数相等时，称为同型矩阵
两个矩阵 $A=(a_{ij})$ 与 $B=(b_{ij})$ 为同型矩阵，并且对应元素相等，即 $a_{ij}=b_{ij}\ \ (i=1,2,...,m;j=1,2,...,n)$
则称矩阵 $A$ 与 $B$ 相等，记作 $A=B$
$n$ 个变量 $x_1,x_2,\dots,x_n$ 与 $m$ 个变量 $y_1,y_2,\dots,y_m$ 之间的关系式
$$\left\{\begin{matrix} y_1 = a_{11}x_{1}+a_{12}x_{2}+\dots+a_{1n}x_{n}\\ y_2 = a_{21}x_{1}+a_{22}x_{2}+\dots+a_{2n}x_{n}\\ \dots\dots\dots \\ y_m = a_{m1}x_{1}+a_{m2}x_{2}+\dots+a_{mn}x_{n} \end{matrix}\right.$$表示一个从变量 $x_1,x_2,\dots,x_n$ 到变量 $y_1,y_2,\dots,y_m$ 线性变换，其中 $a_{ij}$ 为常数。
$ A= \left [ \begin{array}{cccc} a_{11} & a_{12} & \dots & a_{1n} \\ a_{21} & a_{22} & \dots & a_{2n} \\ \vdots & \vdots & & \vdots \\ a_{m1} & a_{m2} & \dots & a_{mn} \\ \end{array} \right ] $ 为系数矩阵
线性变换与矩阵之间存在着一一对应关系
投影变换 $ \left [ \begin{array}{cccc} 1 & 0 \\ 0 & 0 \end{array}\right ] $ $\leftrightarrow$ $\left\{\begin{matrix} x_1 = x\\ y_1 = 0 \end{matrix}\right. $
以原点为中心逆时针旋转 $\varphi$ 角的旋转变换 $ \left [ \begin{array}{cccc} \cos \varphi & -\sin \varphi \\ \sin \varphi & \cos \varphi \end{array}\right ] $ $\leftrightarrow$ $\left\{\begin{matrix} x_1 = \cos \varphi x - \sin \varphi y\\ y_1 = \sin \varphi x + \cos \varphi y \end{matrix}\right. $
$ A+B= \left [ \begin{array}{cccc} a_{11}+b_{11} & a_{12}+b_{12} & \dots & a_{1n}+b_{1n} \\ a_{21}+b_{21} & a_{22}+b_{22} & \dots & a_{2n}+b_{2n} \\ \vdots & \vdots & & \vdots \\ a_{m1}+b_{m1} & a_{m2}+b_{m2} & \dots & a_{mn}+b_{mn} \\ \end{array} \right ] $
定义：数 $\lambda $ 与矩阵 $A$ 的乘积记作 $\lambda A$ 或 $A \lambda $，规定为：
$ \lambda A= A \lambda = \left [ \begin{array}{cccc} \lambda a_{11} & \lambda a_{12} & \dots & \lambda a_{1n} \\ \lambda a_{21} & \lambda a_{22} & \dots & \lambda a_{2n} \\ \vdots & \vdots & & \vdots \\ \lambda a_{m1} & \lambda a_{m2} & \dots & \lambda a_{mn} \\ \end{array} \right ] $
| $a、b、c$ 属于 $R$ | 设$A、B、C$ 是同型矩阵，$\lambda$，$\mu$ 是数 | |
|---|---|---|
| 结合律 | $$（ab）c=a(bc)$$ | $$(\lambda \mu)A=\lambda(\mu A)$$ |
| 分配律 | $$(a+b)c=ac+bc \\ c(a+b)=ca+cb$$ | $$(\lambda+\mu)A=\lambda A+\mu B \\ \lambda (A+B)=\lambda A + \lambda B$$ |
定义：设 $A$ 为 $n$ 阶方阵，如果满足 $A=A^T$，即 $a_{ij}=a_{ji}\ \ (i,j=1,2,\dots ,n)$，那么 $A$ 称为对称阵。
如果满足 $A=-A^T$，那么 $A$ 称为反对称阵
定义：由 $n$ 阶方阵的元素所构成的行列式，叫做方阵 $A$ 的行列式，记作 $|A|$ 或 $detA.$
定义：行列式 $|A|$ 的各个元素的代数余子式 $A_{ij}$ 所构成的如下矩阵
$ A^{*}= \left [ \begin{array}{cccc} A_{11} & A_{21} & \dots & A_{n1} \\ A_{12} & A_{22} & \dots & A_{n2} \\ \vdots & \vdots & & \vdots \\ A_{1n} & A_{2n} & \dots & A_{nn} \\ \end{array} \right ] $
称为矩阵 $A$ 的伴随矩阵
元素 $a_{ij}$ 的代数余子式 $A_{ij}$ 位于第 $j$ 行第 $i$ 列
定义中的注意点
当 $A=(a_{ij})$ 为复矩阵时，用 $\overline{a_{ij}}$ 表示 $a_{ij}$ 的共轭复数，记 $\overline{A}=（\overline{a_{ij}}）,\ \ \overline{A}$ 称为 $A$ 的共轭矩阵
定义：$n$ 阶方阵 $A$ 称为可逆的，如果有 $n$ 阶方阵 $B$，使得 $AB=BA=E$ （$E$ 是 $n$ 阶单位矩阵）
定义：如果矩阵 $B$ 满足上述等式，那么 $B$ 就称为 $A$ 的逆矩阵，记作 $A^{-1}$
结论：$AA^{*}=A^{*}A=|A|E$，其中
$ A= \left [ \begin{array}{cccc} a_{11} & a_{12} & \dots & a_{1n} \\ a_{21} & a_{22} & \dots & a_{2n} \\ \vdots & \vdots & & \vdots \\ a_{n1} & a_{n2} & \dots & a_{nn} \\ \end{array} \right ] $
$ A^{*}= \left [ \begin{array}{cccc} A_{11} & A_{21} & \dots & A_{n1} \\ A_{12} & A_{22} & \dots & A_{n2} \\ \vdots & \vdots & & \vdots \\ A_{1n} & A_{2n} & \dots & A_{nn} \\ \end{array} \right ] $
定理：若 $|A|\neq 0$，则方阵 $|A|$ 可逆，而且 $A^{-1}=\frac{1}{|A|} A^{*}$
推论：若 $|A| \neq 0$，则 $|A^{-1}|=\frac{1}{|A|}.$
定理：若方阵 $A$ 可逆，则 $|A|\neq0$.
推论：如果 $n$ 阶方阵 $A、B$ 可逆，那么 $A^{-1}、A^T、\lambda A(\lambda \neq0)、AB$ 也可逆，且
定义：用一些横线和竖线，将矩阵分成若干个小块，这种操作称为对矩阵进行分块
定义：下列三种变换称为矩阵的初等变换
结论：对原线性方程组的变换可以转化为对增广矩阵的变换
备注：
行阶梯形矩阵
行最简形矩阵
标准形矩阵
结论：任何矩阵，经过有限次初等行（或列）变换，都能够得到标准型矩阵
定义：由单位矩阵 $E$ 经过一次初等变换得到的矩阵，称为 初等矩阵
三种初等变换对应着三种初等矩阵
定义：设矩阵 $A$ 有一个不等于零的 $r$ 阶子式 $D$，且所有 $r+1$ 阶子式（如果存在的话）全等于零，那么 $D$ 称为矩阵 $A$ 的最高阶非零子式，数 $\color{red}{r}$ 称为矩阵 $A$ 的秩，记作 $R(A)$.
规定：零矩阵的秩等于零。
矩阵 $A$ 的秩就是 $A$ 中非零子式的最高阶数
$\left [ \begin{array}{cccc} 3 & 4 & -1 & 5\\ 1 & -1 & 2 & -1\\ \end{array} \right ]$
$\left [ \begin{array} {ccc} 3 & 4 & -1 \\ 1 & -1 & 2 \\ \end{array} \right ]$ $\left[\begin{array}{c} x_1\\ x_2\\ x_3\\ \end{array}\right]$ = $\left[\begin{array}{c} 5\\ -1\\ \end{array}\right]$
$x_1 \left [\begin{array}{c} 3\\ 1\\ \end{array}\right ]$ $+\ x_2$ $\left [ \begin{array}{c} 4\\ -1\\ \end{array}\right ]$ $+\ x_3$ $\left [ \begin{array}{c} -1\\ 2\\ \end{array}\right]$ $=$ $\left [ \begin{array}{c} 5\\ -1\\ \end{array}\right ]$
向量 $b$ 能由 向量组 $A$ 线性表示 $\color{red}{\Longleftrightarrow}$ 线性方程组 $Ax=b$ 有解 $\color{red}{\Longleftrightarrow}$ $R(A)=R(A,b)$
结论：矩阵的最高阶非零子式一般不是唯一的，但矩阵的秩是唯一的
称为方程组的解向量
所谓封闭，是指集合中任意两个元素作某一运算得到的结果仍属于该集合
设有向量空间 $V$，如果在 $V$ 中能选出 $r$ 个向量 $a_1,a_2,\dots,a_r$ 满足
向量空间 $\color{red}{\Longrightarrow}$ 向量组
向量空间的基 $\color{red}{\Longrightarrow}$ 向量组的最大无关组
向量空间的维数 $\color{red}{\Longrightarrow}$ 向量组的秩
定义：如果在向量空间 $V$ 中取定一个基 $a_1,a_2,\dots,a_r$，那么 $V$ 中任意一个向量可唯一表示为 $$x=\lambda_1 a_1 + \lambda_2 a_2 + \dots + \lambda_r a_r$$ 数组 $\lambda_1,\lambda_2,\dots,\lambda_r$ 称为 $x$ 在基 $a_1,a_2,\dots,a_r$ 中的坐标。
定义：设有 $n$ 维向量 $x= \left [ \begin{array}{cccc} x_{1} \\ x_{2} \\ \vdots \\ x_{n} \\ \end{array} \right ] $， $y= \left [ \begin{array}{cccc} y_{1} \\ y_{2} \\ \vdots \\ y_{n} \\ \end{array} \right ] $
令 $[x,y]=x_1y_1+x_2y_2+\dots+x_ny_n$
则称 $[x,y]$ 为向量 $x$, $y$ 的内积
arccos 表示的是反三角函数中的反余弦。
一般用于表示当角度为非特殊角时。
由于是多值函数，往往取它的单值，值域为[0，π]，记作y=arccosx，称为“反三角函数中的反余弦函数的主值”。余弦（余弦函数），三角函数的一种。
在Rt△ABC（直角三角形）中，∠C=90°，∠A的余弦是它的邻边比三角形的斜边，即cosA=b/c，也可写为cosa=AC/AB。
余弦函数：f(x)=cosx（x∈R）。
当∠A等于90度时，b=0，此时cosA=b/c=0施瓦茨（Schwarz）不等式 $[x,y]^2\leq [x,x][y,y] \color{red}{\Longrightarrow} [x,y]=\sqrt{[x,x]}· \sqrt{[y,y]}\color{red}{\Longrightarrow} [x,y]=||x||·||y||$
当$x\neq0,y\neq0$ 时，有 $|\frac{[x,y]}{||x||·||||}|\leq1$
定义：当 $x\neq0,y\neq0$ 时，把 $\theta =arccos \frac{[x,y]}{||x||·||y||}$ 称为 $n$ 维向量 $x$ 和 $y$ 的夹角
当 $[x,y]=0$ ，称向量 $x$ 和 $y$ 正交
结论：若 $x=0$，则 $x$ 与任何向量都正交
定义：两两正交的非零向量组成的向量组，称为正交向量组
定理：若 $n$ 维向量 $a_1,a_2,\cdots, a_r$ 是一组两两正交的非零向量，则 $a_1,a_2,\cdots, a_r$ 线性无关。
定义：$n$ 维向量 $e_1,e_2,\cdots,e_r$ 是向量空间 $V \subset R^n$ 中的向量，满足
示例： $e_1= \left [ \begin{array}{cccc} 1 \\ 0 \\ 0 \\ 0 \\ \end{array} \right ] $， $e_2= \left [ \begin{array}{cccc} 0 \\ 1 \\ 0 \\ 0 \\ \end{array} \right ] $， $e_3= \left [ \begin{array}{cccc} 0 \\ 0 \\ 1 \\ 0 \\ \end{array} \right ] $， $e_4= \left [ \begin{array}{cccc} 0 \\ 0 \\ 0 \\ 1 \\ \end{array} \right ] $ 是 $R^4$ 的一个规范正交基
定义：若 $P$ 是正交阵，则线性变换 $y=Px$ 称为正交变换
$ A = \left [ \begin{array}{cccc} 3 & -4 \\ 2 & -3 \\ \end{array} \right ] $
$ \left [ \begin{array}{cccc} 3 & -4 \\ 2 & -3 \\ \end{array} \right ] $ $ \left [ \begin{array}{cccc} 2 \\ 1 \\ \end{array} \right ] $ = 1·$ \left [ \begin{array}{cccc} 2 \\ 1 \\ \end{array} \right ] $
则:
$\lambda = 1$ 是 $A$ 的特征值
$ \left [ \begin{array}{cccc} 2 \\ 1 \\ \end{array} \right ] $ 是对应于 $\lambda = 1$ 的特征向量
特征方程 $|A-\lambda E|=0$
特征多项式 $|A-\lambda E|$
定义：设 $A，B$ 都是 $n$ 阶矩阵，若有可逆矩阵 $P$ 满足 $P^{-1}AP=B$，则称 $B$ 为矩阵 $A$ 的相似矩阵
定理：若 $n$ 阶矩阵 $A$ 和 $B$ 相似，则 $A$ 和 $B$ 的特征多项式相同，从而 $A$ 和 $B$ 的特征值也相同
定理：设 $n$ 阶矩阵 $A=diag(\lambda_1,\lambda_2,\cdots,\lambda_n)$，则 $\lambda_1,\lambda_2,\cdots,\lambda_n$ 就是 $A$ 的 $n$ 个特征值。
定理：设 $\lambda_1,\lambda_2,\cdots,\lambda_m$ 是方阵 $A$ 的特征值，$p_1,p_2,\cdots,p_n$ 依次是与之对应的特征向量。如果 $\lambda_1,\lambda_2,\cdots,\lambda_m$ 各不相同，则 $p_1,p_2,\cdots,p_n$ 线性无关
定理：$n$ 阶矩阵 $A$ 和对角阵相似（即 $A$ 能对角化）的充分必要条件是 $A$ 有 $n$ 个线性无关的特征向量
定义：含有 $n$ 个变量 $x_1,x_2,\cdots,x_n$ 的二次齐次函数 $f(x_1,x_2,\cdots,x_n)=a_{11}x_1^2+a_{22}x_2^2+\cdots+a_{nn}x_n^2 +2a_{12}x_1x_2+2a_{12}x_1x_3+\cdots+2a_{n-1,n}x_{n-1}x_n$ 称为二次型