向量

• 向量是有一组实数组成的有序数组，同时具有大小和方向。
• 标量：只有大小， 没有方向。
  a = [a₁,a₂...a_n]

转置

转置是以对角线为轴的矩阵镜像，主对角线是以左上角到右下角的对角线。记作，A ^T

广播

当矩阵和向量相加，需要将复制向量分别加矩阵的每一行。C=A+b, ==> C_i,j=A_i,j+b_j

矩阵的乘法

满足：

• 分配率
• 结合律
• 交换律（不满足，单位矩阵除外）

向量空间

顾名思义就是向量组的集合。满足两个条件：

• 向量加法（向量*向量）属于向量空间。
• 向量乘法（标量*向量）也属于向量空间。

欧式空间

表示为Rⁿ，一种常见的向量空间。

内积：
<a,b> = (求和）a_ib_i

范数

范数（norm）是一个表示向量“长度”的函数，为向量空间内的所有向量赋予非零的正长度或大小。

矩阵

线性映射-在线性空间中函数的映射f: V->W满足：

f(u+v)=f(u)+f(v),f(cu)=cf(u)
矩阵的乘法满足结合律和分配律：
• 结合律： (AB)C = A(BC),
• 分配律： (A + B)C = AC + BC， C(A + B) = CA + CB.

矩阵类型

• 对称矩阵
• 对角矩阵
• 逆矩阵
  • AB=BA=I_n
• 正定矩阵
  • X^TAx > 0 (x是所有的非零向量）
• 正交矩阵
  • A^T = A^-1

特征值和特征向量

如果有一个Av=cv，其中c和A分别是v的特征值和特征向量。

矩阵分解

• 奇异值分解
• 特征分解
• Moore-Penrose 伪逆
• 迹运算

线性性

• 线性相关
• 线性无关