线代知识回顾¶

Vectors¶

一般记作 $\vec{a}$ 或者 $a$ 。

记作 $‖ \vec{a} ‖$ 。

Unit vector: $\hat{a} = \vec{a} / ‖ \vec{a} ‖$ 。

$\vec{a} \cdot \vec{b} = ‖ \vec{a} ‖ ‖ \vec{b} ‖ \cos ⟨ \vec{a}, \vec{b} ⟩$ 。

$\cos ⟨ \vec{a}, \vec{b} ⟩ = \frac{\vec{a} \cdot \vec{b}}{‖ \vec{a} ‖ ‖ \vec{b} ‖}$ 。

对于单位向量， $\cos ⟨ \vec{a}, \vec{b} ⟩ = \vec{a} \cdot \vec{b}$ 。

将 $\vec{b}$ 投影到 $\vec{a}$ 上：

{\vec{b}}_{⊥} = k \hat{a} = ‖ \vec{b} ‖ \cos ⟨ \vec{a}, \vec{b} ⟩ \hat{a}

$A A^{- 1} = A^{- 1} A = I$

$(A B)^{- 1} = B^{- 1} A^{- 1}$

实质是对每个点的坐标进行变换。

$x^{'} = A x$

A = [\begin{matrix} s_{x} & 0 \\ 0 & s_{y} \end{matrix}]

沿 y 轴反射：

A = [\begin{matrix} - 1 & 0 \\ 0 & 1 \end{matrix}]

A = [\begin{matrix} 1 & a \\ 0 & 1 \end{matrix}]

以原点为中心逆时针旋转 $θ$ ：

A = [\begin{matrix} \cos θ & - \sin θ \\ \sin θ & \cos θ \end{matrix}]

M = [\begin{matrix} a & b \\ c & d \end{matrix}]

$\vec{v^{'}} = M \vec{v}$

平移不是线性变换。

\begin{aligned} x^{'} & = x + t_{x} \\ y^{'} & = y + t_{y} \end{aligned}

(\begin{matrix} x^{'} \\ y^{'} \end{matrix}) = (\begin{matrix} x \\ y \end{matrix}) + (\begin{matrix} t_{x} \\ t_{y} \end{matrix})

仿射变换是线性变换和平移的组合。

(\begin{matrix} x^{'} \\ y^{'} \end{matrix}) = [\begin{matrix} a & b \\ c & d \end{matrix}] (\begin{matrix} x \\ y \end{matrix}) + (\begin{matrix} t_{x} \\ t_{y} \end{matrix})

齐次坐标，将 2D 坐标转换为 3D 坐标。

(\begin{matrix} x^{'} \\ y^{'} \\ 1 \end{matrix}) = [\begin{matrix} a & b & t_{x} \\ c & d & t_{y} \\ 0 & 0 & 1 \end{matrix}] (\begin{matrix} x \\ y \\ 1 \end{matrix})

将变换后的坐标转换回原坐标，其代表的变换矩阵为原变换矩阵的逆矩阵。

\begin{aligned} \vec{v^{'}} & = M \vec{v} \\ \vec{v} & = M^{- 1} \vec{v^{'}} \end{aligned}

3 维空间中，三个向量组成的平行六面体的体积，为三个向量组成的行列式的绝对值。

特征值和特征向量。

A \vec{v} = λ \vec{v}

$λ$ 为特征值， $\vec{v}$ 为特征向量。

A = Q Λ Q^{- 1}

其中， $Q$ 为特征向量矩阵， $Λ$ 为特征值矩阵。

主成分分析，是一种降维技术。寻找特征空间中的方向，使得数据在这些方向上的投影方差最大。

先将数据中心化，即将横纵坐标减去均值。

A = [\begin{matrix} x_{1} & y_{1} \\ x_{2} & y_{2} \\ ⋮ & ⋮ \\ x_{n} & y_{n} \end{matrix}]

矩阵 $A^{T} A$ 有两个特征向量，对应两个特征值。

其中较大的特征值对应的特征向量即为主成分，特征值为此方向上的方差。