特征向量与特征值
矩阵会把大多数向量“转向”——方向被掰歪。但每个矩阵都藏着几条特殊方向:向量落在这些方向上时,乘以矩阵后只被拉长或缩短,方向纹丝不动。这些方向叫特征向量,拉伸的倍数就是特征值 λ。满足 Av = λv 的,正是它们。PCA 找的主轴、谱分解、PageRank,乃至神经网络里对权重矩阵的分析,都从这里出发。在平面里拖动鼠标设置输入向量 v,看 Av 什么时候和 v 共线。
拖动设置 青向量 v,金向量 Av 是它经矩阵变换后的样子。淡虚线椭圆是 v 转一圈时 Av 划出的轨迹,两条绿色虚线是特征向量方向。当 v 压到绿线上,Av 就和 v 重合——只被拉伸。
对称矩阵 A
2.00.60.61.0
特征值 λ₁ / λ₂—
v 的方向角—
Av 的方向角—
沿 v 的拉伸 λ(v)—
换一个对称矩阵
多数方向被转向
随便挑一个 v,矩阵几乎都会把它掰到另一个方向——Av 和 v 不共线,夹角不为零。
特征方向只拉伸不转向
沿特征向量方向,Av = λv:方向不变,只被缩放 λ 倍。这个 λ 就是特征值。
对称矩阵→正交两轴
对称矩阵的特征值都是实数,两条特征轴互相垂直——这正是 PCA 主成分方向的根基。