5 · 特征值与特征向量

这是线性代数最有「魔力」的一节，也是 AI 里出镜率最高的概念之一。核心问题：一个变换里，有没有某些方向，只被拉伸、不被旋转？

一、定义

对方阵 $\mathbf{A}$，如果存在非零向量 $\mathbf{v}$ 和标量 $\lambda$ 使得：

则 $\mathbf{v}$ 是特征向量（eigenvector），$\lambda$ 是对应的特征值（eigenvalue）。

几何含义：一般向量被 $\mathbf{A}$ 作用后会「又转又拉」，但特征向量很特别——它只被拉伸（或压缩、翻转），方向不变。$\lambda$ 就是拉伸的倍数：$\lambda>1$ 拉长，$0<\lambda<1$ 压短，$\lambda<0$ 反向。

直觉比喻：把变换想象成水流。大多数树叶被冲得又转又偏，但沿特征向量方向放的叶子只会笔直加速或减速。这些方向是系统的「骨架」。

二、对角化（Diagonalization）

若 n 阶矩阵有 n 个线性无关的特征向量，则可写成：

其中 $\mathbf{\Lambda}$ 是特征值摆在对角线上的对角阵。意义：换到特征向量为基的坐标系里，这个复杂变换就变成「沿各轴独立缩放」这么简单。这让反复作用变得容易：$\mathbf{A}^k = \mathbf{P}\mathbf{\Lambda}^k\mathbf{P}^{-1}$，只需对对角元素取 k 次方。

对称矩阵更好：一定可用正交矩阵对角化（谱定理），特征值全为实数，特征向量互相正交。协方差矩阵正是这种，这是 PCA 成立的基础。

三、跨领域应用

AI —— PCA 主成分分析：对数据的协方差矩阵求特征值/向量。特征向量指出数据「方差最大」（信息最多）的方向，特征值就是该方向上的方差。取前几个最大特征值对应的方向，就把高维数据压到低维而尽量不丢信息。这是最经典的降维方法。

区块链 / 搜索 —— PageRank 与马尔可夫链：网页（或节点）重要度是转移矩阵的主特征向量（对应特征值 1）。反复乘转移矩阵会收敛到这个特征向量——这就是网络的「稳态分布」。

工程 —— 稳定性与振动：动力系统是否稳定，看特征值的符号/模长；深度学习里梯度爆炸/消失，本质是反复连乘矩阵后特征值的幂走向了无穷或零。

四、应用案例：矩阵迭代与系统状态演化

特征值最深刻的应用之一是分析迭代系统的长期行为。用向量 $\mathbf{v}_t$ 表示系统在 $t$ 时刻的状态，矩阵 $M$ 编码演化规则：

系统的长期行为——是收敛、增长还是衰减——完全由 $M$ 的特征值决定。

示例一：马尔可夫链（用户行为稳态）

某电商用户，每一步处于「浏览（B）」或「购买（P）」之一，跳转规律：

• 当前 B：70% 留 B，30% 转 P
• 当前 P：40% 回 B，60% 留 P

转移矩阵：列 = 当前状态，行 = 下一步目标状态。

稳态分布：迭代足够多次后，状态分布会稳定在一个固定值附近，满足 $M\boldsymbol{\pi} = \boldsymbol{\pi}$。 稳态分布就是矩阵 $M$ 对应特征值 $\lambda = 1$ 的特征向量。解出 $\boldsymbol{\pi} = (4/7, 3/7)^\top \approx (57.1\%, 42.9\%)^\top$。长期来看，约 57% 用户在浏览，43% 在购买。

示例二：Leslie 矩阵（总量增长）

与马尔可夫链不同，生态学里的 Leslie 矩阵不要求「列和为 1」，因此系统可能指数增长。 设某鸟类：幼年 50% 存活升为成年；成年每期产 3 幼崽，且 80% 存活。

稳定增长状态：系统最终也会结构稳定，满足 $L\mathbf{v} = \lambda_{\max} \mathbf{v}$。 解特征方程 $\det(L - \lambda I) = 0$，得到最大特征值 $\lambda_{\max} \approx 1.69$。 这意味着最终种群的年龄结构比例趋于固定，且总数每代增长约 69%。这再次印证了系统的长期演化由主特征值统治。

五、谱与迹、行列式的关系

全体特征值的集合叫谱（Spectrum）。两个好用的速查恒等式：

只要有一个特征值为 0，行列式就为 0，矩阵不可逆。

六、小结

全章完。特征值将庞杂的矩阵乘法化繁为简，是洞察高维数据演化的终极武器。