---

什么是特征值？

想象有一面很大的镜子,你站在镜子前。当你往镜子里看时,可以看到自己无限次的映像,每个映像之间都有一段距离。

现在我们把你和镜子里的每个映像想象成一个点,那么这些点就排成了一条线。我们给第一个点(也就是你自己)赋予一个标号0。那么第二个点的标号就是1,第三个点的标号是2,以此类推。

接着,我们定义一个变换规则:

对于任何一个点,它的新位置就是将它的旧位置与前一个点的距离之和。


比如,第0点的新位置就是它自己的位置,因为它前面没有点了。第1点的新位置就是0点和1点之间的距离(设为d)。第2点的新位置就是原来第1点的位置加上原来第1点和第2点之间的距离,以此类推。

用数学语言来表示,就是对于第n点,它的新位置是:

新位置 = n * d

这里的d就是所有点之间的固定距离。

现在的问题是,在这个变换规则下,是否存在某些点,经过变换后,仍保持在原位置不动？

如果有,那个位置的点对应的编号n是多少呢?

带入公式,我们得到:

n * d = n

d = 1

也就是说,当距离d=1时,第n=1的那个点不会移动位置!

n=1对应的这个特殊的”不动点”编号,在数学上被称为这个位移变换的特征值。

类似地,对于任何一个线性变换(如旋转、缩放等),都可能存在一些特殊的不变方向,使得沿这些方向的点在变换前后位置不变。这些对应的特殊的”系数”,就是这个变换的特征值。

通过分析特征值,我们就可以很方便地理解和描述一个变换对于不同方向的作用效果。

注意：

特征值是一个具体的数值,而不是一个向量。

对于一个n×n的方阵A,它的特征值λ必须满足以下方程:

A × v = λ × v

其中v是A的一个非零特征向量。

什么是特征向量？

在线性代数中,特征向量是与矩阵相关联的一个非零向量,在矩阵变换后,该向量的方向保持不变,只是改变了长度(被缩放)。

假设A是一个n×n的矩阵,如果存在一个非零向量x,使得:

那么我们称x为矩阵A的一个特征向量,λ被称为与x相关联的特征值。

案例：

一个直观的例子来解释什么是特征向量。

想象有一套旋转木马,它可以围绕中心旋转。现在,我们把木马上的各个座位看作是二维平面上的不同位置点,用坐标(x,y)来表示。

当木马开始旋转时,每个座位上的点都会按照某个规律在平面上移动。我们用一个2×2的旋转变换矩阵来描述这种移动规律。

比如,假设旋转矩阵是:

A = [ cos90°  -sin90°
      sin90°   cos90° ]

这表示整个平面A绕原点逆时针旋转90度。（一个90度旋转变换的运算规则。）

现在，我们想找出在这个旋转规律下,是否存在某些特殊的位置点,旋转前后,它们的位置只是改变了长度,但方向保持不变?

带入矩阵运算,我们可以得到:

对于位置点(x,y),经过旋转后,新位置是(y,-x)

让我们检查一下坐标轴上的点(1,0)和(0,1):

(1,0) 旋转后 —> (0,-1)

(0,1) 旋转后 —> (1,0)

这个就是找到它的一些特征向量,如(1,0)和(0,1)。

发现坐标轴本身的正向量,在旋转前后,只是改变了长度,但是方向保持不变!

(1,0)和(0,1)就是这个90度旋转变换矩阵的两个特征向量。

类似地,对于任何一种旋转变换,我们都可以找到若干个特征向量,它们在旋转前后,只是长度改变了,但方向保持不变。

这些特征向量的方向,可以帮助我们很好地理解和描述旋转变换对于不同方向的作用效果。

注意：

特征向量需要满足方程: Av = λv

其中,v是特征向量, λ是相应的特征值(一个标量)

特征向量的性质

• 它是矩阵变换的不变量,可以用来简化矩阵运算。
• 对于对角化矩阵,特征向量组成了一组基,可以将矩阵对角化。
• 在主成分分析(PCA)降维中,主成分就是数据的特征向量。
• 在图像处理中,特征向量可以提取图像的主要特征。
• 在机器学习中,特征向量广泛用于数据的降维、特征提取等。

特征向量有什么用？

特征向量在许多领域有着重要的应用,主要用途包括:

数据分析和降维

• 主成分分析(PCA)利用数据的主要特征向量来降低数据维度,去除噪声和冗余信息。
• 在机器学习和模式识别中,特征向量常用于特征提取和降维。

简化矩阵计算

• 对角矩阵可由其特征向量和特征值构建。
• 利用特征向量可简化矩阵的幂运算等。

动态系统分析

• 线性动态系统的特征向量描述了系统的固有模式。
• 分析特征向量可以研究系统的稳定性和响应行为。

图像处理

• 特征向量可用于提取图像的主要成分,进行图像压缩、检索等。
• 也可用于人脸识别、图像分割等任务。

信号处理

• 特征向量描述了信号的主要成分。
• 可用于信号去噪、压缩、频谱分析等。

结构分析

• 材料力学中,特征向量对应结构的振动模态。
• 气动力学中,特征向量与流场模态相关。

特征向量入门案例

一个简单的例子,用初中数学水平就可以理解特征向量的应用。

假设你有一个2×2的变换矩阵A:

A = [ 2 1 ]
    [ 1 3 ]

我们想找到A的特征向量。

首先,我们构造方程:

Ax = λx

代入A和x后得到:

[ 2 1 ] [ x1 ] = λ [ x1 ]
[ 1 3 ] [ x2 ]     [ x2 ]

把等式两边 列开:

2x1 + x2  = λx1
x1  + 3x2 = λx2

这是一个方程组,我们可以解出λ和x1,x2的值。

计算过程省略,最终结果是:

λ1 = 4, x1 = [1,  1]
λ2 = 1, x2 = [1, -2]

所以矩阵A有两个特征值

λ1=4, λ2=1

,对应的特征向量分别是

x1=[1,1], x2=[1,-2]

。

这个例子说明，对于一个2×2矩阵,它有两个不同的特征向量,描述了该矩阵对于不同方向向量的作用效果。

在实际应用中,我们可以利用这些特征向量:

• 可以发现矩阵变换对于x1=[1,1]和x2=[1,-2]的作用效果。
• 可以将矩阵用特征向量和特征值来表示,简化计算。
• 在图像、信号处理等领域,可以利用特征向量提取主要信息。

特征值描述了矩阵对应特征向量的

缩放量

：

• 对于λ1=4, 意味着矩阵A将沿着特征向量x1=[1,1]的方向放大4倍。
• 对于λ2=1, 意味着矩阵A将沿着特征向量x2=[1,-2]的方向保持不变。

特征值可以判断矩阵的

性质

:

• 如果所有特征值都大于1,说明矩阵是一个扩大变换。
• 如果所有特征值都小于1,说明矩阵是一个缩小变换。
• 如果存在负值特征值,说明矩阵会产生翻转。

在

动态系统分析

中:

正实数、负实数和复数特征值在动态系统中对应的不同模式。

• 正的实数特征值对应了稳定的模式。
  
  假设你有一个质量为1kg的物体,系着一根弹簧,弹簧常数为k=4N/m。按照弹性力定律,它会有一个稳定的平衡位置。
  
  如果你将物体拉动一段距离,然后松手,物体会以一个固定的频率做单振动,渐渐减小幅度,最终回到平衡位置。这种趋于稳定的运动,对应了一个正实数特征值。
• 负的实数特征值对应了振荡的模式。
  
  想象一个质量为1kg的物体,系在一根长度为1m的无质量杆的一端,另一端固定。这是一个单摆系统。
  
  如果你给单摆一个初始位移,它会做周期性的振荡运动,左右摆动。这种不断重复的摆动运动,对应了一个负实数特征值,代表了一种振荡模式。
• 复数特征值对应旋转或者旋涡的模式。
  
  想象一个装有水的大桶,你用一个搅拌器在中心快速旋转搅拌水。水会形成一个持续的漩涡状旋转。
  
  这种持续不断的旋转运动,对应了一对复数特征值(实部决定增长/衰减,虚部决定旋转频率)。复数特征值描述了这种旋转或涡流的模式。

可以利用特征值

简化矩阵的计算

:

• 对角矩阵的n次幂只需要把对角线元素(特征值)进行n次幂运算即可。
• 一些其他矩阵的幂运算也可以借助特征值和向量来简化。