EE6223-P2-1&2-2-介绍与矩阵基础
引入:发展动力与系统
这一章节旨在通过一些例子,阐述为什么要学习计算机控制网络,与了解计算机控制网络的一些基础。将会通过四个不同领域的系统(社会、WSN、动物集群、生态系统),引出了本课程的核心研究对象 ——网络化分布式系统。
- 核心数学工具:行随机矩阵、拉普拉斯矩阵、Metzler 矩阵。
- 核心科学问题:收敛性、平衡态、收敛速度。
例子1:社会影响网络中的观点
这个模型叫French-Harary-DeGroot 模型,是观点动力学领域最经典的线性模型。
让我们考虑一组 n 个个体(这些个体可以被代换为网络系统中的个体、智能体,信号发生器或节点),需要共同决策某个未知参数的值(比如项目预算、产品定价)。每个人一开始都有自己的主观判断(用概率密度函数$p_i$表示,简单理解就是 “我认为这个值是多少”)。每个人都能看到其他人的观点,并且会通过加权平均的方式更新自己的观点。
- $p_i^+$:更新后个体 i 的观点
- $a_{ij}$:个体 i 给个体 j 的 “信任权重”(其中$a_{ii}$是”自我权重”—— 也就是一个人有多固执,越固执的人aii越大)
- $p_j$:第j个人的观点
这个模型中,有两个约束条件:
- 非负性:$a_{ij}\geq0$—— 这个模型里先假设 “影响都是正面的”,也就是别人的观点只会让我向他靠拢,不会让我更反对他。
- 行和为 1:$\sum _{j=1}^n a_{ij}=1$—— 因为我是在 “平均” 自己和别人的观点,总权重必须是 1。
我们可以把$a_{ij}$表示成下面这个矩阵,它被称为行随机矩阵(row-stochastic):
行随机矩阵(row-stochastic)定义:所有元素非负,且每行元素之和为 1 的矩阵。
由于$\sum _{j=1}^n a_{ij}=1$(即,矩阵A的每一行加起来=1),因此行随机矩阵具有下列性质:(其中$1_n$表示$1\times n$的列向量)
那么,如果我么将现在每个人的观点都表示为$p(k)=[p_1,p_2,…,p_n]^T$这样的一个列向量,经过一次讨论交流传播后,$p(k+1)$就会变成:
相当于对A的每一行都进行了$p_{i}(k+1)=\sum_{j=1}^{n} a_{i j} p_{j}$。
对于这个模型,我们感兴趣的点是:
- 模型可信度:线性加权平均真的能描述人类的观点变化吗?是否有实证支持?
- 权重测量:怎么量化一个人对另一个人的影响$a_{ij}$?
- 共识问题:什么时候所有人的观点会变成一样的?最终的共识值是多少?
- 更现实的情况,比如有 “固执己见的人”($a_{ii}=1$,完全不听别人的),或者 “对抗性的人”($a_{ij}<0$,别人越说 A,我越相信 B)
例子2:无线传感器网络中的平均算法
现在我们来看第二个例子:无线传感器网络(Wireless Sensor Network):由大量廉价、低功耗的传感器节点组成,部署在野外或工业现场,监测温度、湿度、振动等物理量。
WSN 的核心特点:分布式、无中心—— 每个节点只能和自己的邻居通信,不能直接和远处的节点通信,也没有一个强大的中心节点来处理所有数据。
线性平均算法(linear averaging algorithm):
假设每个节点测到了一组数据,记为一个向量$x_i$。这个节点会和它的邻接节点互通数据,例如节点1和节点2互通,节点2和节点1,3,4互通。每个节点只需要把自己的测量值和所有邻居的测量值取平均,作为自己的新值,反复执行这个过程。

例如:
这个平均算法可以用我们例子1中的矩阵来计算:
对于节点1,它有1个邻接节点,自己有一组数据,因此权重就是$\frac{1}{2}$,有两个。对于节点2,它与所有节点领接,自己还有一组数据,因此权重就是$\frac{1}{4}$。
将所有节点的数据记为$x(k)$,例如所有节点的初始测量数据就是$x(0)=[x_1,x_2,x_3,x_4]^T$.那么:
- 第一次互通数据:$x(1)=Ax(0)$
- 第二次互通数据:$x(2)=Ax(1)=AAx(0)$
- …
- 第k次互通数据:$x(k)=Ax(k-1)=A^{k}x(0)$
在这个模型中,我们想要关注:
- 收敛性:每个节点的值会稳定下来吗?所有节点会收敛到同一个值吗?
- 平均共识:最终的收敛值是不是所有初始值的平均值?这对 WSN 至关重要 —— 如果不是,那我们算出来的就不是真实的环境平均值。
- 收敛条件:网络拓扑(图)需要满足什么性质,才能保证算法收敛?
- 收敛速度:算法需要迭代多少次才能收敛?这关系到 WSN 的能耗和实时性。
现在我们可以看到:社会中的人和 WSN 中的传感器,虽然完全不同,但它们的动态演化都服从同一个方程,我们关注的问题也类似。
例子3:动物中的群体行为
现在我们转向生物学:鸟群、鱼群、蚁群的集群行为,是自然界最神奇的分布式系统之一 —— 没有任何一个 “领头者”,所有个体只根据邻居的行为做出反应,却能形成整齐的队形,一起飞行、游动。工程师从这种行为中获得灵感,设计出了无人机集群、多机器人系统的控制算法。
这种行为可以被描述为分散互动的结果,我们为每只动物设定了简单的对齐规则,使其趋向于邻近个体的平均方向,例如下图中间的鱼,邻居们都向左上方游,所以它会顺时针旋转自己的身体,直到和邻居的航向一致。这一对齐规则相当于一种“弹簧式”的吸引力作用力,因为航向差越大,动物转向的速度越快,就像弹簧拉得越长,弹力越大一样。

这种对其规则的数学描述为,其中$\dot \theta$为航向的变化率:(这个经典模型,激发了拉普拉斯矩阵)
我们还是可以用例子2的方式来表示$\dot{\theta_i}$。但在进行下一步之前,我们先引入拉普拉斯矩阵。
拉普拉斯矩阵( Laplacian matrix)的定义如下:
其中,$diag$表示对角矩阵,将括号内的元素以对角线排列。如果$A$是合法的行随机矩阵,那么$A1_n=1_n$,$L=I-A$(其中I表示对角是对角为1的矩阵)
现在我们可以把对其规则写成矩阵形式:
原理如下:
- $I_n\theta$可以是将每个个体当前的航向
- $A\theta$是所有邻居的航向的平均值(这个A中$a_{ii}=0$)
- $A\theta-I_n\theta$就是$\text{average}\{\theta_j, \text{ for all neighbors } j\} - \theta_i.$
这个系统叫拉普拉斯流(Laplacian flow)
此不完整模型并不涉及位置问题。换言之,我们不会讨论碰撞规避以及编队/凝聚力保持等内容。此外,交互对应当真正依赖于状态。例如,我们可以假设只有当两只动物之间的欧几里得距离低于某一特定阈值时,它们才会相互看见并发生互动。最后需注意的是,在圆上计算平均值在数学上是不适切的。目前,我们暂不考虑这些事项。
在这个模型中,我们关注的问题依旧类似:
- 该模型在理解和重现动物行为方面有多大的有效性?
- 什么是平衡航向?它们在什么情况下具有吸引性?( “吸引性”:如果一个平衡航向是吸引的,那么不管初始航向是什么,所有动物最终都会收敛到这个航向。)
- 为了确保群体行为的正常进行,该图表需要具备哪些特性?
矩阵基础
符号解释
我们用 $f:X→Y $表示从集合 X 到集合 Y 的函数。
用 $\mathbb{R}$、$\mathbb{N}$、$\mathbb{Z}$ 分别表示实数集、自然数集和整数集;相应地,$\mathbb{R}≥0$ 和 $\mathbb{Z}≥0$ 表示非负实数集和非负整数集。
对于实数 a<b,我们定义(用[和]代表不同的取等):
给定复数$z \in \mathbb{C}$,其绝对值(有时也称为模或幅值)记为$ ∣z∣$,实部记为 $\Re(z)$,虚部记为 $\Im(z)$。我们用$ i$ 表示虚数单位$\sqrt{-1}$。
$z=a+bj$,$z=|z|e^{j\theta}=|z|\angle \theta,\theta=\arctan\frac{b}{a}$
我们用 $1_n\in \mathbb R^n$(相应地 $0_{n} \in \mathbb{R}^{n})$)表示所有元素都为 + 1(相应地 0)的列向量。
向量 $1_n\in \mathbb R^n$的 $1-norm$(范数)、$2-morn$和$\infty-norm$分别定义为:
我们用 ( I_n ) 表示( n )维单位矩阵,用 ( A \in \mathbb{R}^{n \times n} ) 表示元素为实数 ( \{a_{ij}\} )(其中 ( i,j \in \{1, \dots, n\} ))的( n \times n )方阵。若矩阵 (A) 满足 ( A^T = A ),则称(A)为对称矩阵。
对于矩阵 ( A \in \mathbb{R}^{n \times n} ),若复数 ( \lambda \in \mathbb{C} ) 与向量 ( v \in \mathbb{C}^n ) 共同满足特征值方程 ( Av = \lambda v ),则称( \lambda )为(A)的特征值,( v )为(A)的右特征向量(简称特征向量)。有时我们也将( (\lambda, v) )称为一个特征对。特征值( \lambda )对应的左特征向量是满足 ( w^T A = \lambda w^T ) 的向量 ( w \in \mathbb{C}^n )。
若对称矩阵(symmetric matrix)(A)的所有特征值(eigenvalues)均为正数,则称(A)为正定矩阵(positive definite),记为 ( A \succ 0 )(相应地,均为非负数称为半正定矩阵(positive semidefinite),记为 ( A \succeq 0 ))。我们也用 ( A \prec 0 ) 和 ( A \preceq 0 ) 分别表示负定矩阵(negative definite)和负半定矩阵(negative semidefinite)。
矩阵(A)的核空间(kernel)(零空间)是子空间: [ \ker(A) = \{ x \in \mathbb{R}^n \mid Ax = 0_n \}, ]
矩阵(A)的像空间(image)(列空间)是: [ \operatorname{im}(A) = \{ y \in \mathbb{R}^n \mid \exists x \in \mathbb{R}^n, \text{使得 } Ax = y \}, ]
矩阵(A)的秩(rank)是其像空间的维数。 给定向量 ( v_1, \dots, v_j \in \mathbb{R}^n ),它们的张成空间定义为:
线性系统与若尔当标准型(Jordan normal form)
本节介绍动力学系统的典型模型,并通过若尔当标准型研究其稳定性,这是矩阵论的核心工具。后续会把这些结论应用到前面介绍的平均模型。若尔当标准型可以判断线性系统会不会收敛、收敛到哪里
离散时间系统
离散时间线性系统可以用方阵 A 来定义:(其中$x(0)=x_0$是初始状态)
根据前面的介绍,其可以等价写为:$x(k) = A^k x_0$
我们关心:任意初值的解当时间趋于无穷时是否有渐近极限,收敛到何值。
半收敛与收敛的定义
- 半收敛(semi-convergent):若$\lim_{k \to+\infty}A^k$存在,则称其为半收敛
- 收敛(convergent):收敛也称也称舒尔稳定(Schur stable),若矩阵A收敛到0矩阵,即:$\lim_{k \to+\infty}A^k=0_{n\times n}$,则称其为收敛
若 A 半收敛,极限矩阵为 $A_{\infty}=\lim_{k \to+\infty}A^k$,则:
对称矩阵与对称系统
在一般分析前,先看对称矩阵这一典型情况:对于一般矩阵,特征值可能是复数。但对于对称矩阵,所有特征值都必须是实数。
对称矩阵 A 有实特征值 $\lambda_1\geq\lambda_2≥⋯\geq \lambda_n$ 与标准正交特征向量 $v_1,…,v_n$(正交且长度为1)。由于这些特征向量构成 $\mathbb R^n$ 的标准正交基,我们可做模态分解(modal decomposition):
用人话解释一下:这些特征向量就像一套“坐标轴”,它们能组成整个空间的标准正交基。换句话说,你可以把任何向量都拆解成这些特征向量的组合。也就是任意向量 $x(k)$ 都能表示成沿着这些特征方向的分量$ y_i(k) $的加权和。
其中第 i 个正则模态(normal mode)为$y_i(k)=v_i^Tx(k)$。
把上面的式子代回系统方程$ x(k+1) = A x(k)$,并利用 $A v_i = \lambda_i v_i$,可以得到:
这说明每个分量的变化是独立的,而且只是乘上一个常数 $\lambda_i$。于是其初始状态$y_i(0)=v_i^Tx_0$,进一步推导可以写成:
再次带回$x(k)=y_{1}(k) v_{1}+\cdots+y_{n}(k) v_{n}$,把所有分量加起来,这就是系统的完整解:
也就是说:根据特征值的大小,可以判断系统的长期表现
- 收敛:只有当对于所有的i,都满足$|\lambda_i|<1$,才能满足$\lim_{k \to+\infty}x(k)=A_{\infty}x(0)=0_{n}$
- 半收敛:只有当对于所有的i,都满足$|\lambda_i|<1$,且$\sum_i \lambda_i=1$,才能满足$\lim_{k\rightarrow \infty}x(k) = \lambda_1^k (v_1^T x_0)v_1 + \cdots + \lambda_n^k (v_n^T x_0)v_n$
若尔当标准型(Jordan normal form)
标准型的表达
使用若尔当标准型来表示原始系统,并分析原始系统的若尔当标准型,这会更容易分析。
矩阵相似:如果你能找到一个非奇异或可逆矩阵 T,表示为 $B=TAT^{-1}$,则A和B相似。相似变换不改变矩阵特征值,即,A和B具有一样的特征值。
若尔当标准型的定义如下:
每个矩阵 $A\in \mathbb C^{n×n}$ 都相似于分块对角矩阵$J\in \mathbb C^{n×n}$,称为 A 的若尔当标准型:
每个块 $Ji$ 称为若尔当块(Jordan block),大小为 $j_i×j_i$,形如:
两个“重数(multiplicity)”
想象一下,矩阵 $A$ 是一栋公寓,特征值 $ \lambda $ 是租客。若尔当标准型 $J$ 就是对这栋公寓房间的具体分配平面图。
在这里,我们需要区分两个非常核心的概念:
- 代数重数 (Algebraic multiplicity):简单来说,就是这个特征值在对角线上出现了几次(或者说它是特征多项式的几重根)。你可以理解为这个租客一共租了几个房间。
- 几何重数 (Geometric multiplicity):它指的是属于这个特征值的“若尔当块”的数量(等同于它拥有的线性无关的特征向量的数量)。你可以理解为,虽然租客租了几个房间,但这几个房间被打通成了几套独立的公寓。每一套独立的公寓(若尔当块),只发一把大门钥匙(一个特征向量)。
基于这两个重数,我们可以给特征值分类:
- Simple(单特征值):代数重数 = 几何重数 = 1。也就是只租了一个房间,刚好是一套独立公寓。
- Semisimple(半单特征值):代数重数 = 几何重数。比如租客租了3个房间,这3个房间是3套互相独立的单间公寓(每个若尔当块大小都是1)。此时房间数和钥匙数是对得上的。
举个例子:考虑以下矩阵的若当形式。指定其特征值的代数重数和几何重数。它们是简单还是半单?

- 特征值 $\lambda = 5$:对角线上 5 出现了几次?一共 4 次。所以代数重数是 4;左上角有一个 $3 \times 3$ 的大块(因为对角线上方的 1 把它们连在了一起),紧接着右下方还有一个孤立的 $1 \times 1$ 小块。一共是 2 个方框。所以几何重数是 2。
- 结论:代数重数 (4) $\neq$ 几何重数 (2)。根据定义,它既不是 simple,也不是 semisimple。
- 特征值 $\lambda = 2$:数字 2 在对角线上出现了 2 次。所以代数重数是 2;有两个独立的 $1 \times 1$ 方框(它们右上方是 0,没有被连起来)。一共是 2 个方框。所以几何重数是 2。
- 结论:代数重数 (2) = 几何重数 (2)。两者相等,所以它是 semisimple(半单特征值)。
- 特征值 $\lambda = 4$:数字 4 在右下角只出现了 1 次。所以代数重数是 1;只有这 1 个独立的方框。所以几何重数是 1。
- 结论:代数重数 = 几何重数 = 1。所以它是 simple(单特征值)。
如何转到为J
变形的公式是:
可以变形为 $AT = TJ$ 和 $T^{-1}A = JT^{-1}$。
这里的关键在于矩阵 $T$ 和 $T^{-1}$ 是由什么构成的?
- 矩阵 $T$ 的每一列($t_i$),叫作右特征向量
- 矩阵 $T^{-1}$ 的每一行($r_i$),叫作左特征向量。
情况一:完美情况(所有特征值都是 Semisimple)
如果所有的特征值都像前面的“2”一样,是半单特征值,那么我们能找到足够多的特征向量。此时 $T$ 的每一列就是货真价实的右特征向量,满足 $At_i = \lambda_i t_i$;$T^{-1}$ 的每一行就是左特征向量,满足 $r_i A = \lambda_i r_i$。这就是最完美的可对角化情况。
情况二:不完美情况(有特征值不是 Semisimple)
这才是若尔当标准型真正要解决的痛点!就像前面的“5”,代数重数是 4,但几何重数只有 2。这意味着我们要找 4 列去填满矩阵 $T$ 属于特征值 7 的部分,但我们只有 2 把真正的钥匙(2 个真正的特征向量)。这时候该怎么办?凑数!
找不到真正的特征向量,我们就找广义特征向量 (generalized eigenvectors) 来补齐。所以,在这种情况下,$T$ 的列不仅包含普通的右特征向量,还包含广义右特征向量;同理,$T^{-1}$ 的行也包含了广义左特征向量。
举个例子:让我们重新考虑前面例子2讨论的无线传感器网络中的A
这个矩阵的四个根是:$1, 0, \frac{1}{24}(5 - \sqrt{73}), \frac{1}{24}(5 + \sqrt{73})$。这 4 个根互不相同。
1.得到J
既然大家都各不相同,这就意味着每个特征值的代数重数都是 1(都只出现了一次)。既然代数重数是 1,那它的几何重数也只能是 1(因为几何重数不能超过代数重数)。几何重数是 1,说明每个特征值只能分到一个若尔当块;代数重数是 1,说明这个若尔当块的大小只能是 $1 \times 1$。由此就得到了J:
注:这里的矩阵 $A$ 每个特征值都是单特征值 (Simple eigenvalue),它们的代数重数和几何重数都是 1。是可以完美对角化的! 我们根本不需要“广义特征向量”,$T$ 矩阵里的每一列都是普通特征向量。
2.得到T
当我们算出特征值 $ \lambda $ 之后,通过解下面这个齐次线性方程组得右特征向量 $ v $ :
对于行随机矩阵来说,$\lambda = 1$ 永远是它的一个特征值,对于特征值 $\lambda = 1$,代入公式发现,只有当向量 $ v $ 的四个分量全都相等(即 $v = [1, 1, 1, 1]^T$)时,方程才成立。这就是特征值 1 对应的右特征向量。
代入其他特征值可以解出其他几个特征向量,最后,矩阵 $T$ 就是把这些向量按列排开:$T = \big[ v_1 \mid v_2 \mid v_3 \mid v_4 \big]$
特殊情况:如果特征向量不够怎么办?
在前面的提到过:如果某个特征值的几何重数小于代数重数(比如特征值 7 出现了 4 次,但只对应 2 个独立特征向量),这时候特征向量就不够用了,填不满 $T$ 矩阵的 4 列。
这时候我们需要找广义特征向量(Generalized Eigenvectors):
- 第一个向量是真正的特征向量 $v_1$。
- 第二个向量 $v_2$ 要通过解 $(A - \lambda I)v_2 = v_1$ 来得到。
- 第三个向量 $v_3$ 通过解 $(A - \lambda I)v_3 = v_2$ 得到……以此类推。
同理,对于左特征向量,解如下方程得到:
在求得4个左特征向量后,按照$T^{-1} = \begin{bmatrix} r_1 \\ r_2 \\ \vdots \\ r_n \end{bmatrix}$排布,即可得到:
$T^{-1}$ 的第一行,提取出来就是 $[1/6, 1/3, 1/4, 1/4]$,这个左特征向量在工程上非常关键,它代表了网络达到稳态后,各个传感器的重要性权重(或者说稳态概率分布)。
使用若而当标准型进行系统分析
如何使用若尔当块来进行敛散性分析
“离散时间”意味着系统是一步一步演进的(比如 $x_{k+1} = A x_k$)。如果我们想知道系统在遥远的未来(经过 $k$ 步之后)会变成什么样,我们就需要计算矩阵的 $k$ 次幂,即 $A^k$。 如果要直接算一个复杂矩阵 $A$ 的 100 次方,计算量是极其恐怖的。但是,因为我们有了 $A = TJT^{-1}$:
中间所有的 $T^{-1}T$ 都变成了单位矩阵抵消掉了!最后只剩下:
因为 $J$ 是一串对角线上的小方块(若尔当块 $J_i$),算 $J^k$ 就等于把里面每一个小方块单独求 $k$ 次方。
此时:研究整个系统 $A$ 收不收敛,等价于研究里面每一个若尔当块 $J_i$ 收不收敛。 复杂问题瞬间被拆解了。即,以下三个陈述是等价的:
- A是半收敛的(或收敛的)
- J是半收敛的(或收敛的)
- 每个块$J_i$都是半收敛的(或收敛的)。
若尔当块的 $k$ 次方演变
接下来,来看看$j_i^k$有什么规律。
1. 当若尔当块大小为 1 时:
这就和普通的标量求 $k$ 次方一样,没有任何花招。
2. 当若尔当块大小为 2 时:
原本的块是 $\begin{bmatrix} \lambda_i & 1 \\ 0 & \lambda_i \end{bmatrix}$,当它求 $k$ 次方后,变成了:
因为右上角“1”的存在,产生了一个连带效应。不仅对角线变成了 $\lambda_i^k$,右上角的元素还跑出了一个 $k$ 的系数。形如对 $\lambda_i^k$ 求了一次导数。
3. 当若尔当块大小为 3 时:
矩阵进一步变大,变成了:
规律开始显现了
- 主对角线:全都是 $\lambda_i^k$。
- 往上一层(上一次对角线):全都是 $k\lambda_i^{k-1}$,形如一次求导再除以1
- 再往上一层:出现了组合数 $\binom{k}{2}$,也就是 $\frac{k(k-1)}{2}$,乘上 $\lambda_i^{k-2}$。这就相当于求了两次导数再除以 2。
4. 当若尔当块大小为 $j_i$ 时 :
顺着上面的规律,大小为 $j_i \times j_i$ 的通用矩阵:
无论这个块有多大,它主对角线上的元素永远是单纯的指数项 $\lambda_i^k$。但只要你往右上角走(意味着特征向量因为重数问题发生了耦合),前面就会乘上一个多项式系数,比如 $k$、$k^2$ 等等。右上角越偏远的元素,前面跟着的 $k$ 的幂次就越高。
在求极限时:组合数 $\binom{k}{m} = \frac{k!}{m!(k-m)!}$ 满足 $\binom{k}{m} \le k^m/m!$。
结论性判据
最终,可以得到判据结论:
- 系统“收敛(convergent)”:对于大小为 1 的$j_i$,必须所有特征值的绝对值都严格小于 1($|\lambda| < 1$),不管你块有多大。
- 系统半收敛(semi-convergent):对于大小为 1 的$j_i$,只要 $|\lambda| < 1$ 或者 $\lambda = 1$,就半收敛。
- 对于大小大于 1 的$j_i$:只有$|\lambda_i| < 1$它才是收敛或半收敛的,即使 $\lambda = 1$,它也不收敛!因为在大块里会出现 $h > 0$ 的非对角线元素。当 $\lambda = 1$ 时,那一项就变成了 $k^1 \cdot 1^k = k$。随着时间 $k$ 增加,这个元素会变成 1, 2, 3, 4… 一直跑到无穷大。所以,大块想要稳定,它的特征值必须被严格压制在 $|\lambda| < 1$。
复平面判据
如果我们将求得的特征值画在复平面上:

- (a) 收敛 (Convergent):所有特征值都在单位圆内部(也就是说所有特征值的绝对值 $|\lambda| < 1$)。由于每次乘积都在衰减,随着时间推移,系统状态最终会归零。
- (b)半收敛 (Semi-convergent):当除了$\lambda = 1$的所有特征值的都在圆内,同时特征值是半单特征值,则该系统是半收敛
- 图 (c) 发散/不收敛 (Not semi-convergent):哪怕只有一个特征值跑到了单位圆外面(绝对值 $>1$),或者踩在圆周的其他地方(比如引起震荡的复数),或者 $\lambda = 1$ 但不是半单的,系统就发散。
谱和谱半径
为了把刚才看图的直觉写成严谨的数学定理,数学家发明了两个新词汇:
- 谱 (Spectrum, $\text{spec}(A)$):它就是矩阵 $A$ 所有特征值的集合。问一个矩阵的“谱”是什么,其实就是在问它有哪些特征值。
- 谱半径 (Spectral radius, $\rho(A)$):所有特征值的绝对值(模长)中,最大的那一个。
几何表达:在复平面,你以原点为圆心画一个圈,要刚好把所有的特征值都圈进去,这个圆的最小半径,就是谱半径 $\rho(A)$
使用谱进行敛散性判断
对于一个方阵 ( A ),有以下结论:
- 收敛 (Convergent): 若$\lim_{k \to +\infty} A^k = 0_{n \times n}$,当且仅当谱半径 $\rho(A) < 1$。
- 半收敛 (Semi-convergent): 若 $\lim_{k \to +\infty} A^k$存在但不等于零矩阵,当且仅当:
- (a) 1 是 (A) 的特征值 (eigenvalue),
- (b) 1 是半单特征值 (semisimple eigenvalue),即其代数重数 = 几何重数
- (c) 其他所有特征值的模长 < 1。
| 概念 | 条件 | 结果 |
|---|---|---|
| Convergent 收敛 | $\rho(A) < 1$ | $A^k \to 0$ |
| Semi-convergent 半收敛 | 1 为特征值;1 为 semisimple;其他特征值模长 < 1 | $A^k \to$非零极限矩阵 |
行随机矩阵及其谱半径
特殊矩阵的定义
基于“平均模型(Averaging model)”的动机,引出了矩阵的几种特殊属性。
非负/正矩阵 (Non-negative / Positive):
- 这是最基础的属性,要求矩阵 $A$ 中的每一个元素 $a_{ij} \ge 0$(或严格 $>0$)。
- 物理意义:在网络模型中,元素 $a_{ij}$ 通常代表节点间通信链路的权重或转移概率。权重和概率在物理设定上必须是非负的。
行随机矩阵 (Row-stochastic):
- 定义:矩阵是非负的,且满足 $A\mathbf{1}_n = \mathbf{1}_n$。它等价于说:矩阵的每一行元素之和严格等于 1(即 $\sum_{j=1}^n a_{ij} = 1$)。
- 工程意义:在一致性算法或马尔可夫链中,这代表一个节点对其所有参考节点(包括自身)的权重分配总和为 100%。它保证了系统在迭代更新时,整体状态的量级不会发生无界的膨胀或收缩。
列随机矩阵 (Column-stochastic):
- 定义:非负,且 $A^T\mathbf{1}_n = \mathbf{1}_n$。即每一列的元素之和为 1。
- 这在概率转移矩阵中更为常见,表示从某一个状态转移到所有可能状态的总概率为 1。
双随机矩阵 (Doubly-stochastic):同时满足行随机和列随机。这类矩阵在图论和优化问题中具有非常良好的数学性质(例如 Birkhoff-von Neumann 定理)。
凸组合(Convex Combination)
给定空间中的 $ n $ 个点 $p_1, \dots, p_n$,它们的凸组合被定义为:
其中,系数 $\eta_i$ 必须满足两个条件:
- $\sum_{i=1}^n \eta_i = 1$ (系数之和为 1)
- $\eta_i \ge 0$ (系数非负)
$\eta_1,…,\eta_n$被称为凸组合系数,行随机矩阵的每一行,正是由一组凸组合系数构成的。
当我们在离散时间线性系统 $ x(k+1) = A x(k)$ 中使用行随机矩阵 $A$ 时,实际上发生的是: 系统在 $k+1$ 时刻的每一个状态变量,都是 $k$ 时刻所有状态变量的一个凸组合。
凸组合的界:
- 两个点的凸组合:构成的集合是连接这两个点的线段。
- 三个点的凸组合:构成的集合是这三个点构成的三角形(包含其内部区域)。
- 推论:无论多少个点,它们的凸组合构成的集合(即凸包,Convex Hull),必然被原有的这些点所限定的“边界”包围在内部。这意味着,凸组合操作永远不会产生超出原始数据边界的新极端值。
回到离散系统的视角:系统的下一个状态,永远被当前状态的最大值和最小值所“包裹”(或限制)。随着迭代的进行(矩阵 $A$ 的高次幂),状态值的范围会不断向内收缩,这也是为什么基于行随机矩阵的网络模型,最终能够驱动多智能体系统收敛到某一个一致性状态(Consensus)的底层数学机制。
盖尔果林圆盘定理(Gershgorin Disks Theorem)
在工程计算中,求解大型矩阵的精确特征值往往面临极大的计算复杂度。盖尔果林圆盘定理的价值在于:它提供了一种无需直接求解特征多项式,仅通过观察矩阵元素就能确定特征值分布范围(Localize the spectrum)的方法。
对于任意方阵 $A$,其所有的特征值都必然落在复平面上 $ n $ 个“盖尔果林圆盘”的并集之内。
- 圆心:矩阵对角线上的元素 $a_{ii}$。
- 半径:该行除去对角线元素外,其余所有元素绝对值的和,即 $\sum_{j \neq i} |a_{ij}|$。
举个例子:考虑一个3x3方阵
逐行计算圆盘
- 第 1 行
- 圆心:$a_{11} = 4$
- 半径:$|-1| + |0| = 1$
- 圆盘:以 (4) 为圆心,半径 (1)。
- 第 2 行
- 圆心:$a_{22} = 3$
- 半径:$|2| + |1| = 3$
- 圆盘:以 (3) 为圆心,半径 (3)。
- 第 3 行
- 圆心:$a_{33} = 2$
- 半径:$|0| + |-1| = 1$
- 圆盘:以 (2) 为圆心,半径 (1)。
根据盖尔果林定理,矩阵 (A) 的所有特征值必然落在以下三个圆盘的并集内:
- 圆盘 1:中心在 (4),半径 (1),即区间 ([3,5]) 附近的圆盘。
- 圆盘 2:中心在 (3),半径 (3),覆盖范围较大,约 ([0,6])。
- 圆盘 3:中心在 (2),半径 (1),即区间 ([1,3]) 附近的圆盘。
盖尔果林定理的证明:
假设存在特征值 $ \lambda $ 和对应的非零特征向量 $x$。在向量 $x$ 中,必定存在一个绝对值最大的分量,记其索引为 $ i$,即 $|x_i| = \max |x_j| > 0$。
展开特征值方程 $Ax = \lambda x$ 的第 $ i$ 行,并把对角线项移项,得到公式:$\lambda - a_{ii} = \sum_{j \neq i} a_{ij} \frac{x_j}{x_i}$。
对方程两边取复数模长,并应用三角不等式。由于我们事先定义了 $|x_i|$ 是最大分量,所以分数项 $|\frac{x_j}{x_i}| \le 1$ 恒成立。
通过将分数项放缩为 1,等式右侧的上限就变成了 $\sum_{j \neq i} |a_{ij}|$,这正是我们定义的圆盘半径。
行随机矩阵的谱属性
有了盖尔果林圆盘定理作为工具,我们可以进一步得出行随机矩阵的几个结论:
结论 (i):1 必然是特征值:这由行随机矩阵的定义 $A\mathbf{1}_n = \mathbf{1}_n$ 直接得出。这意味着谱半径 $\rho(A) \ge 1$(因为谱半径是最大特征值的模)。
结论 (ii):谱半径 $\rho(A) = 1$,且谱集被包含在单位圆内
证明:前面已知最大特征值的模至少为 1,如果证明它不会超过 1(即 $\rho(A) \le 1$),则它必定为1。因为 $A$ 是行随机矩阵,元素非负且每行和为 1。所以对于第 $ i$ 行,对角线元素 $a_{ii} \in [0, 1]$,而非对角线元素的和自然就是 $1 - a_{ii}$,1减去一个0-1之间的值,它一定小于等于1。这也正是盖尔果林圆盘的半径。

因为 1 永远是它的特征值(且圆盘的最右端切在实数 1 上),所以行随机矩阵驱动的离散系统 $A$ 绝对不可能完全收敛(Not convergent),状态向量不会衰减到 0。
但是,因为所有特征值都被严密限制在单位圆内部及边缘,它具备了达成半收敛(Semi-convergent)的前提条件。后续只要证明特征值 1 是半单特征值(semisimple),就能证明该系统是半收敛的。
也就是说,这类矩阵绝对不可能“彻底收敛”(Convergent),状态不会衰减到 0。但这对于网络化系统(比如微电网孤岛模式下的分布式控制,或者多智能体网络的一致性算法)来说恰恰是我们想要的。因为在这些应用中,我们并不希望所有节点的状态最后都变成 0,而是希望它们在不断交换信息的过程中,最终稳定在同一个非零的数值上(即达成 Consensus)。这就是典型的“半收敛”(Semi-convergent)过程。
佩龙-弗罗贝尼乌斯理论(Perron-Frobenius theory)
想要半收敛,根据圆盘定理,我们还必须满足两个非常苛刻的条件:
- 特征值 1 必须是半单的 (semisimple),绝不能产生包含多项式增长的大若尔当块。
- 除了 1 之外,所有其他特征值的模必须严格小于 1(也就是说,除了 $\lambda=1$ 那个点,不能有任何其他特征值踩在单位圆的边缘上)。
痛点在于:盖尔果林圆盘定理只能告诉我们特征值“最大跑不出单位圆”,但它不够精确。它无法向我们保证特征值 1 是不是半单的,也无法向我们保证单位圆边缘上是不是只有 1 这一个特征值。
为了跨越这个理论障碍,精确刻画行随机矩阵的半收敛条件,引入佩龙-弗罗贝尼乌斯理论 (Perron-Frobenius theory)。它专门针对非负矩阵(Non-negative matrices)。
它的强大之处在于:传统的代数方法在处理非负矩阵的高次幂时很吃力,而 Perron-Frobenius 理论能够将矩阵的非负代数性质,与其背后的图论特征(网络拓扑结构、连通性等)深刻地绑定在一起。
为了研究非负矩阵的半收敛性,我们需要对非负矩阵进行极其严密的分类。
几种非负矩阵的例子
这是 5 个非常经典的二维非负矩阵样例,并观察它们在 $k \to \infty$ 时 $A^k$ 的表现。
- $\text{spec}(A_1) = \{1, 1\}$,零/非零模式在 $A_1^k$ 中保持不变,$\lim_{k \to \infty} A_1^k = I_2$
- $\text{spec}(A_2) = \{1, -1\}$,状态在 $\begin{bmatrix} 0 & 1 \\ 1 & 0 \end{bmatrix}$ 和 $\begin{bmatrix} 1 & 0 \\ 0 & 1 \end{bmatrix}$ 之间周期性震荡,极限不存在。
- $\text{spec}(A_3) = \{0, 0\}$,当 $k \ge 2$ 时 $A_3^k = 0$,$\lim_{k \to \infty} A_3^k = 0$
- $\text{spec}(A_4) = \{1, -\tfrac{1}{2}\}$,当 $k \ge 2$ 时 $A_4^k > 0$,$\lim_{k \to \infty} A_4^k = \tfrac{1}{3}\begin{bmatrix}2 & 1 \\ 2 & 1\end{bmatrix}$
- $\text{spec}(A_5) = \{1, 1\}$,零/非零模式在 $A_5^k$ 中保持不变,$\lim_{k \to \infty} A_5^k$ 发散(无界)
不可约与本原矩阵
基于上述观察,提出了不可约与本源两个定义。这两个代数定义背后,隐藏着极其深刻的网络拓扑学(图论)物理意义。
1. 不可约矩阵 (Irreducible Matrix)
- 代数定义:对于$n>2$的$n\times n$矩阵,若 $\sum_{k=0}^{n-1} A^k$ 是一个严格的正矩阵(所有元素 $>0$),则其为不可约矩阵。
- 图论等价意义(参考第 41 页 Note):如果把矩阵 $A$ 看作一个网络的邻接矩阵(非零代表有单向连接),矩阵元素 $(A^k)_{ij} > 0$ 的物理意义是:存在一条从节点 $ i$ 到节点 $j$、长度正好为 $k$ 的路径。
- 因此,不可约矩阵的代数定义实际上是在说:在至多 $n-1$ 步之内,网络中的任意一个节点都可以到达任意另一个节点。这在图论中对应于强连通图(Strongly Connected Graph)。如果连通性被打破(比如存在孤立节点或单向死胡同),矩阵就是可约的(Reducible),如 $A_1, A_3, A_5$。
2. 本原矩阵 / 素矩阵 (Primitive Matrix)
- 代数定义:存在某个特定的正整数 $k$,使得单纯的 $A^k$ 就是一个严格的正矩阵($A^k > 0$)。
- 物理意义:要求比“不可约”更高。不可约只要求“能到达”(步数随意,最长 $n-1$),而本原矩阵要求:存在一个统一的固定步数 $k$,使得所有节点经过恰好 $k$ 步后,都能到达彼此。
- 这排除了像 $A_2$ 这种周期性震荡的矩阵。$A_2$ 虽然连通(不可约),但由于其二分图的周期性质,永远找不到一个单一的 $k$ 让整个矩阵全为正。
本原矩阵必然是不可约矩阵 (Primitive $\implies$ Irreducible)。证明如下:
- 假设矩阵 $A$ 是本原的,但却是可约的。
- 可约意味着,无论你怎么走 $0$ 到 $n-1$ 步,总有两个节点 $(i, j)$ 是连不通的。代数上表示为:对于任意 $k \in \{0, \dots, n-1\}$,$(A^k)_{ij} = 0$ 恒成立。
- 根据凯莱-哈密顿定理 (Cayley-Hamilton Theorem):任何一个 $ n \times n $ 矩阵的 $n$ 次方(或更高次方 $A^h$),都可以表示为它前 $n-1$ 次方 $A^0, A^1, \dots, A^{n-1}$ 的线性组合。
- 因为 $A$ 是非负矩阵,既然前 $n-1$ 项在 $(i, j)$ 位置全都是 $0$,那么它们如何进行非负线性组合,得到的高次幂 $(A^h)_{ij}$ 也必然永远是 $0$。
- 这就意味着 $A^k$ 永远不可能成为一个所有元素严格大于 0 的正矩阵。这与“$A$ 是本原矩阵”的前提矛盾。证明完毕。
几种类型的矩阵的关系
经过上述严密的推导,我们得到了非负矩阵的严格子集关系链: 正矩阵 (Positive) $\subset$ 本原矩阵 (Primitive) $\subset$ 不可约矩阵 (Irreducible) $\subset$ 非负矩阵 (Non-negative)

例如:
- $A_3$ 非负,但不可约。(证明了 Irreducible 是 Non-negative 的真子集)
- $A_2$ 不可约,但非本原。(证明了 Primitive 是 Irreducible 的真子集)
- $A_4$ 是本原的,但在初始状态 $k=1$ 时并不是严格正的。(证明了 Positive 是 Primitive 的真子集)
佩龙-弗罗贝尼乌斯定理的结论
设 $A$ 是一个 $ n \times n $ 的矩阵。
第一阶:只要 $A$ 是非负的,那么:
- 必然存在一个实数特征值 $ \lambda $,它最大(即 $\lambda \ge |\mu|\geq 0$,$\mu$是其他特征值,它就是谱半径)
- 它的左、右特征向量都可以被设计为是非负的。
第二阶:如果 $A$ 进一步是“不可约”的
- 这个最大的$ \lambda $ 不仅严格大于 0,而且必须是单特征值(simple)。
- 对应的左、右特征向量从“非负”升级成了严格为正(strictly positive),最多可以通过重新缩放改变。
第三阶:如果 $A$ 进一步是“本原”的
- $ \lambda $ 不仅是最大的,而且是绝对统治的(不能取等)($\lambda > |\mu|$)。这意味着,除了 $ \lambda $ 以外,没有任何其他特征值敢跟它比大小,全部被死死地压在了 $ \lambda $ 所在的圆盘内部。
这个处于统治地位的 $ \lambda $ 被命名为主特征值(Dominant eigenvalue)或 Perron 特征值
看下面这个例子:
- 图 (a) 对应可约矩阵(如 $A_3$ ):谱半径 $\lambda=0$,所有特征值都挤在原点,系统迅速崩溃归零。
- 图 (b) 对应不可约但非本原矩阵(如 $A_2$):主特征值 $\lambda=1$ 出现了,它确实是单特征值。但是,在单位圆的另一端,还藏着一个 $\mu = -1$。由于没能满足第三阶的绝对统治条件($\lambda > |\mu|$ 被打破,变成了 $\lambda = |\mu|$),这导致系统状态会在两极之间永远震荡,无法静止。
- 图 (c) 对应本原矩阵(如 $A_4$):这是完美的形态!主特征值 $\lambda=1$ 稳稳地踩在圆周上,而其他所有特征值(比如 $-1/2$)全被严格封锁在单位圆的内部。

本原性、右特征向量、左特征向量的工程意义
当我们设计多智能体系统的分布式控制律(例如在孤岛交流微电网中,通过节点间的通信网络来实现多台逆变器的频率和电压同步)时,系统的演化矩阵通常是一个由网络拓扑决定的本原行随机矩阵。Perron-Frobenius 定理在此时发挥了决定性作用:
- 本原性保证了收敛:因为通信图是强连通且非周期的,系统一定会达到稳态,而不会发散或震荡。
- 右主特征向量 $ v $ 决定了“去哪里”:对于行随机矩阵,其主特征值 $\lambda=1$ 对应的右主特征向量通常是全 1 向量 $\mathbf{1}$。这就保证了所有节点最终会趋于同一个数值,即达成一致性(Consensus)。
- 左主特征向量 $w$ 决定了“听谁的”:归一化后的左主特征向量 $w$,其各个分量的大小直接代表了对应节点在网络初始状态向最终一致性状态演化过程中的权重分配(或贡献度)。网络中枢纽节点的权重分量自然会更大。
计算系统稳态
对于满足 Perron-Frobenius 定理的本原矩阵,如果它有一个处于绝对统治地位的主特征值 $ \lambda $,那么随着 $A$ 不断自乘,那些次要特征值(由于模长严格小于 $ \lambda $)所带来的影响会像指数一样迅速衰减为 0。最后,整个矩阵的高次幂会被主特征值 $ \lambda $ 及其对应的左右特征向量($ v $ 和 $w$)完全主导:
对于我们关心的行随机矩阵(如 French-Harary-DeGroot 模型),主特征值 $\lambda = 1$,右特征向量 $ v $ 是全 1 向量 $\mathbf{1}_n$。代入上面的公式:
得到的极限矩阵,它的每一行都是完全相同的,全都是左主特征向量 $w^T$。
举个例子,再来看之前例子2 WSN 传感器网络的矩阵:
$A_{\text{wsn}}$ 本身有一些元素是 0(比如第一行第三列),但是只要把它平方一次(算 $A_{\text{wsn}}^2$),会发现新矩阵里的每一个元素都变成了严格大于 0 的正数。这完美符合了“本原矩阵”的定义(存在 $k=2$ 使得 $A^k > 0$),所以 Perron-Frobenius 定理畅通无阻。
在这个本原的行随机矩阵中:
- 主特征值:$\lambda = 1$(绝对统治,因为其他特征值的模长如 $0, 0.56, -0.14$ 都严格小于 1)。
- 右特征向量:$v = \mathbf{1}_4 = [1, 1, 1, 1]^T$。
- 左特征向量:经过归一化(使得元素之和为 1),我们提取出 $w = [1/6, 1/3, 1/4, 1/4]^T$。
可以轻易地求得:
假设四个传感器一开始有四个随机的初始读数 $x(0) = [x_1, x_2, x_3, x_4]^T$。 当网络经过无限次的信息交换后,最终状态 $x(\infty) = (\lim_{k\to\infty} A^k) x(0)$。因为极限矩阵的四行完全一样,所以四个传感器的最终读数也会变得一模一样,具体数值是: 最终一致性状态 = $\frac{1}{6}x_1 + \frac{1}{3}x_2 + \frac{1}{4}x_3 + \frac{1}{4}x_4$