矩阵分析系统学习笔记

本系列所有文章来自东北大学韩志涛老师的矩阵分析课程学习笔记，系列如下：
矩阵分析 (一) 线性空间和线性变换
矩阵分析 (二) 内积空间
矩阵分析 (三) 矩阵的标准形
矩阵分析 (四)向量和矩阵的范数
矩阵分析 (五) 矩阵的分解
矩阵分析 (六) 矩阵的函数
矩阵分析 (七) 矩阵特征值的估计
矩阵分析 (八) 矩阵的直积

  矩阵的直积(Kronecher 积)是一种重要的矩阵乘积，它在矩阵理论研究中起着重要的作用，是一种基本的数学工具。本文介绍矩阵直积的基本性质，并利用矩阵的直积求解线性矩阵方程组和矩阵微分方程组。

直积的定义和性质

• 定义8.1：设矩阵：

$$A=(a_{ij}{)}_{m\times n}，B=(b_{ij}{)}_{p\times q}$$

  称如下的分块矩阵：

$$A\otimes B=\left(\begin{array}{cccc}{a}_{11}B& a_{12}B& \cdots & a_{1n}B\\ ⋮& ⋮& & ⋮\\ a_{m1}B& a_{m2}B& \cdots & a_{mn}B\end{array}\right)$$

  为$A$与$B$的直积或者Kronecher积。

  可见$A\otimes B$是$mp\times nq$矩阵。

矩阵的直积有下列性质：

• 1、设$K$为常数，则：
  $$k(A\otimes B)=(kA)\otimes B=A\otimes (kB)$$

• 2、设$A_1，A_2$为同阶矩阵，则：
  $$(A_1+A_2)\otimes B=A_1\otimes B+A_2\otimes B$$
  $$B\otimes (A_1+A_2)=B\otimes A_1+B\otimes A_2$$

• 3、：
  $$(A\otimes B{)}^T=A^T\otimes B^T$$

• 4、：
  $$(A\otimes B)\otimes C=A\otimes (B\otimes C)$$

• 5、设：$A=(a_{ij}{)}_{m\times n}$，$B=(b_{ij}{)}_{p\times q}$，$C=(c_{ij}{)}_{n\times s}$，$D=(d_{ij}{)}_{q\times t}$，则：
  $$(A\otimes B)(C\otimes D)=(AC)\otimes (BD)$$

• 6、设：
  $$A\in C^{n\times n}，B\in C^{n\times n}$$

  都可逆，则$A\otimes B$也可逆，且：

$$(A\otimes B{)}^{-1}=A^{-1}\otimes B^{-1}$$

• 7、设$A\in C^{n\times n}$，设$B\in C^{n\times n}$都是酉矩阵，则$A\times B$也是酉矩阵。

• 8、设$A\in C^{m\times m}$的全体特征值是${\lambda }_1$，${\lambda }_2$，$\cdots$，${\lambda }_m$，$B\in C^{n\times n}$的全体特征值是${\mu }_1$，${\mu }_2$，$\cdots$，${\mu }_n$，则$A\otimes B$的全体特征值是：
  $${\lambda }_i{\mu }_i$$

• 9、设$A\in C^{m\times m}$，$B\in C^{n\times n}$，则$|A\otimes B|=|A{|}^n\cdot |B{|}^m$。

• 10、设$A\in C^{m\times m}$的特征值是${\lambda }_1$，${\lambda }_2$，$\cdots$，${\lambda }_m$，$B\in C^{n\times n}$的特征值是${\mu }_1$，${\mu }_2$，$\cdots$，${\mu }_n$则：
  $$A\otimes E_n+E_m\otimes B$$

  的特征值是：

$${\lambda }_i+{\mu }_j$$

• 11、设$A\in C^{m\times m}$的特征值是${\lambda }_1$，${\lambda }_2$，$\cdots$，${\lambda }_m$，$B\in C^{n\times n}$的特征值是${\mu }_1$，${\mu }_2$，$\cdots$，${\mu }_n$，则$A\otimes E_n+E_m\otimes B^T$的特征值也是${\lambda }_i$+${\mu }_j$。

• 设$x$是$A\in C^{m\times m}$的特征向量，$y$是$B\in C^{n\times n}$的特征向量，则$x\otimes y$是$A\otimes B$的特征向量。

• 设$A\in C^{n\times n}$，则：

$$e^{E\otimes A}=E\otimes e^A，e^{A\otimes E}=e^A\otimes E$$

• 设$A\in C^{m\times m}$，$B\in C^{n\times n}$则：
  $$e^{A\otimes E_n+E_m\otimes B}=e^A\otimes e^B$$

直积的应用

  本节讨论直积在解线性矩阵方程组中的应用。

拉直

• 定义8.2：设矩阵$A=(a_{ij}{)}_{m\times n}$，称$mn$维列向量：

$$\underset{A}{\to }=(a_{11}\cdots a_{1n}，a_{21}\cdots a_{2n}，\cdots ，a_{m1}\cdots a_{mn}{)}^T$$

  为$A$的拉直。

拉直具有下面的性质：

1. 设$A，B\in C^{m\times n}$，$k$与$l$为常数，则：

$$\overrightarrow{kA+lB}=k\overrightarrow{A}+l\overrightarrow{B}$$

2. 设$A=(a_{ij}(t){)}_{m\times n}$则：

$$\frac{\overrightarrow{dA}}{dt}=\frac{d\overrightarrow{A}}{dt}$$

• 定理8.1 设：

$$A\in C^{m\times n}，B\in C^{p\times q}，X\in C^{n\times p}$$

  则：

$$\overrightarrow{AXB}=(A\otimes E_n)(E_m\otimes B^T)\overrightarrow{X}$$

$$=(A\otimes B^T)\overrightarrow{X}$$

$$\overrightarrow{AX+BX}=(A\otimes E_n+E_m\otimes B^T)\overrightarrow{X}$$

线性矩阵方程组

• 下面讨论几种类型方程组的解：设

$$A\in C^{m\times m}，B\in C^{n\times n}，F\in C^{m\times n}$$

  解Lyapunov矩阵方程：

  解 将矩阵两边拉直：

$$(A\otimes E_n+E_n\otimes B^T)\overrightarrow{X}=\overrightarrow{F}$$

  因为矩阵方程与所得的线性方程组等价，得到矩阵方程组有解的充要条件是：

$$r(A\otimes E_n+E_m\otimes B^T，F)$$

$$=r(A\otimes E_n+E_m\otimes B^T)$$

  有唯一解的充要条件是：

$$|A\otimes E_n+E_m\otimes B^T|\ne 0$$

• 设$A，F\in C^{n\times n}$，且$A$的特征值都是实数，证明矩阵方程：

$$X+AXA+A^{2}X{A}^2=F$$

  有唯一解。

• 例10 设

$$A\in C^{m\times m}，B\in C^{n\times n}，X(t)\in C^{m\times n}$$

  求解矩阵微分方程组的初值问题：

$$\{\begin{array}{l}\frac{dX}{dt}=AX+XB\\ X(0)=X_0\end{array}$$

  解 将矩阵两边拉直：

$$\{\begin{array}{l}\frac{\overrightarrow{dX}}{\mathrm{d}t}=\left(A\otimes E_n+E_n\otimes B^{\mathrm{T}}\right)\vec{X}\\ \vec{X}(0)={\vec{X}}_0\end{array}$$

  这是常系数齐次线性微分方程组，它的解：

$$\overrightarrow{X}(t)=e^{A\otimes E_n+E_m\otimes B^{T}t}\overrightarrow{X_0}$$

$$=(e^{At}\otimes e^{B^{T}t})\overrightarrow{X_0}$$

  再由：

$$\overrightarrow{AXB}=(A\otimes B^T)\overrightarrow{X}$$

$$(e^{At}\otimes e^{B^{T}t})\overrightarrow{X_0}=\overrightarrow{e^{At}{X}_0{e}^{Bt}}$$

  所以：

$$\overrightarrow{X}(t)=\overrightarrow{e^{At}{X}_0{e}^{Bt}}$$

$$X(t)=e^{At}{X}_0{e}^{Bt}$$

我的微信公众号名称：小小何先生
公众号介绍：主要研究分享深度学习、机器博弈、强化学习等相关内容！期待您的关注，欢迎一起学习交流进步！