Matrix Analysis and Applications

第1章 矩阵与线性方程组
1.1 矩阵的基本运算
1.1.1 矩阵与向量
1.1.2 矩阵的基本运算
1.1.3 向量的线性无关性与非奇异矩阵
1.1.4 初等行变换与阶梯型矩阵
1.1.5 基于初等行变换的矩阵方程求解
1.2 向量空间、内积空间与线性映射
1.2.1 集合的基本概念
1.2.2 向量空间
1.2.3 实内积空间
1.2.4 复内积空间
1.2.5 线性映射
1.3 随机向量
1.3.1 概率密度函数
1.3.2 随机向量的统计描述
1.3.3 正态随机向量
1.4 内积与范数
1.4.1 向量的内积与范数
1.4.2 向量的相似度
1.4.3 正交向量在移动通信中的应用
1.4.4 向量范数用作Lyapunov函数
1.4.5 矩阵的范数与内积
1.5 基与Gram-Schmidt正交化
1.5.1 向量子空间的基
1.5.2 Gram-Schmidt正交化
1.6 矩阵的标量函数
1.6.1 矩阵的二次型
1.6.2 矩阵的迹
1.6.3 行列式
1.6.4 矩阵的秩
1.7 逆矩阵
1.7.1 逆矩阵的定义与性质
1.7.2 矩阵求逆引理
1.8 广义逆矩阵
1.8.1 左逆矩阵与右逆矩阵
1.8.2 广义逆矩阵的定义及性质
1.8.3 广义逆矩阵的计算
1.8.4 一致方程的最小范数解
1.8.5 非一致方程的最小二乘解
1.9 Moore-Penrose逆矩阵
1.9.1 Moore-Penrose逆矩阵的定义与性质
1.9.2 Moore-Penrose逆矩阵的计算
1.9.3 非一致方程的最小范数最小二乘解
1.9.4 广义逆矩阵的阶数递推计算
1.9.5 超定二维超越方程的求解
1.10 Hadamard积与Kronecker积
1.10.1 矩阵的直和
1.10.2 Hadamard积
1.10.3 矩阵化函数和向量化函数
1.10.4 Kronecker积
1.10.5 Kronecker积的应用
本章小结
习题
第2章 特殊矩阵
2.1 对称矩阵、Hermitian矩阵与循环矩阵
2.2 基本矩阵
2.3 置换矩阵、互换矩阵与选择矩阵
2.3.1 置换矩阵与互换矩阵
2.3.2 广义置换矩阵
2.3.3 选择矩阵
2.4 正交矩阵与酉矩阵
2.5 带型矩阵与三角矩阵
2.5.1 带型矩阵
2.5.2 三角矩阵
2.6 中心化矩阵与对角加矩阵
2.6.1 求和向量与中心化矩阵
2.6.2 对角加矩阵
2.7 相似矩阵与相合矩阵
2.7.1 相似矩阵
2.7.2 相合矩阵
2.8 Vandermonde矩阵与Fourier矩阵
2.8.1 Vandermonde矩阵
2.8.2 Fourier矩阵
2.9 Hankel矩阵
2.10 Hadamard矩阵
本章小结
习题
第3章 Toeplitz矩阵
3.1 半正定性
3.2 Toeplitz线性方程组的Levinson递推求解
3.2.1 经典Levinson递推
3.2.2 Levinson算法
3.2.3 分基Schur算法
3.2.4 Hermitian Levinson递推
3.2.5 多信道Toeplitz线性方程组的Levinson递推求解
3.3 求解Toeplitz线性方程组的快速算法
3.3.1 循环镶嵌
3.3.2 Toeplitz矩阵的部分求逆
3.3.3 Toeplitz线性方程组求解
3.4 Toeplitz矩阵的快速余弦变换
本章小结
第4章 矩阵的变换与分解
4.1 Householder变换
4.1.1 Householder变换与Householder矩阵
4.1.2 Householder变换的保范性
4.1.3 Householder变换算法
4.2 Givens旋转
4.2.1 反射与旋转
4.2.2 Givens旋转
4.2.3 快速Givens旋转
4.2.4 Kogbetliantz算法
4.3 矩阵的标准型
4.4 矩阵分解的分类
4.5 对角化分解
4.6 Cholesky分解与LU分解
4.6.1 Cholesky分解
4.6.2 LU分解
4.7 QR分解及其应用
4.7.1 QR分解的性质
4.7.2 采用修正Gram-Schmidt法的QR分解
4.7.3 Householder QR分解
4.7.4 采用Givens旋转的QR分解
4.7.5 基于QR分解的参数估计问题
4.7.6 基于Householder变换的快速时变参数估计
4.7.7 基于Givens旋转的时变参数估计
4.8 三角-对角化分解
4.8.1 LDM^T和LDL^T分解
4.8.2 Schur分解
4.9 三对角化分解
4.10 矩阵束的分解
本章小结
习题
第5章 梯度分析与最优化
5.1 梯度与无约束最优化
5.1.1 目标函数的极小点
5.1.2 实值函数相对于实向量的梯度
5.1.3 实值函数的梯度矩阵
5.1.4 迹函数的梯度矩阵
5.1.5 行列式的梯度矩阵
5.1.6 Hessian矩阵
5.1.7 局部极小点的条件
5.2 矩阵微分及其在最优化中的应用
5.2.1 矩阵微分与偏导
5.2.2 标量函数的梯度
5.2.3 二阶微分矩阵与Hessian矩阵
5.3 共轭梯度与无约束最优化
5.3.1 实值函数相对于复变量的偏导数
5.3.2 标量函数相对于复向量的梯度
5.3.3 迹函数的共轭梯度
5.3.4 Hessian矩阵(共轭梯度的梯度)
5.4 约束最优化
5.4.1 局部解的一阶必要条件
5.4.2 局部解的二阶条件
5.4.3 线性约束的消去
5.4.4 线性约束的二次规划
5.5 梯度算法
5.5.1 统计逼近法
5.5.2 LMS算法及其变型
5.5.3 解相关LMS算法
5.6 递推最小二乘算法
5.7 共轭梯度算法
5.7.1 共轭方向算法
5.7.2 共轭梯度算法
5.7.3 自适应滤波的共轭梯度算法
5.8 仿射投影算法
5.9 自然梯度算法
本章小结
习题
第6章 奇异值分析
6.1 数值稳定性与条件数
6.2 奇异值分解
6.2.1 奇异值分解及其解释
6.2.2 奇异值的性质
6.2.3 奇异值的性质汇总
6.2.4 秩亏缺最小二乘解
6.3 奇异值分解的数值计算
6.3.1 奇异值分解的QR分解算法
6.3.2 奇异值分解的精确计算
6.4 乘积奇异值分解
6.4.1 乘积奇异值分解问题
6.4.2 乘积奇异值分解的三角型Kogbetliantz算法
6.4.3 乘积奇异值分解的精确计算
6.5 广义奇异值分解
6.5.1 对称正定问题
6.5.2 广义奇异值分解
6.5.3 广义奇异值分解的实际算法
6.5.4 二次型不等式约束最小二乘
6.6 约束奇异值分解
6.6.1 约束奇异值
6.6.2 约束奇异值分解
6.7 结构奇异值
6.7.1 结构奇异值的定义与性质
6.7.2 结构奇异值的计算
6.8 奇异值分解的应用
6.8.1 静态系统的奇异值分解
6.8.2 系统辨识
6.8.3 阶数确定
6.8.4 系统的可控性
6.8.5 图像压缩
6.9 广义奇异值分解的应用
本章小结
习题
第7章 总体最小二乘方法
7.1 最小二乘方法
7.1.1 参数的唯一可辨识性
7.1.2 Gauss-Markov定理
7.2 总体最小二乘:理论与方法
7.2.1 总体最小二乘解
7.2.2 总体最小二乘解的性能
7.3 总体最小二乘:应用
7.3.1 总体最小二乘拟合
7.3.2 频率估计的总体最小二乘法
7.3.3 FIR自适应滤波的总体最小二乘算法
7.4 约束总体最小二乘
7.4.1 约束总体最小二乘方法
7.4.2 约束总体最小二乘与极大似然的关系
7.4.3 约束总体最小二乘解的扰动分析
7.4.4 应用
7.4.5 正则化约束总体最小二乘图像恢复
7.5 结构总体最小二乘
7.5.1 结构总体最小二乘解
7.5.2 逆迭代算法
7.5.3 约束总体最小二乘与结构总体最小二乘的等价性
7.5.4 秩亏缺Hankel矩阵逼近
7.5.5 有噪声的实现问题
本章小结
习题
第8章 特征分析
8.1 特征值问题与特征方程
8.1.1 特征值问题
8.1.2 特征多项式
8.2 特征值与特征向量
8.2.1 特征值
8.2.2 特征向量
8.2.3 与其他矩阵函数的关系
8.2.4 特征值和特征向量的性质
8.2.5 矩阵的可对角化定理
8.3 Cayley-Hamilton定理及其应用
8.3.1 Cayley-Hamilton定理
8.3.2 逆矩阵和广义逆矩阵的计算
8.3.3 矩阵幂的计算
8.3.4 矩阵指数函数的计算
8.4 Hermitian矩阵的特征值分解
8.4.1 Hermitian矩阵的特征值和特征向量
8.4.2 Hermitian矩阵的正定性
8.4.3 对称正定特征值问题的Jacobi算法
8.5 Fourier矩阵与Toeplitz矩阵的特征值分解
8.5.1 Fourier矩阵的特征值
8.5.2 Toeplitz矩阵的特征值分解
8.6 特征问题与奇异值问题的扰动分析
8.6.1 特征问题的扰动分析
8.6.2 奇异值问题的扰动分析
8.7 特征值分解的几种典型应用
8.7.1 标准正交变换与迷向圆变换
8.7.2 Pisarenko谐波分解
8.7.3 离散Karhunen-Loeve变换
8.7.4 主分量分析
8.7.5 降秩Wiener滤波器
8.8 广义特征值分解
8.8.1 广义特征值分解及其性质
8.8.2 广义特征值分解算法
8.8.3 广义特征值分解的总体最小二乘方法
8.8.4 应用举例——ESPRIT方法
8.8.5 相似变换在广义特征值分解中的应用
8.9 Rayleigh商
8.9.1 Rayleigh商
8.9.2 应用举例1:特征滤波器
8.9.3 应用举例2:快速最大似然序列解码
8.9.4 Rayleigh商迭代
8.9.5 Rayleigh商问题求解的共轭梯度算法
8.10 广义Rayleigh商
8.10.1 广义Rayleigh商
8.10.2 应用举例1:类鉴别有效性的评估
8.10.3 应用举例2:干扰抑制的鲁棒波束形成
8.11 二次特征值问题
8.11.1 二次特征值问题的描述
8.11.2 二次特征值问题求解
8.11.3 λ矩阵的逆矩阵
8.11.4 应用举例1:AR参数估计
8.11.5 应用举例2:约束最小二乘
8.11.6 应用举例3:多输入-多输出系统
8.12 联合对角化
8.12.1 联合对角化问题
8.12.2 近似联合对角化算法
8.12.3 近似联合对角化的另一种解法
8.13 特征分析与Fourier分析
8.13.1 线性算子
8.13.2 Fourier分析与特征分析
本章小结
习题
第9章 子空间分析与跟踪
9.1 子空间的一般理论
9.1.1 子空间的基
9.1.2 无交连、正交与正交补
9.1.3 子空间的正交投影与夹角
9.1.4 主角与补角
9.1.5 子空间的旋转
9.1.6 信号空间的线性无关性
9.2 列空间、行空间与零空间
9.2.1 矩阵的列空间、行空间与零空间
9.2.2 子空间的基构造:初等变换法
9.2.3 基本空间的标准正交基构造:奇异值分解法
9.2.4 构造两个零空间交的标准正交基
9.3 子空间方法
9.3.1 信号子空间与噪声子空间
9.3.2 子空间方法1:多重信号分类(MUSIC)
9.3.3 子空间方法2:方程X＝AS求解
9.3.4 子空间白化
9.4 子空间跟踪方法的分类
9.5 基于扰动理论的子空间跟踪
9.5.1 秩1更新与扰动理论
9.5.2 无退化扰动子空间跟踪
9.5.3 退化扰动子空间跟踪
9.6 修正特征值分解及其递推更新
9.6.1 修正特征值问题
9.6.2 秩1修正
9.6.3 秩2修正
9.7 基于优化理论的子空间跟踪
9.7.1 Grassmann流形和Stiefel流形
9.7.2 投影逼近子空间跟踪
9.8 快速子空间分解
9.8.1 Rayleigh-Ritz逼近
9.8.2 基于三Lanczos迭代的快速子空间分解
9.8.3 基于双Lanczos迭代的快速子空间分解
本章小结
习题
第10章 投影分析
10.1 投影与正交投影
10.1.1 投影定理
10.1.2 均方估计
10.2 投影矩阵与正交投影矩阵
10.2.1 幂等矩阵
10.2.2 从数学角度看投影矩阵
10.2.3 从信号处理角度看投影矩阵
10.2.4 到列空间的投影矩阵与正交投影矩阵
10.2.5 正交投影矩阵
10.2.6 投影矩阵的导数
10.3 投影矩阵与正交投影矩阵的应用举例
10.3.1 投影梯度
10.3.2 解相关
10.3.3 前向预测滤波器的表示
10.3.4 后向预测滤波器的表示
10.4 投影矩阵和正交投影矩阵的更新
10.5 格型自适应滤波器设计
10.6 满列秩矩阵的斜投影算子
10.6.1 斜投影算子的定义
10.6.2 斜投影算子的性质
10.6.3 斜投影算子的几何解释
10.6.4 主角与斜投影矩阵的关系
10.6.5 多个子空间的斜投影算子
10.7 满行秩矩阵的斜投影算子
10.7.1 满行秩矩阵的斜投影算子定义
10.7.2 斜投影的计算
10.8 斜投影算子的应用
10.8.1 系统建模
10.8.2 信道与字符联合估计
本章小结
习题
参考文献
索引