Gauss-Seidel 方法
概述
Gauss-Seidel 方法（亦称逐次位移法）是求解线性方程组 $Ax=b$ 的迭代算法，由菲利普·路德维希·冯·赛德尔于 1874 年正式发表。与Jacobi迭代法的核心区别在于：计算第 $i$ 个分量时，立即使用本轮已更新的分量值（而非全部用旧值），因此通常收敛更快，但存在顺序依赖，天然并行性弱于 Jacobi 方法。
关键内容
迭代格式
$$x_i^{(k+1)} = \frac{1}{a_{ii}}!\left(b_i - \sum_{j
与 Jacobi 方法的区别：$j<i$ 的分量使用已更新的 $x_j^{(k+1)}$，而非旧值 $x_j^{(k)}$。
矩阵形式：$x^{(k+1)} = -(D+L)^{-1}Ux^{(k)} + (D+L)^{-1}b$，迭代矩阵 $B_{GS} = -(D+L)^{-1}U$。
收敛性质
充要条件：谱半径 $\rho(B_{GS}) < 1$。
充分条件（与 Jacobi 相同）：严格对角占优或对称正定。
对于来自偏微分方程离散化（如离散 Laplacian）的矩阵，Gauss-Seidel 的谱半径平方近似等于 Jacobi 的谱半径，即 $\rho(B_{GS}) \approx \rho(B_J)^2$，理论上每步迭代效果翻倍。
与 Jacobi 方法对比
| 特性 | Jacobi | Gauss-Seidel |
|---|---|---|
| 更新方式 | 全用旧值，同步 | 即用新值，顺序 |
| 收敛速度 | 通常较慢 | 通常较快（约翻倍） |
| 并行化 | 天然并行 | 依赖更新顺序，难以并行 |
| 内存 | 需存新旧两份向量 | 原地更新，节省内存 |
| 适用场景 | GPU/分布式系统</td> <td>分布式计算 |
命名中的历史争议
方法以"高斯-赛德尔"命名，但卡尔·弗里德里希·高斯是否明确使用过这种迭代法存在学术争议。一些历史学家认为高斯在私人计算中可能使用过类似方法（因用途与他广泛使用的最小二乘法相关），但没有明确文献记录；赛德尔 1874 年的论文才是可考的正式发表。
后续发展
Gauss-Seidel 方法是 SOR 方法（Successive Over-Relaxation）的直接前身。引入松弛参数 $\omega$：
$$x_i^{(k+1)} = (1-\omega)x_i^{(k)} + \omega \cdot \text{(Gauss-Seidel更新值)}$$
David M. Young（1950年博士论文）证明对特定结构矩阵存在最优 $\omega_{\text{opt}}$，使谱半径最小化，大幅优于基础 Gauss-Seidel。
来源
- raw/books/数值分析/06_jacobi_iteration.md