求解Ax=b
一 线性方程组 Ax=b 的解释
线性方程组 Ax=b，其中矩阵 A 尺寸为 m*n, 当 A 为方正时，可使用消元法判断解是否存在并求解。当 A 为长方形矩阵时，同样可使用消元法判断解存在情况并求解。
线性方程组 Ax=b 可以使用不同观点看待：
1）可看作函数 f(x)=b,即输入任意 n 维向量 x，经过矩阵 A 变换处理，输出 m 维向量 b，即向量 b 由向量 x 通过矩阵 A 线性变换得到；
2）令
，
，Ax=b 可表示为
，
进一步改写得
，
当 b 是矩阵 A 列向量
的线性组合时，或者 b 在矩阵 A 列空间时，Ax=b 可解，否则 Ax=b 不可解；
3）当矩阵 A 存在左逆 B 时，BA=I，则有 BAx=Bb，x=Bb；当矩阵A存在右逆 C 时，AC=I， 则有 Ax=ACb，x=Cb；
求解线性方程组转换为求矩阵 A 是否存在左逆或者右逆，以及其逆是否唯一；
4）当向量
满足
时，则向量
位于矩阵 A 的零空间，令
为 Ax=b 的一个特解，则有
成立，也即 Ax=b 的解为
；
二 矩阵 A 的四个子空间
考虑矩阵 A 为 m*n，该矩阵由 n 个 m 维列向量构成，
1）对 n 个列向量进行任意线性组合
， 其中
为任意实数序列，则向量 a 构成的集合为矩阵 A 的列空间，表示为 C(A)；
2）对 m 个行向量进行线性组合
，其中
为任意实数序列，则向量 b 构成的集合为矩阵 A 的行空间，表示为
；
3）求解 Ax=0，解 x 构成的集合为矩阵 A 的零空间，表示为 N(A)；矩阵 A 的行空间与矩阵 A 的零空间为
下相互正交的子空间；
观察方程组 Ax=0 表示为矩阵 A 每一行与向量 x 点积为零，则任意行空间中向量与任意零空间中向量点积为零，表明两个子空间正交；
4）求解
，解 y 构成的集合为矩阵 A 的左零空间，表示为
；矩阵 A 的列空间与矩阵 A 的左零空间为
下相互正交的子空间；
观察方程组
表示为向量 y 与矩阵 A 的每一列点积为零，则任意左零空间的向量与任意列空间中的向量点积为零，表明两个子空间正交；
以上给出矩阵 A 的四个子空间，通过高斯消元法将矩阵 A 化为 U（反向消元可进一步化为 R），可以得到矩阵 A 的四个子空间的维度，以及各个子空间的基。
下面通过一个矩阵实例求解矩阵各个子空间得维度与基。
设矩阵
，使用高斯消元法得
，
消元中间变量
,
，
同样，对于长方形矩阵，A=LU 成立。观察矩阵列，可以清楚主元位于列一与列三上，即矩阵得秩等于 2。同样，观察矩阵行，只有两行非零向量。
由于矩阵消元是针对矩阵 A 上各行得线性变换，则矩阵 U 的行空间与矩阵 A 的行空间一致，则
的一组基即为
，
为
下的二维子空间。
矩阵 A 的零空间 N(A) 定义为方程组 Ax=0 的解，矩阵消元后 Ux=0 的解与 Ax=0 一致，则 Ux=0 的特解为 N(A) 的一组基，
，N(A) 为
下的二维子空间。
矩阵 A 的列空间 C(A) 的一组基为矩阵 A 上对应的主元列，由于 Ax=0 与 Ux=0 有相同解，则矩阵 A 中的列与矩阵 U 中的列使用相同的线性组合得到零向量，
故矩阵 U 上列的相关性也同样表现了矩阵 A 上列的相关性，但没有构成同一个列空间。矩阵 U 上主元所在列是线性不相关，则矩阵 U 上主元对应的矩阵 A 上的列也线性不相关。
C(A) 的一组基为
，C(A) 为
上的二维子空间。
矩阵 A 的左零空间
隐藏在矩阵消元过程中，EPA=U，U 中最后一行为零向量，满足
，
则
的一组基对应于 EP 矩阵 的最后一些元素
，
为
上的一维子空间。
三 求解 Ax=b
求解矩阵
，
通过高斯消元得
，
当 向量 b 满足
时，方程 Ax=b 有解，否则，方程无解。
任意满足
的向量 b 构成矩阵 A 的列空间，由于列空间与左零空间正交，则关系式的系数表示矩阵 A 的做了空间的基向量。
当向量 b 不满足
时，向量 b 不在矩阵 A 的列空间中，方程组无解。
当向量 b 满足
时，向量 b 在矩阵 A 的列空间中，方程组有一个或多个解，此时需要考虑矩阵 A 的秩r：
1）当矩阵 A 的秩小于 4 时，方程组存在自由变量，方程组存在许多解，其解构成 4-r 维子空间；
2）当矩阵 A 的秩等于 4 时，方程组不存在自由变量，方程组仅有一个解；当前矩阵的秩最大为3，故不可能只有一个解。
下面选择一个满足条件
的向量 b=(1,5,5)，通过消元得到：
，
为自由变量，解得
，
将解写成向量形式为：
，由于
为自由变量，将其提取到出来，可整理为：
；
可以发现 Ax=b 的解由矩阵 A 的零空间加上 Ax=b 的特解组成，其特解为设置自由变量为零求解方程组得到。以下给出方程组求解的一般流程：
1）设置
求解 Ax=0 得
；
2）设置
求解 Ax=0 得
；
3）设置
求 Ax=b 特解得
；
4）方程组最终解为
，其解空间表示矩阵 A 的零空间平移
所构成的超平面。
四 矩阵 A 的逆
当矩阵为方阵时，只有矩阵的秩r等于矩阵行与列时，方阵的逆存在；
当矩阵为 m*n 长方形矩阵时，当行满秩 r=m 时，矩阵列生成一个完整的
空间，任意线性方程组有解求不唯一。则以下 m 个线性方程组
均有解，其解构成了矩阵 A 的右逆
。
由于每个方程组解不唯一，所以其右逆也不唯一，每一个右逆可求解一个方程组解。
当列满秩 r=n 时，矩阵列无法生成完整的
空间，只有向量 b 位于列空间时才有唯一解。然而矩阵行生成了整个
空间，以下 n 个线性方程组
均有解，其解构成了矩阵 A 的左逆
。
以上方程组解也不唯一，所以其左逆也不唯一，所以左逆与方程组解并不一一对应。
对于长方形矩阵，如果存在行满秩或者列满秩时，可以通过以下方法构造逆矩阵：
当 r=m 时，
；
当 r=n 时，
。