线性代数

长期更新

什么是线性

从代数的角度来说:两个变量是线性关系,即两个变量间存在一次函数关系。

从几何的角度来说:以二维空间举例,可以想象二维直角坐标系上的一个向量。我们对这个向量进行拉伸,旋转等操作,最终它的形态还是一条线段。我们施加的这些操作就是线性的。而如果对这个向量的操作会使其发生弯曲,这就不是线性的。

解线性方程组

通过对增广矩阵进行高斯消元和回代,来求得线性方程组的解。

矩阵乘法

$$
\left[
\begin{matrix}
a_1 & a_2 \\
a_3 & a_4
\end{matrix}
\right]
\times
\left[
\begin{matrix}
b_1 & b_2 \\
b_3 & b_4
\end{matrix}
\right] =
\left[
\begin{matrix}
c_1 & c_2 \\
c_3 & c_4
\end{matrix}
\right]
$$

代数角度理解

矩阵 $A$ 中每一行是一个方程,$a_i$ 表示第 $i$ 个未知数的系数。$B$ 中每一列对应 $A$ 中每一行未知数的取值。最后实际上就是 $A$ 中的每一行点乘 ($dot$) $B$ 中的每一列。

几何的角度理解

$C$ 中的每一列代表一个向量,它是由 $A$ 中每列的向量线性组合而来。即 $A$ 表示的是一个空间的基向量

也可以理解为:对于 $C$ 中的每行,都是 $B$ 中每行的一个向量线性组合。

矩阵的逆

我们称可逆的矩阵为非奇异矩阵,不可逆的矩阵为奇异矩阵

如何理解

可以理解为逆变换。想象方阵 $A$ 表示空间中的一组基,现在我想将 $A$ 变成标准正交基,所需要做一些初等变换 $A^{-1}$ 就称为 $A$ 的逆。

什么情况不可逆?

当 $A$ 本身并不是基时,即它不能表示其空间所有的向量(存在某两行或两列线性相关)。

如何求解逆矩阵:

[A I] -> [I $A^{-1}$]

LU分解

$A = LU$

$U$ 代表上三角,$L$ 代表下三角。实际上是在将 $A$ 的主元分解出来。

$L$ 的对角线都为 $1$。