线性代数9. 线性无关、基与维数

本篇文章将介绍线性代数中几个处于核心地位的概念:线性相关(Linear Dependence)、线性无关(Linear Independence),以及向量所生成(Span)的空间。在此基础上,还会引出一个子空间或向量空间的(Basis)以及该空间的维数(Dimension)。

首先需要明确术语的严谨性:我们会说“一组向量(或向量组)是线性无关的”,但不会说“一个矩阵是线性无关的”;“一组向量”可以生成一个空间,或构成该空间的一组基;而“维数”则是一个具体的数值。

1. 矩阵的零空间与自由变量

考察矩阵 \(A\) 及齐次线性方程组 \(Ax = 0\) 。假设矩阵 \(A\) 有 \( m\) 行 \(n\) 列,且列数 \( n\) 大于行数 \( m\)。这意味着在方程组中,未知数的数量多于方程的数量。

可以推断,在矩阵 \( A\) 的零空间(Null Space)中,除了零向量以外必然存在其他非零向量。换言之,方程组 \( Ax = 0\) 必然存在非零解。

对此,可以通过高斯消元法进行解释:将矩阵化为阶梯形式后,矩阵的列可以分为包含主元的主元列,以及不包含主元的自由列。由于未知数 \( n\) 多于最多可能的主元数 \( m\),因此必然会剩下 \(n-m \) 个自由变量。
对方程组求解时,只需对这些自由变量赋予非零值(比如设为 1),再代入方程组解出主变量,即可求出 \( Ax = 0 \) 的非零解。这是线性代数中的一个重要结论。

2. 向量组的线性无关性

给定 \( n\) 个向量 \(x_1, x_2, \dots, x_n\) ,如何判定它们是线性相关还是线性无关的?

定义:在向量空间中对一组向量进行线性组合。如果存在不全为零的系数 \(c_1, c_2, \dots, c_n\) ,使得该组合的结果为零向量,即:
\(c_1x_1 + c_2x_2 + \dots + c_nx_n = 0\)  那么这组向量就是线性相关的。

反之,如果没有任何非零组合能得出零向量,换句话说,要使上述等式成立的唯一条件是所有系数全为零,
即 \(c_1 = c_2 = \dots = c_n = 0\) (称为“零组合”),那么这组向量就是线性无关的。

例1:二维空间中成比例的向量

假设存在向量 \( v\) 和向量 \( 2v\) 。
它们显然是线性相关的,因为第一个向量的两倍减去第二个向量即可得到零向量
\(2 \cdot v  –  1 \cdot (2v) = 0 \)
这正是一种得到零向量的非零组合。

例2:包含零向量的向量组

假设有一个非零向量 \( v_1\) 和一个零向量 \(  v_2\) 。
它们必然是线性相关的,因为对于组合 \( c_1v_1 + c_2v_2 = 0\) ,只需令 \(c_1 = 0\) 且赋予 \(c_2\) 任意非零值,即可满足条件。
推而广之,如果一组向量中包含零向量,那么这组向量必然是线性相关的。

例3:二维空间中的三个向量

在二维平面中,任意取两个不共线的向量 \(v_1\) 和 \(v_2\) ,它们是线性无关的,因为除了零组合以外没有任何组合能等于零向量。
但如果在该平面中引入第三个向量 \(v_3\) ,那么这三个向量必然是线性相关的。

原因可以结合前文的矩阵理论来解释: 构造一个 \(2 \times 3\) 的矩阵 \(A\) ,将其列向量分别设为 \(v_1, v_2, v_3\) 。由于列数 \(3\) 大于行数 \(2\) ,在求解 \(Ax = 0\) 时必然存在自由变量。

因此零空间中包含非零元素,即存在非零向量 \( c = \begin{bmatrix} c_1 \\ c_2 \\ c_3 \end{bmatrix}\) ,这意味着这三个列向量存在非零组合使其结果为零,故它们是线性相关的。

从矩阵和秩的角度理解:

我们可以将一组列向量放入一个矩阵中,将判断“向量组相关性”的问题转化为研究“矩阵零空间”的问题。

  • 如果矩阵 \(A\) 的零空间仅包含零向量,说明不存在非零组合能得到零向量,这些列向量是线性无关的。此时,矩阵的秩 \(r\) 等于列数 \(n\)(即列满秩),矩阵的所有列均为主元列,不存在自由变量。
  • 如果矩阵 \(A\) 的零空间中存在非零向量 \(c\) 使得 \(Ac = 0\) ,说明列向量存在非零组合能得到零向量,它们是线性相关的。此时秩 \(r < n\) ,矩阵中存在自由列(自由变量)。

3. 生成空间

“生成(Spanning)”一个空间,指的是由一组向量,如 \(v_1, v_2, \dots, v_l\) 的所有可能线性组合所构成的集合。

例如,一个矩阵的所有列向量的线性组合,构成了该矩阵的列空间。因此可以简述为:矩阵的列生成了它的列空间。

由一组向量生成的空间,本质上是包含这组向量的“最小”空间。

需要注意的是,生成某个空间的向量组可能是线性无关的,也可能是线性相关的。

但在数学上,我们更关注的是一组数量恰好、且既能生成该空间又线性无关的向量组。

4. 基 (Basis)

如果一组向量满足“刚好足够”的条件,既没有冗余,又足以生成整个空间,我们就称其为空间的基。

定义:向量空间的一组基,是满足以下两个基本属性的向量序列:

  1. 它们是线性无关的。
  2. 它们生成该空间。

关于基的实例:

以三维实数空间 \( \mathbb{R}^3\) 为例。
最直观的一组基是标准基,它们对应于单位矩阵的列。

$$ \begin{bmatrix} 1 \\ 0 \\ 0 \end{bmatrix},\begin{bmatrix} 0 \\ 1 \\ 0 \end{bmatrix},\begin{bmatrix} 0 \\ 0 \\ 1 \end{bmatrix} $$

这三个向量显然是线性无关的,并且能够生成整个 \(\mathbb{R}^3 空间\) 。

基并非唯一的

任意给定两个线性无关的三维向量,例如 \(\begin{bmatrix} 1 \\ 1 \\ 2 \end{bmatrix} 和 \begin{bmatrix} 2 \\ 2 \\ 5 \end{bmatrix} \) ,它们能否构成\( \mathbb{R}^3 \) 的基?
答案是否定的。虽然它们线性无关,但它们只能生成三维空间内部的一个二维平面,无法生成整个 \(\mathbb{R}^3\) 空间(当然,它们可以作为其所生成平面的基)。

如果我们在其中随意加入第三个向量,比如 \(\begin{bmatrix} 3 \\ 3 \\ 7 \end{bmatrix}\) ,刚好是前两个向量的和向量,那么这三个向量会变得线性相关,依然无法构成 \(\mathbb{R}^3\) 的基。

但如果我们加入的是一个不在该平面内的向量,比如 \(\begin{bmatrix} 3 \\ 3 \\ 8 \end{bmatrix}\) ,那么这三个向量既线性无关,又能生成 \(\mathbb{R}^3\) ,它们就构成了 \(\mathbb{R}^3\) 的新的一组基。

检验方阵列向量是否构成基的标准

在 \(\mathbb{R}^n\) 空间中,如果给定 \(n\) 个向量,检验它们是否构成基的方法是将它们作为列向量,构成一个 \(n \times n\) 的方阵。当且仅当该方阵可逆时,这些列向量才构成 \(\mathbb{R}^n\) 空间的一组基。

5. 维数 (Dimension)

如前所述,一个空间拥有无数种可能的基。但所有的基都有一个共同点:给定空间的每一组基,都必然包含相同数量的向量。

在 \(\mathbb{R}^3\) 中,基的向量个数永远是 \(3\) ;在 \(\mathbb{R}^n\) 中,个数永远是 \(n\) 。

如果针对某个特定的空间,比如某个矩阵的列空间或零空间,如果它的一组基包含 \(6\) 个向量,那么它的任何其他基也必然包含 \(6\) 个向量。

这个数量代表了该空间的大小:多于这个数量的向量组必定线性相关,少于这个数量的向量组无法生成整个空间。这个唯一不变的数量,被称为空间的维数(Dimension)。

6. 综合实例分析

为了巩固上述概念,我们对如下矩阵 \(A\) 及其列空间和零空间进行分析:
$$A = \begin{bmatrix} 1 & 1 & 2 & 1 \\ 2 & 1 & 3 & 1 \\ 1 & 1 & 2 & 1 \end{bmatrix}$$

注意,矩阵的第三列是前两列的和,第四列与第二列相同。

列空间分析: 这四个列向量生成了矩阵的列空间。但它们并非列空间的基,因为它们显然是线性相关的,例如 \( c_1 + c_2 – c_3 = 0 \) 。

要寻找列空间的基,最自然的选择是选取主元列,即第一列和第二列。它们线性无关,且能生成列空间。
矩阵的主元列数量为 \(2\) ,因此矩阵的秩 \(r = 2\) 。

在这里可以得出一个关键结论:矩阵 \(A\) 的秩(主元列的数量),等于其列空间的维数。(注意术语的使用:秩是针对矩阵而言的,而维数是针对空间而言的。

列空间的基并不唯一。除了第一和第二列,还可以选取第一和第三列、第二和第三列,甚至是列空间中其他不直接来源于矩阵的线性无关向量,比如选取两个分别位于列空间中的组合向量。只要该空间维数已知为 \(2\) ,任意两个属于该空间且线性无关的向量,就能成为它的一组基并生成全空间。

零空间分析: 零空间由所有满足 \(Ax = 0\) 的解向量 \(x\) 构成。 由于第三列是第一列与第二列之和,故零空间中存在一个解向量 \( \begin{bmatrix} 1 \\ 1 \\ -1 \\ 0 \end{bmatrix}\)  。
由于第四列与第二列相同,我们令第四列对应的自由变量为 \(1\) ,其他自由变量为 \(0\) ,可以得到另一个解向量,由第四列与第二列相减得 \(0\) ,这反映了自由变量带来的特解。

这两个通过自由变量求得的特解是线性无关的,它们的所有线性组合构成了整个零空间,因此这两个特解构成了零空间的一组基。

由此得出另一个关键结论:零空间的维数,等于自由变量的数量。 用公式表达,若矩阵有 \(n\) 列,秩为 \(r\) ,即有 \(r\) 个主元变量,则自由变量的数量为 \(n – r\) 。因此,零空间的维数等于 \(n – r\) 。

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注

滚动至顶部