代数中的Null space是什么，为何被称为数学的黑洞

大家好，欢迎来到IT知识分享网。

线性代数是我最喜欢的科目之一。它是数学最重要的分支之一，可以应用于许多其他应用：求解线性方程、微分方程组等。

当我学习这个零空间概念时，这是确保我们涵盖所有课程内容的例行程序的一部分。老师在每个概念旁边打勾，你就可以开始了！

人们通常没有兴趣了解零空间是什么，或者它为什么有用。我们通常只对做数学练习感兴趣，而对它们背后的原因一无所知。

然而，我很高兴地问自己这是为了什么，为什么我们了解它但从未使用过？

但是零空间是什么？

零空间是满足给定线性方程的所有向量的集合。换句话说，零空间是线性方程组的所有解都为零的集合。

换句话说，零空间中的所有向量都被矩阵映射为零。这是一个信息杀手，一旦它落入零空间，您就无法逆转此信息。

一般情况

在数学中，使用变换非常普遍，无论是矩阵、向量、导数还是方程……从一个域映射到另一个域。例如，拉普拉斯变换将幂项中的映射函数转换为振荡项。

矩阵也不例外，它所做的只是改变“视角”，改变参考，改变向量的基础，或者改变维度……

当矩阵的行列式不为零时，我们有一个可逆映射……这意味着我们可以在不丢失有关它们的信息的情况下转换对象，因为在执行逆变换时我们再次获得“原始”矩阵值或对象。

问题是当行列式等于零时，许多人一发现就停在那里。最常见的是说：“这做不到”或“这没有解决办法”。但那是错误的，其实它确实有解但不是唯一的，它们是复数的，实际上是无限的，但无限并不意味着它们是你选择的任何一个。这些解决方案是零空间。

它是做什么用的？

人们通常希望找到一个答案，而不是太多。这是因为其中一个比其他的更相关（优化）。但是如果你想理解这个有无限答案怎么办？至少不会因为行列式为零而停止。那么你应该了解零空间。

技术上

这都是关于点积和线性组合的，所以让我们稍微提醒一下它们：

矩阵表示法主要是点积或线性组合的表示法。如果行列式不为零，则通过在两侧应用A的逆来找到解x 。但如果不这样做：

对于向量x，它在零空间上的投影将丢失，而在列空间上的投影将保留。

通常，零空间仅适用于齐次方程：

根据线性特性，该零空间与Ax=b相同。它是 x 上的一组向量，它与 A 的线性组合导致零的向量。

矩阵A的逆运算失败的原因是默认情况下它的过程试图反转零空间，这在数学上是不可能的，因为乘以零，这会删除信息。

然而，零空间最重要和最相关的抽象是信息发生了什么。

优化

由于有许多有效答案，因此有可能从所有答案中选择最佳答案。这就是所谓的优化，它在很大程度上取决于相对定义哪个更好的限制。没有比较指标就无法优化。

我可以很快解释一个有趣的应用程序示例来解决这个问题。基本上，它以伪逆的使用而告终。与零空间的关系是这个最优解是零空间的一部分（事实上，它拥有所有空间）。

剧透是，伪逆的最优解对应于限制在零空间内的距离原点 (0,0) 最近的点。

当确定等于零时会发生什么？

如果行列式不为零，则不存在零空间，至少它将是 0 维的。

当行列式等于零时，我们从较高的基数映射到较低的基数。这意味着许多输入最终将共享相同的输出。那么预计我们将不再像行列式不为零时通常发生的那样得到单一的解决方案，而是我们将得到一整套解决方案。

这跟信息有什么关系？

然后，当行列式等于零时，我们知道存在零空间，因为一些输入共享相同的输出导致基数减少，我们可以将其解释为映射或转换过程中的信息丢失。

这意味着由于这种信息丢失，该过程不再是可逆的。这显然很糟糕，但实际上并非如此，如果您了解该信息会发生什么，您确实可以重新定义矩阵来避免这种情况。

神经网络为什么要学习？

神经网络为什么要“学习”？简短的回答是，他们实际上首先记住了所有内容，然后忘记了噪音。但实际上，两者同时发生。

这仅适用于孤立层，因为非线性在激活函数中起作用，激活函数是新领域中的一种抽象方式。

从零空间的角度来看，神经网络所做的是将维度增加到最大可能，这样噪声或不必要的信息就在零空间内，因此它被杀死了。请记住，零空间实际上是一个信息杀手。

“完美学习”或记忆，相当于没有信息损失的 1-1 映射，这是当行列式不为零时。但在行列式为零的另一种方式下，“垃圾信息”可以毫无问题地存在于零空间中。

这个想法是将正确的信息保留 在列空间基中，并删除无用的信息或噪声，将它们保留在零空间基中。

结论

现在你应该了解零空间的见解，并能够从头回答这些问题：神经网络为什么要学习？零空间与信息有什么关系？为什么当行列式为零时，线性方程组无解？

这也可以用作重新解释映射、转换和信息处理的思维工具。我们可以看到学习过程不仅是关于记忆信息，而且在这个称为零空间的数学黑洞中忽略了一些信息。

数学