线性代数到底是什么？这个问题，几乎是每位AI学习者都会遇到的困惑。如果说人工智能领域有一门必修课，那线性代数绝对占据核心地位——它就像是数学世界的通用语言，只不过许多初学者一开始就被那些符号和公式劝退了。确实，数学，尤其是线性代数，常被人贴上“枯燥”、“复杂”、“看不懂”的标签。但说实话，这种看法完全是误解。今天，我们就来聊聊，如何重新认识这个有趣的伙伴。

给初学者的解释：线性代数的本质

第一次接触线性代数的人，大概都会觉得它是下面这个样子：

看着就让人头大？紧接着，脑海里冒出两个灵魂拷问：这些东西从哪来的？我为什么非要学它？

别急，咱们先做个小练习，看看线性代数到底能做什么。

线性代数是计算数学的“主力军”。举个例子：假设有一根两端固定、温度为零的金属棒。现在用一个分布式热源去加热它，这根热源会在点x附近，每单位长度每秒产生q(x)焦耳的热量。问题来了：如何建立温度t(x)的公式？

先粗略建模一下。当热量达到平衡时，取点x附近的一段区间[x-h, x+h]。来自热源的热流入，应该等于这两端的热通量之和。当h足够小时，热通量可以当作常数。于是，这个等式可以写成：

其中Q_x-h是左边界热通量，Q_x+h是右边界热通量。根据傅立叶定律，热通量与温度差成正比——就像你刚跳进冷水里时，感觉最冷。所以：

设定h = 1/N。假设xi = i · h，其中i = 0, 1, 2, …, N，这些点被称为网格。变量ti = t(xi) 将满足方程：

再结合边界条件，得到线性方程组：

具体来说，这个系统可以用“扫描法”正面解决。但在实际模型中，系统会更加复杂。这时候，线性代数就闪亮登场了：它能用A·y = b 的简短形式描述系统——这正是矩阵乘法的由来；它能帮你判断有没有解，解是否唯一；还能让你直接套用y = A⁻¹ b 的公式来建模，就好像把A看作一个普通数字一样简单；最后，它还能帮你建立有效的数值方法来求解这些方程组。

当然，这只是从数学建模的角度来看线性代数。从量子力学、统计学等其他角度，它同样发挥着核心作用。

再举一个更熟悉的例子：网页引用排名问题——比如互联网上那个著名算法的雏形。假设有N个页面，每个页面可能包含指向其他页面的链接。任务就是判定哪些页面最重要。问题来了，怎么精确衡量“重要性”？

用一个非负数（即权重）来定量表示。一个简单的假设是：页面的链接越多，权重就越大。但这个思路有个明显的漏洞——它没有考虑链接页面的权重。合乎逻辑的做法是：链接来源的权重越大，这条链接的意义也应该越重。于是，我们有了这样一个模型：

其中a_ij是第i页指向第j页的链接数，除以第j页的链接总数。这个公式可以翻译成：第i页的权重，等于所有指向它的页面（第j页）的权重，乘以从第j页到第i页的链接占比，然后加总。就这样，我们把问题简化成了一个线性方程组。更有意思的是，权重向量p竟然是矩阵A的特征向量，对应的特征值是1：p = Ap。而弗罗贝尼乌斯-佩龙定理保证了这个向量的存在，只要用简单的迭代法就能找到。

所以说，线性代数是一套非常通用、非常实用的思想工具。但常言道，“天下没有免费的午餐”。通用性带来的一个副作用是：某些定义和定理看起来有些复杂。不过，事实并非如此——实际上，许多抽象的设定是为了化繁为简。就像那句老话：“如果它看起来像鸭子，游泳像鸭子，叫起来像鸭子，那它很可能就是只鸭子。” 这本身就是一种抽象，而一旦适应了这种抽象，用起来会非常顺手。线性代数也是如此。

一些你需要知道的线性代数理论

线性代数研究的是向量空间，以及如何把一个向量空间映射到另一个。主要关注的是线性函数——也就是对于任意常数α、β以及向量x、y，都满足f(α·x + β·y) = α·f(x) + β·f(y) 的那种。当然，非线性函数也存在，但在深入之前，我们得先搞清楚什么是向量，以及什么是向量空间——这其实没那么简单。

教材里通常会抛出一个由8条公理构成的抽象定义。有时候，向量空间被看作一个使用加法运算的阿贝尔群，再加上标量乘法。但对于刚入门的学习者来说，理解这8条公理极其困难。更好的方法是先研究具体例子，进行类比，然后回过头来理解那8条定义——其实它们就是把这种类比关系“固化”下来。

举个例子。向量，是每个人都很熟悉的有向线段。多个有向线段可以组成一个向量空间。再回忆一下多项式——它们可以逐项相加，也可以进行系数乘法。有意思的是，从代数角度看，多项式的加法和乘法运算，跟有向线段的运算规则是完全一致。比如，加法交换律x + y = y + x，对有向线段和多项式都成立。所以，多项式的集合也是一个向量空间，而多项式本身，就是向量。

既然多项式像有向线段一样，那它肯定也有坐标。但它的坐标怎么求？有多少个坐标？众所周知，平面上的向量有两个坐标，空间中的向量有三个。这是为什么？“维度”到底指什么？线性代数给出了一个漂亮的答案：维度就是线性无关向量的最大数量。

那线性无关又是什么意思？如果存在α₁, α₂, …, αₙ，其中至少有一个非零，使得α₁x₁ + α₂x₂ + … + αₙxₙ = 0，那么向量x₁, x₂, …, xₙ被称为线性相关。

否则，它们就是线性无关的。线性相关的概念其实概括了“平行向量”和“共面向量”的概念：两个向量平行时才线性相关；三个向量共面时才线性相关。

空间的维数可以是有限的——比如次数不超过N的多项式空间；也可以是无限的——比如所有多项式空间。这两种情况都会遇到，不过现在我们先关注有限维的情形。假设向量x₁, x₂, …, xₙ线性无关，n就是空间的维数。那么，任何其他向量x都可以唯一地表示为x₁, x₂, …, xₙ的线性组合，这个组合的系数，就是它的坐标。

这样一来，我们就对“坐标”有了一个严格的定义。但重点不只在于定义本身——在这个过程中，我们接触到了更基本、也常被忽略的概念：线性组合和线性相关性。同时我们也知道，在n维线性空间中，最多只能有n个线性无关向量。这是线性代数的基石之一。

现在，你看到的依然只是冰山一角。但有趣的是，我们已经可以用它来解决一些看似与线性代数毫无关系的问题了。比如：给定多项式p和q，是否存在两个变量R(x, y)的多项式，使得对所有t都有R(p(t), q(t)) = 0？

这个示例到这里差不多了。关于如何学习线性代数，每个过来人都有自己的体会。下面我简单回顾一下自己的学习经历，说几点建议。

最重要的问题：AI真的需要线性代数吗？

这取决于你的目标。如果你只是想把AI和机器学习的工具当作一个黑盒子来用，那么你需要的数学知识，大概只够让你确定问题是否适用某个模型。如果你打算提出新的想法，那线性代数就是你必须啃下来的硬骨头。这并不是说你得把数学的所有分支都学一遍——那会耽误太多时间，甚至挤掉学习微积分和统计的精力和动力。

你的目标应该是：用线性代数来找到“点与点之间的最短路径”。下面是你需要掌握的核心清单：

• 标量、向量、张量：求模（大小）、向量夹角（点积或内积）、一个向量在另一个上的投影，以及如何在一组自定义的参考轴下描述和表示向量。
• 矩阵：矩阵可以将向量的描述从一组基（一组坐标轴）转换到另一组基。比如，如何把映射应用到图像上并进行处理。
• 矩阵中的长度平方采样、奇异值分解、低秩逼近：这些都是数据处理中的常用方法。SVD常用于主成分分析，而PCA又广泛应用于特征提取，以及了解不同特征或属性之间的关系对结果的重要性。

线性代数在机器学习中的应用实例

下面列举几个具体例子：

• 数据集和数据文件：在机器学习中，我们经常把模型拟合到一个由数字组成的表格型数据集上。每一行代表一个观测结果，每一列代表该观测的一个特征。你发现了吗？这些数据本质上就是一个矩阵——线性代数中的核心数据结构。
• 图像和照片：你处理的每张图像本身就是一个表格结构。对于黑白图像来说，每个单元格里有一个像素值（宽和高决定位置）；彩色图像则每个单元格有三个像素值。没错，照片就是线性代数矩阵的一个典型实例。
• 独热编码：独热编码是处理分类变量时非常流行的一种编码方式。它用一张表来表示变量，每一列是一个类别，每一行是数据集中的一个样本。
• 线性回归：线性回归是统计中描述变量之间关系的传统方法。在机器学习中，它常用于对简单回归问题中的数值进行预测。
• 深度学习：线性代数是描述深度学习方法的核心。像谷歌的TensorFlow这样的Python库，名字里本身就包含了“张量”这个词——你完全可以说，深度学习的整个算法，都是构建在矩阵表示法之上的。

结论

分享几点我自己学习这些并不简单的数学内容时积累的小技巧：

• 最容易理解线性代数思想和方法的时候，往往是你在解决一个有趣的问题时。趣味问题能帮你把抽象概念落到实地。
• 记得跟人一起学——朋友也好，论坛也罢。讨论能极大加深理解。
• 如果你喜欢按计划推进，可以使用在线课程或其他方法。但在把矩阵丢给Wolfram Alpha之前，建议你先亲手“手撕”几个矩阵。
• 多读书。书本阅读能迫使你进行深度思考。

线性代数的基本概念和定理，并不是凭空出现的。努力理解它的本质和内在逻辑，能极大拓宽你在这一主题上的视野。克莱默、高斯、皮亚诺……想想吧，这世上一定有不少人从线性代数中找到了乐趣——他们首先取悦了自己。所以，学习它的人，又怎么会感到无聊呢？