线性代数

线性代数
${\displaystyle \mathbf {A} ={\begin{bmatrix}1&2\\3&4\end{bmatrix}}}$
向量 · 向量空间 · 基底  · 行列式  · 矩阵
向量 标量 · 向量 · 向量空间 · 向量投影 · 外积（向量积 · 七维向量积） · 内积（数量积） · 二重向量 矩阵与行列式 矩阵 · 行列式 · 线性方程组 · 秩 · 核 · 跡 · 單位矩陣 · 初等矩阵 · 方块矩阵 · 分块矩阵 · 三角矩阵 · 非奇异方阵 · 转置矩阵 · 逆矩阵 · 对角矩阵 · 可对角化矩阵 · 对称矩阵 · 反對稱矩陣 · 正交矩阵 · 幺正矩阵 · 埃尔米特矩阵 · 反埃尔米特矩阵 · 正规矩阵 · 伴随矩阵 · 余因子矩阵 · 共轭转置 · 正定矩阵 · 幂零矩阵 · 矩阵分解 （LU分解 · 奇异值分解 · QR分解 · 极分解 · 特征分解） · 子式和余子式 · 拉普拉斯展開 · 克罗内克积 线性空间与线性变换 线性空间 · 线性变换 · 线性子空间 · 线性生成空间 · 基 · 线性映射 · 线性投影 · 線性無關 · 线性组合 · 线性泛函 · 行空间与列空间 · 对偶空间 · 正交 · 特征向量 · 最小二乘法 · 格拉姆-施密特正交化
查 论 编

坐标满足线性方程的点集形成n维空间中的一个超平面。n个超平面相交于一点的条件是线性代数研究的一个重要焦点。此项研究源于包含多个未知数的线性方程组。这样的方程组可以很自然地表示为矩阵和向量的形式。

线性代数既是纯数学也是应用数学的核心。例如，放宽向量空间的公理就产生抽象代数，也就出现若干推广。泛函分析研究无穷维情形的向量空间理论。线性代数与微积分结合，使得微分方程线性系统的求解更加便利。线性代数的理论已被泛化为算子理论。

线性代数的方法还用在解析几何、工程、物理、自然科学、計算機科學、计算机动画和社会科学（尤其是经济学）中。由于线性代数是一套完善的理论，非线性数学模型通常可以被近似为一般線性模型。

 

线性代数的研究最初出现于对行列式的研究上。行列式当时被用来求解线性方程组。莱布尼茨在1693年使用行列式。随后，加布里尔·克拉默在1750年推导出求解线性方程组的克萊姆法則。然后，高斯利用高斯消元法发展出求解线性系统的理论。这也被列为大地测量学的一项进展。

现代线性代数的历史可以上溯到19世纪中期的英国。1843年，哈密顿发现四元数。1844年，赫爾曼·格拉斯曼发表他的著作《线性外代数》（Die lineare Ausdehnungslehre），包括今日线性代数的一些主题。1848年，詹姆斯·西爾維斯特引入矩阵（matrix），该词是“子宫”的拉丁语。阿瑟·凯莱在研究线性变换时引入矩阵乘法和转置的概念。很重要的是，凯莱使用一个字母来代表一个矩阵，因此将矩阵当做了聚合对象。他也意识到矩阵和行列式之间的联系。

不過除了這些早期的文献以外．线性代数主要是在二十世纪发展的。在抽象代数的环论开发之前，矩阵只有模糊不清的定義。随着狭义相对论的到来，很多开拓者發現线性代数的微妙。进一步的，解偏微分方程的克莱姆法则的例行应用导致大学的标准教育中包括线性代数。例如，E.T. Copson写到：

1882年，Hüseyin Tevfik Pasha（英语：Hüseyin Tevfik Pasha）(TR（土耳其語：Hüseyin Tevfik Paşa）)写了一本书，名为《Linear Algebra》(线性代数)。第一次现代化精确定义向量空间是在1888年，由朱塞佩·皮亞諾提出。在1888年，弗兰西斯·高尔顿还发起相关系数的应用。经常有多于一个随机变量出现并且它们可以互相关。在多变元随机变量的统计分析中，相关矩阵是自然的工具。所以这种随机向量的统计研究帮助矩阵用途的开发。到1900年，一种有限维向量空间的线性变换理论被提出。在20世纪上半叶，许多前几世纪的想法和方法被总结成抽象代数，线性代数第一次有了它的现代形式。矩阵在量子力学、狭义相对论和统计学上的应用帮助线性代数的主题超越纯数学的范畴。计算机的发展导致更多地研究致力于有关高斯消元法和矩阵分解的有效算法上。线性代数成为数字模拟和模型的基本工具。

线性代数起源于对二维和三维直角坐标系的研究。在这里，一个向量是一个有方向的线段，由长度和方向同时表示。这样向量可以用来表示物理量，比如力，也可以和标量做加法和乘法。这就是实数向量空间的第一个例子。

现代线性代数已经扩展到研究任意或无限维空间。一个维数为${\displaystyle n}$ 的向量空间叫做${\displaystyle n}$ 维空间。在二维和三维空间中大多数有用的结论可以扩展到这些高维空间。尽管许多人不容易想象${\displaystyle n}$ 维空间中的向量，这样的向量（即n元组）用来表示数据非常有效。由于作为n元组，向量是${\displaystyle n}$ 个元素的“有序”列表，大多数人可以在这种框架中有效地概括和操纵数据。比如，在经济学中可以使用8维向量来表示8个国家的国民生产总值（GNP）。当所有国家的顺序排定之后，比如（中国，美国，英国，法国，德国，西班牙，印度，澳大利亚），可以使用向量${\displaystyle (v_{1},v_{2},v_{3},v_{4},v_{5},v_{6},v_{7},v_{8})}$ 显示这些国家某一年各自的GNP。这里，每个国家的GNP都在各自的位置上。

作为证明定理而使用的纯抽象概念，向量空间（线性空间）属于抽象代数的一部分，而且已经非常好地融入这个领域。一些显著的例子有：不可逆线性映射或矩阵的群，向量空间的线性映射的環。

线性代数也在数学分析中扮演重要角色，特别在向量分析中描述高阶导数，研究张量积和可交换映射等领域。

向量空间是在域上定义的，比如实数域或复数域。线性算子将线性空间的元素映射到另一个线性空间（也可以是同一个线性空间），保持向量空间上加法和标量乘法的一致性。所有这种变换组成的集合本身也是一个向量空间。如果一个线性空间的基是确定的，所有线性变换都可以表示为一个数表，称为矩阵。对矩阵性质和矩阵算法的深入研究（包括行列式和特征向量）也被认为是线性代数的一部分。

我们可以简单地说数学中的线性问题——-那些表现出线性的问题——是最容易被解决的。比如微分学研究很多函数线性近似的问题。在实践中与非线性问题的差异是很重要的。

線性代數方法是指使用线性观点看待问题，并用线性代数的语言描述它、解决它（必要时可使用矩阵运算）的方法。這是数学與工程學中最主要的应用之一。

向量空间

向量空间是线性代数的主要结构。域${\displaystyle F}$ 上的向量空间是集合${\displaystyle V}$ 再加上两个二元运算。${\displaystyle V}$ 的元素叫做向量而${\displaystyle F}$ 的元素叫做标量。第一个运算，向量加法，取任意两个向量${\displaystyle v}$ 和${\displaystyle w}$ ，然后输出第三个向量${\displaystyle v+w}$ 。第二个运算，向量乘法，取任意标量${\displaystyle a}$ 和任意向量${\displaystyle v}$ 并输出新向量${\displaystyle av}$ 。从第一个例子来看，其中乘法是以标量${\displaystyle a}$ 将向量${\displaystyle v}$ 缩放后完成的，这种乘法叫做${\displaystyle v}$ 数乘${\displaystyle a}$ 。向量空间内的加法和乘法运算满足下列公理。在下表中，令${\displaystyle u,v}$ 和${\displaystyle w}$ 为${\displaystyle V}$ 中的任意向量，${\displaystyle a}$ 和${\displaystyle b}$ 为${\displaystyle F}$ 中的标量。

公理	意义
加法结合律	${\displaystyle u+\left(v+w\right)=\left(u+v\right)+w}$
加法交换律	${\displaystyle u+v=v+u}$
加法的單位元	存在元素${\displaystyle 0\in V}$ ，称作零向量，使得对所有${\displaystyle v\in V}$ ，都有${\displaystyle v+0=v}$ 。
加法的逆元素	对每个${\displaystyle v\in V}$ ，存在一元素${\displaystyle -v\in V}$ ，称作${\displaystyle v}$ 的相反数，使得${\displaystyle v+(-v)=0}$
相对于向量加法的数乘分配律	${\displaystyle a\left(u+v\right)=au+av}$
相对于域加法的数乘分配律	${\displaystyle \left(a+b\right)v=av+bv}$
数乘与域乘法的相容性	${\displaystyle a\left(bv\right)=\left(ab\right)v}$
数乘的单位元	${\displaystyle 1v=v}$ ，其中1表示${\displaystyle F}$ 内的乘法单位。

一般向量空间${\displaystyle V}$ 可能有不同性质的元素，例如，函数、多项式、向量或矩阵。线性代数关注的是所有向量空间的共同性质。

线性变换

子空间

矩阵理论

矩阵是一个矩形的数学方阵。一个方阵可看作两个矢量空间的线性变阵，故矩阵理论可当作线性代数的一个分枝。

在图论，每一个加上标示图对应唯一的非负矩阵，称为邻接矩阵。

排列矩阵是排列的矩阵表达式，在组合数学极为重要。

正定矩阵及半正定矩阵可用来寻找实数函数的极大值或极小值。

任意环矩阵亦非常重要。举例说，多项式环的矩阵用于控制理论。

另外，不同的矩阵环经常是提供数学上反例的素材。

特征值和特征向量

一般情况下，线性变换可能相当复杂。一些低维的例子，让我们领会不同的类型。一般的${\displaystyle n}$ 维变换${\displaystyle T}$ 的一个技巧是找到在${\displaystyle T}$ 下的不变集——特征线。如果${\displaystyle v}$ 是一个非零向量，使得${\displaystyle Tv}$ 为${\displaystyle v}$ 的标量倍，那么通过0和${\displaystyle v}$ 的直线就是在${\displaystyle T}$ 下的不变集，而${\displaystyle v}$ 被称为特征向量。使得${\displaystyle Tv-\lambda v}$ 的标量${\displaystyle \lambda }$ 叫做${\displaystyle T}$ 的特征值。

要求一个特征向量或特征值，我们注意到

${\displaystyle Tv-\lambda v=(T-\lambda \,{\text{I}})v=0,}$ 

其中${\displaystyle I}$ 是单位矩阵。为使该方程存在非平凡解，${\displaystyle \det \left(T-\lambda I\right)=0}$ 。行列式是一个多项式，所以在域${\displaystyle \mathbb {R} }$ 内不保证存在特征值。

内积空间

• 每一个线性空间都有一个基。
• 对一个n阶方阵${\displaystyle A}$ ，如果存在一个${\displaystyle n}$ 阶方阵${\displaystyle B}$ 使${\displaystyle AB=BA=I}$ （I是单位矩阵），则${\displaystyle A}$ 为非奇异方阵。
• 一个方阵非奇异当且仅当它的行列式不为零。
• 一个方阵非奇异当且仅当它代表的线性变换是个自同构。
• 一个矩阵半正定当且仅当它的每个特征值大于或等于零。
• 一个矩阵正定当且仅当它的每个特征值都大于零。

线性代数是一个成功的理论，其方法已被应用于数学的其他分支。模论就是将线性代数中的标量的域用环替代，並进行研究，像線性無關、线性生成空间、基底、秩等概念仍然可以適用。不過許多線性代數中的定理在模论中不成立，例如不是所有的模都有基底（有基底的模稱為自由模），自由模的秩不唯一，不是所有模中的線性獨立的子集都可以延伸成為基底，也不是所有模生成空间的子集都包括基底。

多重线性代数推广线性代数的方法。和线性代数一样也是建立在向量的概念上，发展向量空间的理论。在应用上，出现许多类型的张量。

在算子的谱理论中，通过数学分析，可以控制无限维矩阵。泛函分析混合线性代数和数学分析中的方式，研究許多不同函數空間，例如Lp空间。

• 数值线性代数
• 特征向量
• 基础矩阵
• 線性回歸
• 單純形法
• 线性规划
• 变换矩阵

在线资源

• 朝陽科技大學線性代數講義 （页面存档备份，存于互联网档案馆）（繁體中文）
• 同济大学线性代数精品课程（简体中文）
• MIT Linear Algebra Video Lectures （页面存档备份，存于互联网档案馆）, a series of 34 recorded lectures by professor Gilbert Strang (Spring 2010)（英文）
• Linear Algebra Toolkit （页面存档备份，存于互联网档案馆）.
• Linear Algebra Workbench （页面存档备份，存于互联网档案馆）: multiply and invert matrices, solve systems, eigenvalues etc.
• Hazewinkel, Michiel (编), Linear algebra, 数学百科全书, Springer, 2001, ISBN 978-1-55608-010-4 
• Linear Algebra （页面存档备份，存于互联网档案馆） on MathWorld.
• Linear Algebra overview （页面存档备份，存于互联网档案馆） and notation summary （页面存档备份，存于互联网档案馆） on PlanetMath.
• Matrix and Linear Algebra Terms （页面存档备份，存于互联网档案馆） on Earliest Known Uses of Some of the Words of Mathematics
• Linear Algebra by Elmer G. Wiens. Interactive web pages for vectors, matrices, linear equations, etc.
• Linear Algebra Solved Problems: Interactive forums for discussion of linear algebra problems, from the lowest up to the hardest level (Putnam).
• Linear Algebra for Informatics. José Figueroa-O'Farrill, University of Edinburgh
• Essence of linear algebra （页面存档备份，存于互联网档案馆），3Blue1Brown的关于线性代数基础的视频演示，重点介绍向量、矩阵及线性代数理解方面的总结。

在线书籍

• Linear Algebra by Jim Hefferon （页面存档备份，存于互联网档案馆）: A free textbook with exercises and a solutions guide written by a professor at Saint Michael's College.（英文）
• Online Notes / Linear Algebra Paul Dawkins, Lamar University（英文）
• Matthews, Keith, Elementary Linear Algebra textbook with solutions （页面存档备份，存于互联网档案馆）（英文）
• Treil, Sergei, Linear Algebra Done Wrong （页面存档备份，存于互联网档案馆）（英文）