内积空间

内积空间（英語：Inner product space）是数学中的线性代数裡的基本概念，是增添了一个额外的结构的向量空间。这个额外的结构叫做内积或标量积。内积将一对向量与一个标量连接起来，允许我们严格地谈论向量的“夹角”和“长度”，并进一步谈论向量的正交性。内积空间由欧几里得空间抽象而来（内积是点积的抽象），这是泛函分析讨论的课题。

线性代数
${\displaystyle \mathbf {A} ={\begin{bmatrix}1&2\\3&4\end{bmatrix}}}$
向量 · 向量空间  · 行列式  · 矩阵
向量 标量 · 向量 · 向量空间 · 向量投影 · 外积（向量积） · 内积（数量积） 矩阵与行列式 矩阵 · 行列式 · 线性方程组 · 秩 · 核 · 迹 · 單位矩陣 · 初等矩阵 · 方块矩阵 · 分块矩阵 · 三角矩阵 · 非奇异方阵 · 转置矩阵 · 逆矩阵 · 对角矩阵 · 可对角化矩阵 · 对称矩阵 · 反对称矩阵 · 正交矩阵 · 幺正矩阵 · 埃尔米特矩阵 · 反埃尔米特矩阵 · 正规矩阵 · 伴随矩阵 · 余因子矩阵 · 共轭转置 · 正定矩阵 · 幂零矩阵 · 矩阵分解 （LU分解 · 奇异值分解 · QR分解 · 极分解 · 特征分解） · 子式和余子式 · 拉普拉斯展開 · 克罗内克积 线性空间与线性变换 线性空间 · 线性变换 · 线性子空间 · 线性生成空间 · 基 · 线性映射 · 线性投影 · 线性无关 · 线性组合 · 线性泛函 · 行空间与列空间 · 对偶空间 · 正交 · 特征向量 · 最小二乘法 · 格拉姆-施密特正交化
查 论 编

内积空间有时也叫做准希尔伯特空间（pre-Hilbert space），因为由内积定义的距离完备化之后就会得到一个希尔伯特空间。

在早期的著作中，内积空间被称作酉空间，但这个词现在已经被淘汰了。在将内积空间称为酉空间的著作中，“内积空间”常指任意维（可数或不可数）的欧几里德空间。

定义

下文中的标量域${\displaystyle F}$ 是指实数域${\displaystyle \mathbb {R} }$ 或复数域${\displaystyle \mathbb {C} }$ 。

正式地，一个内积空间是域${\displaystyle F}$ 上的向量空间${\displaystyle V}$ 与一个内积（即一个映射）构成的。${\displaystyle V}$ 上的一个内积定义为正定、非退化的共轭双线性形式（${\displaystyle F=\mathbb {R} }$ 时，内积是一个正定、对称、非退化的双线性形式），记为${\displaystyle \langle \cdot ,\cdot \rangle :V\times V\rightarrow F}$ 

它满足以下设定：

1. 共轭对称；${\displaystyle \forall x,y\in V,\;\;\langle x,y\rangle ={\overline {\langle y,x\rangle }}.}$ 

   这个设定蕴含了：${\displaystyle \forall x\in V,\;\;\langle x,x\rangle \in \mathbb {R} }$ ，因为${\displaystyle \langle x,x\rangle ={\overline {\langle x,x\rangle }}}$ .

2. 对第一个元素线性；${\displaystyle \forall a\in F,\ \forall x,y\in V,\ \langle ax,y\rangle =a\langle x,y\rangle ,\quad \forall x,y,z\in V,\ \langle x+y,z\rangle =\langle x,z\rangle +\langle y,z\rangle .}$ 

   由前两条可以推断出：${\displaystyle \forall b\in F,\ \forall x,y\in V,\ \langle x,by\rangle ={\overline {b}}\langle x,y\rangle ,\quad \forall x,y,z\in V,\ \langle x,y+z\rangle =\langle x,y\rangle +\langle x,z\rangle .}$ 

   因此${\displaystyle \langle \cdot ,\cdot \rangle }$ 实际上是一个半双线性形式。

3. 非负性：${\displaystyle \forall x\in V,\ \langle x,x\rangle \geq 0.}$ 
4. 非退化：从V到对偶空间V*的映射：${\displaystyle x\mapsto \langle x,\cdot \rangle }$ 是同构映射。

   在有限维的向量空间中，只需要验证它是单射：${\displaystyle \langle x,y\rangle =0\;\forall y\in V\,}$ 当且仅当${\displaystyle x=0\,}$ 。

拥有以上性质的共轭双线性形式被称为埃尔米特形式。内积是一个埃尔米特形式。

如果${\displaystyle F}$ 是实数域${\displaystyle \mathbb {R} }$ 那么共轭对称性质就等价于对称性：${\displaystyle \langle x,y\rangle =\langle y,x\rangle .}$ ，也就是说，共轭双线性变成了一般的双线性。

另外的定义和言论

多数数学家要求内积在第一个参数上是线性的而在第二个参数上是共轭线性的，下文中也接受这种约定。很多物理学家接受相反的约定。这种改变是非实质性的，但是相反的定义提供了与量子力学中的狄拉克符号更平滑的连接，现在也偶尔被数学家使用。某些作者接受约定${\displaystyle \langle \cdot ,\cdot \rangle }$ 的写法表示在第一个分量是线性的而${\displaystyle \langle \cdot |\cdot \rangle }$ 的写法表示在第二个分量上是线性的，尽管这种约定并不普遍。

选择${\displaystyle \mathbb {R} }$ 或${\displaystyle \mathbb {C} }$ 作为内积空间的标量域是有原因的。首先，这个域要包含一个有全序关系的子域，否则就无法谈论“非负性”，因此它的特征必须是零。(因为任何有序域都有这样的特征值)这样就排除了所有的有限域。这个标量域需要有其他的结构，例如众所周知的同构。更一般地，${\displaystyle \mathbb {R} }$ 或${\displaystyle \mathbb {C} }$ 的二次封闭子域会满足这样的假设，例如代数数；但当它是一个真子域时(既非${\displaystyle \mathbb {R} }$ 也非${\displaystyle \mathbb {C} }$ )就算有限维内积空间也不会度量完备。相反，${\displaystyle \mathbb {R} }$ 或${\displaystyle \mathbb {C} }$ 上的所有有限维内积空间，如在量子计算中所使用的，自动是度量上完备的，因此是希尔伯特空间。

在某些情况下，必须考虑非负半定半双线性形式。这意味着只要求${\displaystyle \langle x,x\rangle }$ 非负。

初等性质

注意到共轭对称表明对所有${\displaystyle x}$ ，${\displaystyle \langle x,x\rangle }$ 都是实数，因为我们有${\displaystyle \langle x,x\rangle ={\overline {\langle x,x\rangle }}.}$ 

此外，半双线性(参见下文)表明${\displaystyle \langle -x,x\rangle =-1\langle x,x\rangle ={\overline {-1}}\langle x,x\rangle =\langle x,-x\rangle .}$ 

共轭对称和第一个变量的线性给出

${\displaystyle \langle x,ay\rangle ={\overline {\langle ay,x\rangle }}={\overline {a}}{\overline {\langle y,x\rangle }}={\overline {a}}\langle x,y\rangle }$ 

${\displaystyle \langle x,y+z\rangle ={\overline {\langle y+z,x\rangle }}={\overline {\langle y,x\rangle }}+{\overline {\langle z,x\rangle }}=\langle x,y\rangle +\langle x,z\rangle ,}$ 

所以内积是一个半双线性形式。共轭对称也叫埃尔米特对称，而一个共轭半双线性形式叫做一个埃尔米特形式。尽管上面的公理在数学上更加便捷，内积的一个简洁文字定义是正定Hermitian形式。

在${\displaystyle F=\mathbb {R} }$ 的情形中，共轭对称退化为对称，而半双线性退化为双线性。因而，一个实向量空间上的内积是一个正定对称双线性形式。

由线性性质可以导出${\displaystyle x=0}$ 能推出${\displaystyle \langle x,x\rangle =0,}$ 然而从正定性公理我们得到其逆命题, ${\displaystyle \langle x,x\rangle =0}$ 能推出${\displaystyle x=0}$ 。结合这两个，我们有性质${\displaystyle \langle x,x\rangle =0}$ 当且仅当${\displaystyle x=0.}$ 

结合内积第一个变量的线性和共轭对称给出下面熟悉的平方展开的重要推广：

${\displaystyle \langle x+y,x+y\rangle =\langle x,x\rangle +\langle x,y\rangle +\langle y,x\rangle +\langle y,y\rangle .}$ 

假设基础域是${\displaystyle \mathbb {R} }$ ，内积对称，我们得到

${\displaystyle \langle x+y,x+y\rangle =\langle x,x\rangle +2\langle x,y\rangle +\langle y,y\rangle ,}$ 

或者相似地,

${\displaystyle \langle x-y,x-y\rangle =\langle x,x\rangle -2\langle x,y\rangle +\langle y,y\rangle .}$ 

一个内积空间${\displaystyle V}$ 的可加性：

${\displaystyle \langle x+y,z\rangle =\langle x,z\rangle +\langle y,z\rangle }$ 且${\displaystyle \langle x,y+z\rangle =\langle x,y\rangle +\langle x,z\rangle }$ 

例子

实数的乘法

内积的一个简单的例子是实数的乘法：${\displaystyle \langle x,y\rangle :=xy}$ 。如果将实数域看成一维的实向量空间，那么可以验证：实数乘法满足内积的各种性质。

欧几里德空间的点积

欧几里德空间${\displaystyle \mathbb {R} ^{n}}$ 和点积：

${\displaystyle \langle (x_{1},\ldots ,x_{n}),(y_{1},\ldots ,y_{n})\rangle :=\sum _{i=1}^{n}x_{i}y_{i}=x_{1}y_{1}+\cdots +x_{n}y_{n}}$ 

构成一个内积空间。复空间${\displaystyle \mathbb {C} ^{n}}$ 中，内积的一般形式是：

${\displaystyle \langle x,y\rangle :=x^{*}\mathbf {M} y}$ 

其中${\displaystyle \mathbf {M} }$ 是一个任意的正定埃尔米特矩阵，${\displaystyle x^{*}}$ 是${\displaystyle x}$ 的共轭转置。根据谱定理，矩阵必然可以酉对角化。也就是说，存在一组标准正交基，在这组正交基下来看，内积${\displaystyle \langle ,\rangle }$ 表现为加权（每个分量有不同的正权重）的点积。

${\displaystyle \langle (x_{1},\ldots ,x_{n}),(y_{1},\ldots ,y_{n})\rangle :=\sum _{i=1}^{n}c_{i}x_{i}^{*}y_{i}=c_{1}x_{1}^{*}y_{1}+\cdots +c_{n}x_{n}^{*}y_{n}}$ 

完备性

在希尔伯特空间的文章中有一些内积空间的例子，其中引出自内积的度量诱导一个完备的度量空间。然而也存在诱导不完备度量空间的内积，比如在区间${\displaystyle [a,b]}$ 上连续复数值函数的空间${\displaystyle {\mathcal {C}}[a,b]}$ 上。内积是

${\displaystyle \langle f,g\rangle :=\int _{a}^{b}f(t){\overline {g(t)}}\,dt}$ 

这个空间是不完备的；比如考虑对于区间${\displaystyle [0,1]}$ ，考虑函数序列${\displaystyle \{f_{k}\}_{k\in \mathbb {N} }}$ ，其中

${\displaystyle \forall k\geqslant 2,\;\;\;f_{k}(t)={\begin{cases}0,&\forall t\in [0,{\frac {1}{2}}]\\k(t-{\frac {1}{2}}),&\forall t\in ({\frac {1}{2}},{\frac {1}{2}}+{\frac {1}{k}}]\\1,&\forall t\in ({\frac {1}{2}}+{\frac {1}{k}},1]\end{cases}}}$ 

每个${\displaystyle f_{k}}$ 都是连续函数，但${\displaystyle \{f_{k}\}_{k\in \mathbb {N} }}$ 在上面的内积诱导的拓扑中是不收敛于任何一个连续函数的柯西序列，因为它的极限不是连续的函数。

基本性质

内积空间有多种良好的性质，是刻画、分析并解决数学中不少问题的工具。

从内积空间的内积可以很自然地定义一个范数：${\displaystyle \|x\|={\sqrt {\langle x,x\rangle }}.}$ 由内积的性质可以证明它满足作为范数的要求。这个范数就是${\displaystyle x}$ 在内积空间中的“长度”。这个范数和内积满足柯西不等式：对${\displaystyle V}$ 中元素${\displaystyle x}$ 、${\displaystyle y}$ ，

${\displaystyle |\langle x,y\rangle |\leq \|x\|\cdot \|y\|}$ 

由柯西不等式的证明，可以看出内积的几何解释：不等式中的等号只在两个向量${\displaystyle x}$ 、${\displaystyle y}$ 线性相关的时候才成立。以欧几里德空间为例来说，就是说等号仅当两个向量方向相同或相反的时候才成立。可以定义两个非零向量的夹角为

${\displaystyle \operatorname {angle} (x,y)=\arccos {\frac {\langle x,y\rangle }{\|x\|\cdot \|y\|}}.}$ 

夹角的取值在区间${\displaystyle (-\pi ,\pi ]}$ 上。这与常见的欧几里德空间的情况相似。从角度的定义出发，可以定义正交：两个不为零的向量正交当且仅当他们的内积为零（夹角为${\displaystyle \pi /2}$ ）。

可以看到范数${\displaystyle \|\cdot \|}$ 的定义使得${\displaystyle V}$ 成为一个赋范向量空间，因此也是一个度量空间。最重要的内积空间是对于这个度量完备的空间，叫做希尔伯特空间。每个内积空间${\displaystyle V}$ 都是某个希尔伯特空间的稠密子集。这个希尔伯特空间可在将${\displaystyle V}$ 完备化时唯一确定（同构意义下）。

从内积的性质可以推出范数的一些基本性质。这些性质可以看作是欧几里德空间中一些几何性质的推广：

• 平行四边形法则：${\displaystyle \|x+y\|^{2}+\|x-y\|^{2}=2\|x\|^{2}+2\|y\|^{2}.}$ 
• 勾股定理：${\displaystyle V}$ 中的元素${\displaystyle x}$ 和${\displaystyle y}$ 正交，${\displaystyle \langle x,y\rangle =0}$ ，当且仅当

  ${\displaystyle \|x\|^{2}+\|y\|^{2}=\|x+y\|^{2}.}$ 

  用数学归纳法还可以推出：若x₁, ..., x_n是两两正交的向量，那么：

  ${\displaystyle \sum _{i=1}^{n}\|x_{i}\|^{2}=\left\|\sum _{i=1}^{n}x_{i}\right\|^{2}.}$ 

只要注意到${\displaystyle \langle \cdot ,\cdot \rangle }$ 是${\displaystyle V\times V}$ 到${\displaystyle \mathbb {F} }$ 的连续函数，我们可以进一步将勾股定理推广为：

• 帕塞瓦尔恒等式：若${\displaystyle V}$ 是完备的内积空间。如果${\displaystyle \{x_{k}\}_{k\in \mathbb {N} }}$ 是${\displaystyle V}$ 中的正交列，那么：

${\displaystyle \sum _{i=1}^{\infty }\|x_{i}\|^{2}=\left\|\sum _{i=1}^{\infty }x_{i}\right\|^{2},}$ 

这里假定左侧的无穷级数是收敛的。这时候空间${\displaystyle V}$ 的完备性保证了等式的右侧向量级数也有意义，因为容易证明部分和序列${\displaystyle S_{k}=\sum _{i=1}^{k}x_{i}}$ 是收敛的柯西序列。

从内积可以定义范数，而反过来也一样，从范数可以定义内积。定义的公式被称为“极化公式”。复向量空间的情况下公式为：

${\displaystyle \forall x,y\in V,\quad \varphi (x,y)={\frac {1}{4}}{\Big (}N(x+y)^{2}-N(x-y)^{2}+iN(x+iy)^{2}-iN(x-iy)^{2}{\Big )}}$ 

实向量空间的情况下则是：

${\displaystyle \forall x,y\in V,\quad \varphi (x,y)={\frac {1}{4}}{\Big (}N(x+y)^{2}-N(x-y)^{2}{\Big )}}$ 

极化公式说明，定义了向量空间里的一个范数${\displaystyle N(\cdot )}$ 以后，可以用如上的公式定义一个内积${\displaystyle \varphi (\cdot ,\cdot )}$ 。

标准正交序列

内积允许我们定义向量空间中的角度，因此像平面几何和立体几何中在二维和三维欧几里德空间里建立直角坐标系一样，我们可以在内积空间里建立类似直角坐标的结构，以方便讨论一般向量空间里的类似数学问题。在内积空间中，数学家们使用“正交”来代替“垂直”的说法。两个向量正交，如果它们的内积等于0.在装备了点积作为内积的二维和三维空间里，正交和垂直是等价的。两个（三个）相互垂直，长度为1的向量构成了二维和三维欧几里德空间的坐标系。而在更一般的内积空间中，我们使用“正交基”来作为类似直角坐标的架构的称呼。一个有限维（${\displaystyle n}$ 维的）内积空间${\displaystyle V}$ 的一组正交基是一组向量：${\displaystyle {\mathfrak {B}}=\{e_{1},e_{2},\cdots ,e_{n}\}}$ ，使得任何两个向量都正交：

${\displaystyle \forall i\neq j,\;\;\;\langle e_{i},e_{j}\rangle =0.}$ 

如果这些向量的范数都是1（${\displaystyle \forall i,\;\;\;\|e_{i}\|=1.}$ ），就称${\displaystyle {\mathfrak {B}}}$ 是一组标准正交基。给定任意一组基，都可以通过格拉姆－施密特正交化方法得到一组标准正交基。

如果${\displaystyle V}$ 是无穷维空间，那么需要对正交基进行重新定义。首先，一组向量${\displaystyle {\mathfrak {B}}=\{e_{\alpha }\}_{\alpha \in {\mathcal {A}}}}$ 是${\displaystyle V}$ 的一组基，如果${\displaystyle {\mathfrak {B}}}$ 中所有有限线性组合所生成的子空间在${\displaystyle V}$ 中稠密（对于内积诱导的拓扑来说）。而如果${\displaystyle {\mathfrak {B}}}$ 任何两个向量都正交，任何向量范数都是1，那么就称之为${\displaystyle V}$ 的一组标准正交基。用类似格拉姆－施密特正交化的方法可以证明：

定理：可分的内积空间必然有标准正交基。

使用豪斯多夫最大原理（佐恩引理的一个等价版本）并且注意到完备的内积空间里对子空间的投影总是良好定义的事实，可以得到另一个结论：

定理：完备的内积空间必然有标准正交基。

然而，不是所有的内积空间都有标准正交基的。可以构造出不含有标准正交基的内积空间。

在内积空间上的算子

希尔伯特算子，协方差算子

退化内积

引用

• S. Axler, Linear Algebra Done Right, Springer, 2004
• G. Emch, Algebraic Methods in Statistical Mechanics and Quantum Field Theory, Wiley Interscience, 1972.
• N. Young, An Introduction to Hilbert Spaces, Cambridge University Press, 1988