内积、范数与夹角

到目前为止，课程大部分都在处理线性结构：张成、线性无关、基底、特征 向量与对角化。内积把几何带回来，让我们可以在同一个向量空间里讨论长 度、垂直与夹角。

这个运算的输入是两个向量，输出却是一个标量。把对应坐标相乘再相加， 所得的实数可以记录两个向量同向、反向或互相垂直的程度。

从一个标量读出长度与夹角

当你写下

$$\langle v,w\rangle=v^Tw,$$

你是在引入之后会控制正交性、投影、标准正交基与基本不等式的运算。这里 要求向量有相同维数而且坐标为实数：若 $v$ 有 $m$ 个坐标而 $w$ 的维数不同， $v^Tw$ 就没有定义。

定义

标准内积

设 $u$ 和 $v$ 是 $\mathbb{R}^m$ 中维数相同的列向量，其中 $m\ge1$。它们的 内积是实数

$$\langle u,v\rangle =\sum_{i=1}^m u_iv_i =u^Tv.$$

它也称为点积。我们把 $1\times1$ 矩阵和其中唯一的实数视为相同，所以 矩阵乘积 $u^Tv$ 可以直接读成一个数。

例题

计算内积并比较外积

设

$$v=\begin{bmatrix}1\\2\end{bmatrix}, \qquad w=\begin{bmatrix}3\\4\end{bmatrix}.$$

两个向量的维数相同，因此

$$\langle v,w\rangle=v^Tw=1\cdot3+2\cdot4=11.$$

交换次序所得的标量相同：

$$\langle w,v\rangle=3\cdot1+4\cdot2=11.$$

但是外积 $vw^T$ 是一个 $2\times2$ 矩阵：

$$vw^T= \begin{bmatrix}1\\2\end{bmatrix} \begin{bmatrix}3&4\end{bmatrix} = \begin{bmatrix}3&4\\6&8\end{bmatrix}.$$

因此 $v^Tw$ 是视为 11 的 $1\times1$ 标量，而 $vw^T$ 的形状是 $2\times2$。 混淆这两个乘积会同时改变对象和意义。再作三维检查，若

$$u=\begin{bmatrix}1\\2\\3\end{bmatrix}, \qquad z=\begin{bmatrix}4\\5\\6\end{bmatrix},$$

则

$$\langle u,z\rangle=1\cdot4+2\cdot5+3\cdot6=32.$$

维数检查是定义的一部分，不是排版习惯。若 $u$ 是 $\mathbb{R}^m$ 中的列， $u^T$ 有一行 $m$ 列；它只能与含有 $m$ 个坐标的 $v$ 相乘，结果是一个 $1\times1$ 矩阵。在外积 $vw^T$ 中，两个因子的形状是 $m\times1$ 和 $1\times m$，所以中间收缩的维数是 $1$ 和 $1$，结果留下 $m\times m$ 矩阵。 内积把两个向量压缩成一个标量，外积则把每一对坐标的相互作用保存在矩 阵中。以后标量会作为投影的系数，而矩阵会作为线性变换，不能混淆二者。

概念视角结构

一个标量同时承载两种信息

固定 $v$ 而改变 $w$ 时，映射 $w\mapsto\langle v,w\rangle$ 是线性的，所以它 记录 $w$ 相对于 $v$ 的有向响应。若令 $w=v$，则 $\langle v,v\rangle=\|v\|^2$ 是二次的大小测量。内积为零并不迫使某个向 量为零，例如 $\langle(1,0),(0,1)\rangle=0$ 是因为两个向量垂直。同一 个公式因此同时支持代数检验与几何测量。

内积的基本性质

定理

双线性、对称性与正定性

对 $u,v,w\in\mathbb{R}^m$ 和 $\alpha,\beta\in\mathbb{R}$，标准内积满足：

1. 对称性：

$$\langle u,v\rangle=\langle v,u\rangle;$$

2. 第一变量线性：

$$\langle \alpha u+\beta v,w\rangle =\alpha\langle u,w\rangle+\beta\langle v,w\rangle;$$

3. 第二变量线性：

$$\langle w,\alpha u+\beta v\rangle =\alpha\langle w,u\rangle+\beta\langle w,v\rangle;$$

4. 零向量关系：

$$\langle 0,v\rangle=\langle v,0\rangle=0;$$

5. 正定性：

$$\langle v,v\rangle\ge0,$$

且等号成立当且仅当 $v=0$。

证明

内积性质的证明

对称性来自转置 $1\times1$ 矩阵：

$$\langle u,v\rangle=u^Tv=(u^Tv)^T=v^T(u^T)^T=v^Tu=\langle v,u\rangle.$$

利用矩阵乘法的分配律和转置规则，

$$\begin{aligned} \langle\alpha u+\beta v,w\rangle &=(\alpha u+\beta v)^Tw\\ &=(\alpha u^T+\beta v^T)w\\ &=\alpha u^Tw+\beta v^Tw\\ &=\alpha\langle u,w\rangle+\beta\langle v,w\rangle. \end{aligned}$$

第二个变量的线性性由对称性得到：

$$\langle w,\alpha u+\beta v\rangle =\langle\alpha u+\beta v,w\rangle =\alpha\langle w,u\rangle+\beta\langle w,v\rangle.$$

零向量关系直接来自坐标和。最后，

$$\langle v,v\rangle=\sum_{i=1}^m v_i^2\ge0.$$

实数平方的和等于零，当且仅当每个 $v_i=0$，这正好等价于 $v=0$；这里 使用了实坐标的假设。

两个线性性质确实是两个方向的陈述：第一条展开左边变量的线性组合，第 二条展开右边变量的线性组合。对标准实内积，可以用对称性由第一条推出 第二条，但仍应分别写出，因为后面的计算会在两个变量中任意一个展开。 $\alpha$ 和 $\beta$ 是任意实数，所以减法、零系数和不同的缩放都包括在内。

定理

用所有向量作检验

若 $v\in\mathbb{R}^m$ 满足

$$\langle v,x\rangle=0\quad\text{对每个 }x\in\mathbb{R}^m,$$

则 $v=0$。更一般地，若

$$\langle v,x\rangle=\langle w,x\rangle \quad\text{对每个 }x\in\mathbb{R}^m,$$

则 $v=w$。

证明第一个结论时，“对每个 $x$”允许我们选取 $x=v$，于是 $\langle v,v\rangle=0$，再由正定性得 $v=0$。第二个结论中相减并使用双线 性，得到

$$\langle v-w,x\rangle=0\quad\text{对每个 }x.$$

把第一个结论应用于 $v-w$，便有 $v=w$。证明中可以选一个特别有用的检验向 量，但在选它以前，假设必须真的对所有向量成立。坐标上，用标准基向量 $e_j$ 检验就会逐个读出坐标。

这个检验原则比只检查一个预先选定的向量更强。比如只知道 $\langle v,(1,0)\rangle=0$，只能说明一个坐标为零，并不能说明 $v=0$。 “对所有向量”成立，才允许我们选 $x=v$ 使用正定性，或选 $x=e_j$ 逐一读 出坐标。它把标量响应的恒等式转化为产生这些响应的向量相等，是很常用的 推理方式。

范数与单位向量

定义

范数

对 $v\in\mathbb{R}^m$，$v$ 的范数（或长度）定义为

$$\|v\|=\sqrt{\langle v,v\rangle} =\sqrt{\sum_{i=1}^m v_i^2}.$$

正定性保证根号内的量非负。

定理

范数的基本性质

对每个 $v\in\mathbb{R}^m$ 及标量 $\alpha\in\mathbb{R}$：

$$\|v\|\ge0,$$

且 $\|v\|=0$ 当且仅当 $v=0$；

$$\|\alpha v\|=|\alpha|\,\|v\|.$$

第一条来自非负平方根和内积的正定性。对于第二条，先平方：

$$\|\alpha v\|^2 =\langle\alpha v,\alpha v\rangle =\alpha^2\langle v,v\rangle =\alpha^2\|v\|^2.$$

左右两边 $\|\alpha v\|$ 与 $|\alpha|\|v\|$ 都是非负数，所以取非负平方 根便得到公式。绝对值不能省略：负标量会反转方向，却不会令长度成为负 数；$\alpha=0$ 和 $\alpha<0$ 都已包括在内。

注意证明的次序：先得到长度平方的等式，此时 $\alpha$ 的符号消失；再利用 两边都是非负数取平方根。若直接取带符号的平方根，就会错误地把长度当成 可以为负的量。缩放的绝对值改变长度，缩放的符号则决定方向是否反转。

定义

单位向量

若

$$\|v\|=1,$$

则称 $v$ 为单位向量。若 $v\ne0$，则

$$\widehat v=\frac{v}{\|v\|}$$

是把 $v$ 规范化成单位向量。非零条件是必要的，因为分母必须有定义。

例题

计算范数、规范化并检查边界

设

$$v=\begin{bmatrix}1\\2\\3\end{bmatrix}.$$

则

$$\|v\|=\sqrt{1^2+2^2+3^2}=\sqrt{14}, \qquad \widehat v=\frac1{\sqrt{14}}\begin{bmatrix}1\\2\\3\end{bmatrix}.$$

逐坐标检查单位长度：

$$\left(\frac1{\sqrt{14}}\right)^2+ \left(\frac2{\sqrt{14}}\right)^2+ \left(\frac3{\sqrt{14}}\right)^2 =\frac{1+4+9}{14}=1.$$

若乘以 -2，则

$$\|-2v\|=2\sqrt{14}, \qquad \frac{-2v}{\|-2v\|}=-\frac{v}{\|v\|}.$$

长度变成原来的两倍，而单位方向相反。边界情形 $\alpha=0$ 会把向量变成 零向量；此时范数为零，不能规范化。

内积与范数互相决定

内积通过 $\|v\|^2=\langle v,v\rangle$ 决定范数。对实向量，展开平方范 数也能反过来恢复内积。

定理

转换公式

对 $u,v\in\mathbb{R}^m$：

$$\|u\pm v\|^2 =\|u\|^2+\|v\|^2\pm2\langle u,v\rangle;$$

2. 极化恒等式：

$$\langle u,v\rangle =\frac12\bigl(\|u+v\|^2-\|u\|^2-\|v\|^2\bigr);$$

3. 平行四边形恒等式：

$$\|u+v\|^2+\|u-v\|^2 =2\|u\|^2+2\|v\|^2.$$

证明

先展开，再整理

由双线性和对称性，

$$\begin{aligned} \|u+v\|^2 &=\langle u+v,u+v\rangle\\ &=\langle u,u\rangle+\langle u,v\rangle +\langle v,u\rangle+\langle v,v\rangle\\ &=\|u\|^2+2\langle u,v\rangle+\|v\|^2. \end{aligned}$$

把 $v$ 换成 $-v$ 得到减号公式；整理加号公式得到极化恒等式；把两个 公式相加则交叉项抵消，得到平行四边形恒等式。等价地，

$$\langle u,v\rangle =\frac14\bigl(\|u+v\|^2-\|u-v\|^2\bigr).$$

两个极化公式适合不同的检查：第一个比较 $u+v$ 的长度与两条边的长度， 四分之一公式则比较平行四边形的两条对角线。它们都只用了双线性，因此在 任意维数 $m$ 的标准实内积中成立。平行四边形恒等式说明，两条对角线平方 的和只由两条边的长度决定，不会因为夹角改变而改变。

非零向量之间的夹角

对 $\mathbb{R}^2$ 或 $\mathbb{R}^3$ 中的非零向量 $x,y$，定义夹角 $0\le\theta\le\pi$。由 $x$、$y$ 和 $y-x$ 组成的三角形的余弦定理，

$$\|y-x\|^2=\|x\|^2+\|y\|^2-2\|x\|\,\|y\|\cos\theta.$$

而转换公式给出同一个左边：

$$\|y-x\|^2=\|y\|^2+\|x\|^2-2\langle x,y\rangle.$$

两式的前三项完全相同，剩下的就是余弦定理中的交叉项和内积。因此

$$2\|x\|\,\|y\|\cos\theta=2\langle x,y\rangle.$$

向量平行或反向时三角形退化，但同一个余弦关系仍给出角 $0$ 或 $\pi$。这里 的非零条件保证夹角存在，也保证下一条公式的分母不为零。比较两式便得到：

定理

内积与几何夹角

对 $\mathbb{R}^2$ 或 $\mathbb{R}^3$ 中的非零 $x,y$，

$$\langle x,y\rangle=\|x\|\,\|y\|\cos\theta,$$

以及

$$\theta=\arccos\!\left( \frac{\langle x,y\rangle}{\|x\|\,\|y\|} \right).$$

分母为正，因为两个向量都非零。若 $y=\alpha x$，则 $\alpha>0$ 时夹角为 $0$，$\alpha<0$ 时夹角为 $\pi$，两种情形都包含在公式内。若有一个向量为零， 分母为零，和零向量所成的夹角没有定义。9.4 的 Cauchy–Schwarz 不等式会 保证反余弦输入在 $[-1,1]$ 内；这里没有循环地用它证明夹角公式。在任意 $\mathbb{R}^m$ 中，正交的代数定义仍只是 $\langle x,y\rangle=0$。

在二维和三维中，内积的符号也有几何意义。当 $0<\theta<\pi/2$ 时，内积为 正且夹角是锐角；在 $\theta=0$ 时，内积同样为正，而两个非零向量平行。 当 $\theta=\pi/2$ 时内积恰为零；当 $\pi/2<\theta<\pi$ 时内积为负且夹角 是钝角；在 $\theta=\pi$ 时，负值表示平角。这些说明只适用于非零且已定义 夹角的向量。在更高维的 $\mathbb{R}^m$ 中，方程 $\langle x,y\rangle=0$ 仍然是正交的代数定义，即使我们没有画出三维图形。

下面的图解从本节的标准内积和范数开始，再把夹角公式作为进入 9.2 正 交语言的桥梁。

例题

计算夹角并核对长度恒等式

令

$$u=\begin{bmatrix}1\\2\end{bmatrix}, \qquad v=\begin{bmatrix}3\\1\end{bmatrix}.$$

首先，

$$\langle u,v\rangle=1\cdot3+2\cdot1=5, \qquad \|u\|=\sqrt5, \qquad \|v\|=\sqrt{10}.$$

所以

$$\cos\theta=\frac5{\sqrt5\sqrt{10}}=\frac1{\sqrt2}, \qquad \theta=\frac\pi4.$$

再看

$$u+v=\begin{bmatrix}4\\3\end{bmatrix}, \qquad \|u+v\|^2=25.$$

由极化恒等式反推出

$$\langle u,v\rangle=\frac12(25-5-10)=5.$$

平行四边形的另一条对角线为

$$u-v=\begin{bmatrix}-2\\1\end{bmatrix}, \qquad \|u-v\|^2=5.$$

完整核对是

$$25+5=2(5)+2(10)=30.$$

两条对角线都符合平行四边形恒等式，夹角、内积和范数的计算彼此一致。

读懂坐标与正交性

坐标定义使后面的论证很具体。若 $u=(u_1,\ldots,u_m)^T$ 和 $v=(v_1,\ldots,v_m)^T$，内积就是各坐标贡献的 总和。某个坐标的正贡献可以被另一个坐标的负贡献抵消，因此总和的符号是 一对向量的性质，不是某一个坐标的性质。内积为零可以表示两个非零向量 垂直，并不表示其中一个向量不存在。

例如，取

$$a=\begin{bmatrix}1\\2\\3\end{bmatrix}, \qquad b=\begin{bmatrix}-1\\-1\\1\end{bmatrix}$$

则

$$\langle a,b\rangle=1(-1)+2(-1)+3(1)=0.$$

所以它们在 $\mathbb{R}^3$ 中正交。同样的计算也适用于任意 $\mathbb{R}^m$；9.2 使用的正交性正是这个代数定义，画出的直角只是低维 情形中的几何解释。

标准基向量也令“用所有向量检验”的定理很清楚。因为 $e_j$ 只有第 $j$ 个 坐标是 $1$，所以

$$\langle v,e_j\rangle=v_j.$$

因此，只要分别用每个 $e_j$ 检验，就能读出 $v$ 的所有坐标。这是前面更一般 结论的坐标版本：若两个向量和每个检验向量的内积都相同，它们本身就相同。 下一节会用这些事实定义正交集，从正交展开直接取得系数，并在规范化后构造 标准正交基。

因此，内积不是逐坐标比较是否相等。两个向量的坐标可以不同而内积为零， 也可以有正内积却不是彼此的标量倍数。这个标量量度的是所有坐标的总体相 互作用。之后的投影公式会出现 $\langle v,w\rangle/\|v\|^2$；当 $v$ 非零时，它是 $w$ 沿 $v$ 方向分量的系数， 本节的定义与性质正好保证这个系数有清楚的意义。

常见错误与快速检查

常见错误

标量积不是外积

$v^Tw$ 的结果是一个实数，而 $vw^T$ 是矩阵。解释乘积的几何意义以前，先 检查维数和形状。

常见错误

不要给零向量指定直角

$\langle x,y\rangle=0$ 在任意 $\mathbb{R}^m$ 中定义代数正交，但夹角公式 要求两个向量都非零。零向量没有方向，所以没有定义的夹角。

思考检查

计算内积 $\langle (1,2),(3,4)\rangle$，并说明外积的形状。

逐项相乘后相加，再比较 $v^Tw$ 与 $vw^T$。

解答 · 答案

内积是 11，是一个标量。外积形状为 2 乘 2；本例的两行是 $(3,4)$ 和 $(6,8)$。

思考检查

若 $\|v\|=0$，v 必须是什么？为什么它与另一个向量的夹角没有定义？

使用正定性和夹角公式的分母。

解答 · 答案

$v=0$，因为实数平方和只有在每个坐标都为零时才为零。夹角没有定义， 因为公式要除以零范数。

思考检查

若 $v\ne0$，为什么 $v/\|v\|$ 是单位向量？

使用范数的标量倍数公式和非零条件。

解答 · 答案

因为 $v$ 的范数为正，

$$\left\|\frac{v}{\|v\|}\right\| =\frac1{\|v\|}\|v\|=1.$$

思考检查

计算 $\begin{bmatrix}3\\4\end{bmatrix}$ 的范数。

使用范数的定义。

解答 · 引导解答

$$\left\|\begin{bmatrix}3\\4\end{bmatrix}\right\| =\sqrt{3^2+4^2}=5.$$

思考检查

把 $\begin{bmatrix}2\\-2\\1\end{bmatrix}$ 规范化为单位向量，并说明分母为什么有效。

先求范数，再除以这个正数。

解答 · 引导解答

该向量非零，而且

$$\left\|\begin{bmatrix}2\\-2\\1\end{bmatrix}\right\| =\sqrt{2^2+(-2)^2+1^2}=3.$$

因此规范化结果是

$$\frac13\begin{bmatrix}2\\-2\\1\end{bmatrix}.$$

思考检查

非零向量 $x$ 与 $y$ 满足 $\langle x,y\rangle=0$。在 $\mathbb{R}^2$ 或 $\mathbb{R}^3$ 中，它们的夹角是多少？

使用分母为正的夹角公式。

解答 · 引导解答

两个范数都为正，因此

$$0=\|x\|\,\|y\|\cos\theta$$

迫使 $\cos\theta=0$。在 $0\le\theta\le\pi$ 的范围内，夹角为 $\theta=\pi/2$。

相关笔记

接着阅读 9.2 正交集与标准正交基， 学习如何用内积构造方便的基底与坐标公式。

之后的 9.4 Cauchy-Schwarz 与三角不等式 直接依赖这里介绍的定义与范数公式。

本章也延续 6.5 基底与维数 所展开的几何主线。