1.1 向量、內積與距離

從位置到位移

溫度場以一個位置為輸入，粒子軌跡則以一個位置為輸出。在研究這些函數如何變化之前，我們先要能夠比較位置，並準確描述移動的方向。座標提供運算語言，內積則把運算與長度、夾角連接起來。這套語言在二維、三維以及更高維空間中採用同一套規則。

定義

歐幾里得空間與向量

$\mathbb R^n$ 是所有有序實數組 $x=(x_1,\ldots,x_n)$ 組成的空間。向量加法及數乘逐個分量進行：

$$x+y=(x_1+y_1,\ldots,x_n+y_n),\qquad cx=(cx_1,\ldots,cx_n).$$

標準基向量 $e_i$ 僅第 $i$ 個分量為 $1$，其餘為 $0$，因此 $x=\sum_{i=1}^n x_i e_i$。點表示一個位置，向量表示位移。由點 $P$ 指向點 $Q$ 的向量是終點減起點，即 $Q-P$。

線性組合 $a_1v_1+\cdots+a_kv_k$ 把若干位移加權相加。若組合的對象是點，要求係數之和為 $1$，便得到仿射組合；這一要求使結果不依賴原點的選擇。特別地，$(1-t)P+tQ$ 在 $0\le t\le1$ 時描述線段；參數遍歷所有實數時，則描述整條直線。

例題

位移與單位方向

取 $P=(-2,1,0)$、$Q=(1,5,0)$，則 $Q-P=(3,4,0)$，長度為 $5$。由 $P$ 指向 $Q$ 的單位向量為 $(3/5,4/5,0)$。線段上由 $P$ 出發走過四分之一的位置為

$$P+\tfrac14(Q-P)=(-5/4,2,0).$$

移動座標原點會同時改變兩點的座標，但兩點之差及這裏的線段參數保持不變。相反，把差寫成 $P-Q$ 會反轉方向；長度雖不變，所表達的移動已經不同。

用內積表達長度與夾角

定義

內積、範數與距離

對 $x,y\in\mathbb R^n$，定義

$$\langle x,y\rangle=\sum_{i=1}^n x_i y_i, \qquad \|x\|=\sqrt{\langle x,x\rangle}, \qquad d(P,Q)=\|Q-P\|.$$

內積的結果是標量。它關於兩個變量分別線性，並滿足對稱性。平方和 $\langle x,x\rangle$ 非負，且僅在 $x=0$ 時等於零。因此 $\|cx\|=|c|\|x\|$；負數倍會反轉方向，但長度仍為非負數。

若兩個向量的內積為零，便稱它們正交。對於非零向量 $x,y$，夾角 $\theta\in[0,\pi]$ 滿足

$$\cos\theta=\frac{\langle x,y\rangle}{\|x\|\|y\|}.$$

下面的不等式保證右側位於 $[-1,1]$。零向量與每個向量都正交，但沒有單位方向，也不能代入上述夾角公式。這裏“正交”是內積為零的代數關係，“夾角”則還要求兩個方向都存在。

定理

柯西–施瓦茨不等式

對 $x,y\in\mathbb R^n$，

$$|\langle x,y\rangle|\le\|x\|\|y\|.$$

等號成立當且僅當兩個向量線性相關；包含零向量的向量對也計入這一條件。

證明

減去平行分量的證明

若 $y=0$，兩邊均為零。若 $y\ne0$，令 $c=\langle x,y\rangle/\|y\|^2$。由範數平方非負，

$$0\le\|x-cy\|^2 =\|x\|^2-\frac{\langle x,y\rangle^2}{\|y\|^2}.$$

兩邊乘以正數 $\|y\|^2$，再開平方。等號恰好對應 $x-cy=0$，也就是 $y\ne0$ 情形下的線性相關條件。證明中的參數不是任意猜出的：它恰好令餘下的向量與 $y$ 正交。

例題

球面上線性表達式的極值

設 $x^2+y^2+z^2=4$。表達式 $3x-4y+12z$ 是 $(3,-4,12)$ 與 $(x,y,z)$ 的內積；兩向量長度分別為 $13$ 及 $2$，故

$$|3x-4y+12z|\le26.$$

等號要求兩向量平行。最大值 $26$ 在 $(6,-8,24)/13$ 取得，最小值 $-26$ 在其相反點取得。只寫出不等式給出的上界還沒有完成極值題；還須展示滿足原約束、並令等號成立的點。

控制距離的兩個估計

定理

三角不等式與反三角不等式

任意 $x,y\in\mathbb R^n$ 滿足

$$\|x+y\|\le\|x\|+\|y\|, \qquad \big|\|x\|-\|y\|\big|\le\|x-y\|.$$

第一個不等式取等號，當且僅當其中一個向量為零，或兩個非零向量方向相同。

證明

證明及等號條件

展開範數平方，並用柯西–施瓦茨不等式控制交叉項：

$$\|x+y\|^2 =\|x\|^2+2\langle x,y\rangle+\|y\|^2 \le(\|x\|+\|y\|)^2.$$

兩邊非負，所以可以開平方。對非零向量，等號要求 $\langle x,y\rangle=\|x\|\|y\|$，故必須同向，而不能僅僅線性相關。再對 $x=(x-y)+y$ 使用三角不等式，得到 $\|x\|-\|y\|\le\|x-y\|$。交換 $x,y$，合併兩個方向的估計，便得到反三角不等式。

反三角不等式說明：點移動的距離至多為 $\varepsilon$，它到原點的距離變化也至多為 $\varepsilon$。這個估計同時控制所有移動方向；以後證明多元極限時，我們也需要這種與方向無關的控制。

正交投影與最近點

給定非零方向 $v$，把 $x$ 分成平行於 $v$ 的部分 $cv$ 和垂直於 $v$ 的部分。要求 $\langle x-cv,v\rangle=0$，解得

$$p=\operatorname{proj}_v x=\frac{\langle x,v\rangle}{\|v\|^2}v, \qquad x=p+(x-p),\quad \langle x-p,v\rangle=0.$$

這個分解同時給出最近點。寫 $p=cv$，對於任意實數 $t$，由正交性及勾股定理，

$$\|x-tv\|^2=\|x-p\|^2+(c-t)^2\|v\|^2.$$

右側第一項固定，第二項非負，並僅在 $t=c$ 時為零。因此 $p$ 是這條直線上離 $x$ 最近的唯一一點。這一結論來自正交分解，不需要微分；它也解釋了為什麼只求某個平行分量還不夠，餘項必須真正垂直。

例題

用餘項檢驗投影

令 $x=(4,1,2)$、$v=(1,1,0)$，投影係數為 $5/2$，故

$$p=(5/2,5/2,0),\qquad x-p=(3/2,-3/2,2).$$

餘項與 $v$ 的內積為零。另外，$\|p\|^2=25/2$、$\|x-p\|^2=17/2$，兩者之和為 $21=\|x\|^2$。前一個檢查驗證垂直關係，後一個檢查驗證勾股分解，二者從不同角度核對計算。

常見錯誤

投影是一個向量

$\langle x,v\rangle/\|v\|^2$ 是標量係數，乘上 $v$ 才得到投影向量。負係數表示投影與 $v$ 反向。投影的範數不會超過原向量的範數，但某個座標分量可能增大；不能把長度大小誤解為逐個座標的大小。

從代數式讀出幾何關係

夾角公式與向量所張成平面中的普通夾角一致。把 $0,x,y$ 看成三角形的三個頂點，內積展開給出

$$\|x-y\|^2=\|x\|^2+\|y\|^2-2\langle x,y\rangle.$$

餘弦定理的最後一項則是 $-2\|x\|\|y\|\cos\theta$，比較兩式便得到夾角公式。柯西–施瓦茨不等式保證這一定義在任意維度都有意義。我們不必把整個高維空間畫出來，只需理解兩個向量所張成的平面。

若 $x,y$ 正交，交叉項消失，便得到勾股定理。反過來，若 $\|x+y\|^2=\|x\|^2+\|y\|^2$，展開後也必有 $\langle x,y\rangle=0$。所以長度等式本身就能檢驗正交。對兩個非零向量，內積為正、零、負，分別對應夾角小於、等於、大於 $\pi/2$；平行向量則可能同向，也可能反向。

計算時，範數平方通常比範數容易處理，因為前者是座標的多項式。例如，要判斷 $\|u+v\|=\|u-v\|$，可以先平方，再把兩個展開式相減，得到 $4\langle u,v\rangle=0$。由於長度都非負，平方不會引入額外可能性，故原等式恰好等價於 $u,v$ 正交。

用統一估計控制變化

三角不等式也適用於連續發生的位移。將 $R-P=(Q-P)+(R-Q)$ 代入，得到

$$d(P,R)\le d(P,Q)+d(Q,R).$$

若測得的位置與中間估計的距離至多為 $a$，而估計與真實位置的距離至多為 $b$，則測量與真實位置的距離至多為 $a+b$。這個結論不需要知道兩個誤差的方向；即使它們來自不同座標方向，也由同一個估計控制。

類似地，對固定向量 $a$ 定義線性測量 $\ell(x)=\langle a,x\rangle$，便有

$$|\ell(x)-\ell(y)|=|\langle a,x-y\rangle| \le\|a\|\|x-y\|.$$

例如 $a=(2,-1,2)$ 時，位置變動不超過 $0.01$，測量 $2x_1-x_2+2x_3$ 的變動便不超過 $0.03$。當位移平行於 $a$ 時可以取等號，因此若要同時控制全部位移，就不能把常數 $3$ 換成更小的數。這個估計既給出誤差上界，也指出最敏感的移動方向。

投影也有統一的長度控制。由 $\|x\|^2=\|p\|^2+\|x-p\|^2$ 可知 $\|p\|\le\|x\|$，等號恰好在餘項為零時成立，即 $x$ 原本就在目標直線上。投影兩次也不會改變結果：若 $p=cv$，則 $\operatorname{proj}_v p=cv=p$。它保留目標方向的分量，並去掉垂直分量；已去掉的分量不會在第二次投影時重新出現。

解題流程

先辨認對象的類型：兩個位置之差是向量，範數是長度，內積產生標量，投影產生向量。再根據問題選擇運算：距離題先作差，夾角題計算內積及兩邊長度，線性表達式的界優先尋找內積結構，最近點問題則尋找正交餘項。

最後進行幾何檢驗。單位向量既要長度為 $1$，也要方向正確；投影的餘項必須垂直於目標方向；由不等式求出的極值點既要滿足約束，也要滿足取等號條件。這些檢查分別控制大小、方向及可達性，不能互相替代。一次完整解答要把運算結果與題目要求的幾何對象連接起來。

座標、縮放與幾何意義

標準基把位移拆成各座標方向的貢獻。係數可以為正、負或零；負係數表示逆着某個基向量移動，並不表示長度為負。這也解釋了為什麼向量保留帶符號的座標，而範數要取平方和的平方根。比較兩個對象之前，還要確認它們屬於同一個空間；二維位置與三維位置不能直接相減。

內積為零也不要求兩個向量在不同位置才有非零分量。例如 $(1,2)$ 與 $(2,-1)$ 的所有座標都非零，但內積中的兩項互相抵消。正交性表達的是方向關係，而不是座標是否重疊。與其逐個猜測座標的作用，不如計算完整的內積。

投影只依賴目標直線，不依賴用哪一個非零向量描述方向。若把 $v$ 換成 $kv$，其中 $k\ne0$，投影公式中的縮放係數會抵消。因此反轉方向向量不會改變最近點。沿單位方向的標量分量、投影向量及其長度是三個不同對象：前者可以為負，向量保留方向，而長度取標量分量的絕對值。

不等式給出對一整組向量都成立的界，等號條件則指出哪些向量真正達到這個界。如果題目另有限制，而取等號的方向不滿足該限制，原來的界仍然正確，卻未必能夠取得。此時應繼續研究額外約束，不能把未達到的上界直接稱為最大值。

練習與解答

思考檢查

1. 展開證明平行四邊形恆等式。

證明 $\|x+y\|^2+\|x-y\|^2=2\|x\|^2+2\|y\|^2$。

解答 · 1. 交叉項抵消

兩個展開式分別包含 $+2\langle x,y\rangle$ 及 $-2\langle x,y\rangle$。相加只剩 $2\langle x,x\rangle+2\langle y,y\rangle$，即所求等式。

思考檢查

2. 比較兩種不等式的取等號條件。

令 $u=(2,-1,2)$、$v=(-4,2,-4)$。柯西–施瓦茨不等式是否取等號？$\|u+v\|\le\|u\|+\|v\|$ 是否取等號？

解答 · 2. 反向向量給出不同結論

由於 $v=-2u$，柯西–施瓦茨取等號：$|\langle u,v\rangle|=18=3\cdot6$。但 $u+v=-u$，所以三角不等式是嚴格的 $3\lt9$。反向向量滿足線性相關，卻不滿足同向條件。

思考檢查

3. 求投影及最短距離。

求 $x=(2,5)$ 在 $v=(1,2)$ 上的投影，以及 $x$ 到經過原點、方向為 $v$ 的直線的最短距離。

解答 · 3. 計算垂直餘項

$\langle x,v\rangle=12$、$\|v\|^2=5$，故投影為 $p=(12/5,24/5)$。餘項為 $(-2/5,1/5)$，與 $v$ 正交，長度為 $\sqrt5/5$。最近點恆等式說明這個長度確實是最短距離。