動機
一條曲線可以有多個未知分量。平面路徑中,一個座標的變化可能改變另一個座標的運動代價;兩個相互作用場的能量,也可能依賴它們的差值,即使各自的絕對高度沒有特別偏好。若把每個分量當作獨立的純量優化問題,就會丟失這種相互作用。正確的推廣是讓曲線取向量值,而泛函仍只輸出一個實數。
約束還帶來另一種維數。兩個分量的曲線可以有一個、兩個或更多積分約束;一個純量函數也可以滿足幾個獨立的矩條件。乘子個數由獨立純量約束的個數決定,並非由曲線座標數決定。理解這一點,比記住更長的歐拉–拉格朗日(Euler–Lagrange)公式更有幫助。
本節發展經典固定端點理論,完整證明正常乘子條件。需要的預備知識是純量一階變分、分部積分和有限維隱函數定理。逐點狀態約束及不等式約束不能直接套用本節定理。
定義
定義 4.1.1
(向量曲線的純量泛函)
固定 、整數 和端點向量 。令
設實值被積函數 在所需三元組的開鄰域內屬於 ,其中 ,梯度 均為列向量。可容許方向空間記為 ,即兩個端點向量均為零。弱局部極值使用範數 。
只比較三元組落在被積函數定義域中的曲線。開域條件與區間的緊緻性,保證對給定曲線作充分小的 擾動後,仍在該定義域內。
輸出 是實數,所以一階變分也是純量:
點積包含所有分量,卻不表示 可以拆成互不相關的分量代價。對固定方向,導數在擾動三元組的緊緻鄰域上連續且有界,從而積分號下求導合法,與純量情況的論證相同。
定義 4.1.2
(積分約束及正常滿秩條件)
取 個實值 被積函數 ,要求
可行曲線 處的線性化約束映射 為
正常滿秩條件是此映射為滿射。等價地,存在 個零端點方向 ,使矩陣 可逆。
等價性來自線性代數:滿射時可選出映到 座標基的方向;反之,可逆像矩陣使這些方向的線性組合能夠實現任意約束導數。條件檢驗的是在特定候選處的一階獨立性,僅僅把約束寫成不同公式並不足夠。乘子數 與狀態分量數 不應混為一談。
定理/命題
定理 4.1.3
(向量歐拉–拉格朗日必要條件)
設 是無積分約束的弱局部極值,則在內部有向量恆等式
也就是每個 都有 。這些只是必要的駐性方程。
全導數中,速度海塞矩陣(Hessian) 乘上 。該矩陣大小為 ,只有可逆時才能直接解出全部加速度。本定理假設候選曲線屬於 ;不能僅由比較類是 就自動得到這一正則性。
定理 4.1.4
(有限個積分約束的正常乘子)
若 是滿足全部積分約束的弱局部極值,且滿足正常滿秩條件,則存在唯一常數向量 ,使每個 都有
若還有 ,記 ,則
求解時仍須施加原有積分等式,它們沒有被微分方程取代。
這些乘子是常數,因為這裏只有有限個純量積分等式。逐點約束在每個位置都限制變分,不屬於本定理;不等式約束可能只允許單側方向,也不能直接要求每個一階變分為零。
證明思路
證明
(從向量變分得到耦合系統)
無約束極值處 。逐分量分部積分,利用端點向量為零,得到
取 ,其中 是第 個座標向量, 是任意零端點純量 函數。純量基本引理令第 個係數為零,再逐座標重複即可。測試方向可以獨立選擇,但方程係數內部的耦合不會因此消失。
證明
(構造真正可行的修正族來證明乘子定理)
選擇使 可逆的方向 。對任意 ,設
小參數下 連續可微,且在零處關於 的導數為可逆矩陣 。有限維隱函數定理給出可微 ,滿足 和 。因此修正族精確保持全部非線性約束,不只是保持其一階近似。
求導得到 。記 ,沿修正族的駐性給出
以 定義乘子向量。選定修正方向後,它不再依賴 ,所以同一組乘子對全部方向有效。若兩組乘子都有效,其差與 的每個像都正交;由於像空間為整個 ,兩者必須相等。最後對增廣被積函數使用向量一階變分推導,就得到所述系統。
證明透視
一階切向條件為甚麼不是完整證明
只說明約束在一階不變。直線擾動仍可能在二階違反非線性約束。滿秩條件讓隱函數定理修正出精確可行的曲線族,隨後才能使用約束駐性。這裏修正參數只有有限個,並不需要無限維隱函數定理。
例如逐點約束 要求每一點都有 ,此時 一般不可容許。必須在每個位置考慮切空間,另一套理論中可以出現依賴位置的乘子。相反,積分條件 只有一個純量等式,導數非零時只給出一個常數乘子。相似記號對應的可行集合可能完全不同。
例題詳解
例題 4.1.5
(耦合速度與精確極小比較)
在 最小化 ,端點向量為 和 。動量為 、,所以方程為 、。對應矩陣
正定且可逆,因為 。故加速度均為零,端點給出 。
對任意零端點向量擾動 , 為常向量,故線性項 。目標差值為
等號強迫 ,再由端點得到 。候選因此是唯一全局極小,能量為 。交叉項確實改變了兩個動量,不能因最終解是直線就把它忽略。
例題 4.1.6
(高度耦合可由和與差分離)
取 ,端點為 和 。方程為 、。令 、,相加相減得到 、。端點條件為 、,所以
變量替換分離了相互作用,並沒有假設原來各分量獨立地最小化。利用耦合方程分部積分後,精確目標差值為 。它對任何非零零端點擾動為正,所以該曲線是唯一全局極小。
例題 4.1.7
(耦合能量的兩個積分約束)
最小化 ,兩端向量為零,要求 、。令 ,方向 與 給出
速度矩陣為 ,增廣方程是 。求解並代入積分等式得
檢查符號可令 ,則 ,而 。兩個乘子都是常數,其值由原積分條件確定。
可行擾動滿足 ,所以線性項 。目標差值為 ,又因 正定,得到唯一全局約束極小,最小值為 。
常見錯誤
反例模式
存在約束極小卻沒有正常乘子
零端點下要求 。連續性和非負性強迫唯一可行曲線為 ,它當然使 在可行集合上最小。但零處每個方向都有 ,而 並不恆為零,所以不存在常數 使 消失。滿秩條件正好在此失效。
常見錯誤
(把奇異修正矩陣當作可逆)
秩不足也不總是意味著乘子不存在。冗餘約束 與 的導數相關;若有乘子,它們可能不唯一,因為只有組合 進入增廣被積函數。應刪除冗餘或明確研究退化,不能把奇異修正矩陣當作可逆矩陣使用。
一個連目標泛函也帶乘子的乘子法則,而那個乘子可以是零。
自然延伸的下一個問題
滿秩條件不成立時還剩下甚麼?
一個連目標泛函也帶乘子的乘子法則,而那個乘子可以是零。
在約束極值處,總存在常數 ,使 在 上成立。否則 會映滿 ,而上面的隱函數修正若把 也列入被修正的量,便會給出 值分別大於和小於 的可行曲線。在上述反例中,、 即可。正常滿秩條件正好迫使 。
常見錯誤
(正的速度海塞矩陣不是極小判據)
正的速度海塞矩陣本身也不足以證明極小。對零端點泛函 ,零曲線駐定且 ,但方向 降低能量,方向 卻提高能量。高度項同樣重要。例題中證明極小的關鍵是另外得到精確非負差值。
總結
向量變分對每個狀態分量產生一條方程,梯度中的耦合仍完整保留。有限個獨立積分約束在滿射導數條件下產生常數乘子。有限維隱函數定理構造精確可行的擾動族,給出正常乘子恆等式。求解增廣方程後仍需滿足端點及積分值,駐性之後仍需另外比較才能證明極小。
練習
快速檢查
(在零端點向量及約束 下,最小化 。驗證正常性,求 的乘子,並證明極小。)
約束被積函數的梯度是 。
解答
方向 的約束導數為 ,滿足正常條件。增廣方程為 ,零端點給出 。約束為 ,所以 ,,能量為 。可行擾動的交叉項為 ,留下 ,因而得到唯一全局極小,而非僅駐性。
快速檢查
(對 上的純量零端點曲線,取 、。用方向 和 證明兩約束導數獨立。為甚麼只有一個狀態分量仍可有兩個約束?)
所有積分均在 。計算修正矩陣的四個條目。
解答
修正矩陣及其行列式為
因此約束導數滿射到 。純量曲線的變分空間為無限維,不會因為每個函數值是純量就成為一維空間。兩個獨立矩並無維數矛盾;用這兩個方向的線性組合,還能構造具有任意指定矩值的零端點曲線。
快速檢查
(對 ,端點向量為 及 。推導系統,利用 的守恆動量求候選,並證明它是唯一全局極小。)
被積函數不依賴 ,但依賴 ;不要混淆兩個偏導數。
解答
動量為 、。因 ,有 ;但 ,所以 。端點條件給出
能量為 。由駐性和零端點,目標差值的線性項消失,精確差值為 。等號使 ,繼而 ;再有 及 ,因此候選為唯一全局極小。當動量含有另一個座標時,動量守恆不等於速度恆定。