斜率能否重建函數?
共軛函數記錄每個斜率所能給出的最佳仿射下界截距。再取一次共軛,就是問這些下界能否提供足夠資訊,還原原函數。對真函數 ,定義
所謂真函數,是指它在某點取有限值,且從不取 。其上圖集為 。若上圖集在 中閉合,便稱 為閉函數;對廣義實值函數,這等價於下半連續。容許 很重要:指示函數 在 上為零、在其他點為 ,它的上圖集因此同時記錄了集合與目標值。
每個使 有限的 都給出仿射下界 。反過來,若對所有 有 ,則 。因此 是 的所有有限仿射下界的逐點上確界(空族的上確界定為 )。Fenchel 不等式立即給出 ;反向不等式則需要幾何條件。
定理 5.5.1
(有限維 Fenchel–Moreau 定理)
若 是真、凸且下半連續的,則處處有 ,包括 的點。反之,任何滿足 的真函數都是凸且下半連續的。
證明
(把上圖集下方的點分離出來)
上圖集 非空、閉且凸。先證明每個 外的點 都有一個末座標係數為負的嚴格仿射分離式。由非空閉凸集上的投影定理,距 最近的點 存在,並對所有 滿足 。令 ,,得到 。由於 包含每個點上方的整條垂直射線,必有 。
若 ,取滿足 的 ,對 重複投影論證。它所得的分離向量 必有 :只要把嚴格分離式與上圖集中的 比較即可。把第二個分離式及其界的充分小正倍數加到第一個,便得到仍在 嚴格成立、對整個 有效,而且 的分離式。
將結果寫成對 的 ,再除以 ,得到仿射下界
固定 。對每個實數 ,此構造都給出在 處大於 的仿射下界;若 ,便可取任意實數 。因此按廣義實數的意義,。結合 ,得到等式。反過來, 是連續仿射函數的上確界,所以凸且下半連續:其上圖集是閉半空間的交集。反向命題隨之成立。
證明之後,值得把每一步的作用分開來看。
證明透視
垂直方向的係數為何重要
的閉性和凸性只用了一次:用來得到投影點 ,從而得到嚴格分離式;缺少任何一個,圖像下方的點都可能沒有分離式(見下面反例中的兩種失敗)。真函數的性質提供了滿足 的點 。不顯然的一步是 時的擾動:垂直係數為零的分離超平面只在 方向分離,本身不會給出函數值的有限下界。把 處分離式(其垂直係數必為負)的小倍數加上去,既保留在 的嚴格不等式,又使 。正是這一步處理了邊界點和定義域外的點,而不只限於存在次梯度的點。論證最後令 增加至 ;若 ,則令 取遍所有實數。
雙共軛保留甚麼?
同一論證也能刻畫既不凸也不閉的函數的 。
命題 5.5.2
(雙共軛就是閉凸包絡)
假設真函數 至少有一個有限仿射下界。則 是真、閉、凸的,而且是 的最大閉凸下界:每個滿足 的真閉凸函數 都有 。若不存在仿射下界,則 、。
證明
(比較仿射下界)
是仿射函數的上確界,所以閉且凸;它不超過 ,故在 有限處亦有限;它處處不小於已知的仿射下界,故從不取 。若 真、閉、凸且 ,則 的每個仿射下界也是 的下界;定理給出 。若 沒有有限仿射下界,則對每個 都有 ,定義 的上確界便是 。單有 為真函數並不足以排除此情況。
例題 5.5.3
(把開約束閉合)
設 ,定義域在 。當 , 在 上的上確界是 ,但不會達到;當 ,上確界是 。因此 。若 ,對所有 有 ,並在 取等號。若 ,令 ,表達式趨於 ;若 ,則令 。故 。閉包補回了兩個缺失的端點;第一次取共軛時的上確界不一定達到。
例題 5.5.4
(雙井函數的凸包絡)
設 ,它有限且連續,但不是凸的。最小值的共軛等於共軛的最大值,因為 。配方得 ,所以 。於是
若 ,則 ,在 取等號,故 。若 ,只有 有用,而 在 取得最大值 ; 的情況對稱。因此 時 ,在 上為 :兩井之間的凸起被連接兩個極小點的平線段取代,正如命題所預測。
例題 5.5.5
(指定斜率的最佳仿射下界)
設 。配方得 ,在 取得,所以斜率 的最佳截距為 ,下界為 。在 得到 ,但實際值為 。該界在此不精確:斜率 的等號只在 成立。改取斜率 ,則 ,切線 在 達到等號。對所有斜率取上確界,得 ,正是 的一個實例。
這些例子顯示定理的兩個假設都不可或缺。
反例模式
凸性和下半連續性都不能省略
開區間的指示函數是凸的,但不是下半連續,並有 。另一種失敗來自 。其共軛是 ,故 ,於是 。這裏的上圖集雖閉卻非凸。最後, 是連續真函數,卻沒有仿射下界:每個 都使 無上界,所以 、。這些例子均不違反定理。
常見錯誤
(閉函數不等於連續函數)
下半連續是單側條件:。指示函數 在端點跳到 ,但它的上圖集 是閉的,所以符合定理,並等於其雙共軛。反過來,在邊界點向上跳躍(如下面 的練習)違反下半連續性,雙共軛會把該點的值降低。
練習與解答
快速檢查
(計算 的雙共軛。)
先找出哪些斜率使 有限。
解答 · 答案
若 ,則 ;若 ,上確界為 。故 。它的共軛為 ,當 時為 ,當 時為 。因此 。
快速檢查
(設 時 ,,而 時 。求 。)
把 與位於其下方的閉凸函數比較。
解答 · 答案
令 時 , 時 。它真、閉、凸且 ,所以 。在 和 時,這已給出 。在零點, 的任意仿射下界 滿足 ;零函數這個下界達到該值。因此 ,即 。
快速檢查
(對任意真函數 ,證明 。)
一個方向用 ,另一方向用 的定義。
解答 · 答案
由 ,取共軛會反轉不等式,所以 。要證反向不等式,固定滿足 的 。由定義中的上確界,對所有 有 ,故 。若 ,不等式自動成立。這也涵蓋 的情況:此時 而 。所以從不需要計算第三次共軛。