导数给出局部斜率;要从局部资讯推出整个区间的结论,还须使用定理。
实直线闭集:序列判据与开补集
在通常的经典集合论背景下讨论实直线,并允许可数次见证选择。集合 U U U 为开集,是指每个 y y y 属于 U U U 都有某个 r > 0 r>0 r > 0 ,使 ( y − r , y + r ) (y-r,y+r) ( y − r , y + r ) 包含于 U U U 。使用阿基米德性质的推论:1 / n 1/n 1/ n 趋于零。对任意实直线子集 K K K ,下列条件等价:
K K K 中任意在实直线上收敛的序列,其极限仍属于 K K K 。
K K K 的补集为开集。
由 2 推出 1。 设 x n x_n x n 属于 K K K 且 x n x_n x n 趋于 x x x 。若 x x x 不属于 K K K ,补集的开放性给出 r > 0 r>0 r > 0 ,使 ( x − r , x + r ) (x-r,x+r) ( x − r , x + r ) 与 K K K 不相交。收敛性保证充分靠后时 ∣ x n − x ∣ < r |x_n-x|<r ∣ x n − x ∣ < r ,与 x n x_n x n 属于 K K K 矛盾,故 x x x 属于 K K K 。
由 1 推出 2。 固定不属于 K K K 的 y y y 。若以 y y y 为中心的每个正半径区间都遇到 K K K ,则对每个正整数 n n n ,都有 x n x_n x n 属于 K K K 且 ∣ x n − y ∣ < 1 / n |x_n-y|<1/n ∣ x n − y ∣ < 1/ n 。将这些见证选成一个序列。给定 ε > 0 \varepsilon>0 ε > 0 ,取 N N N 使 1 / N < ε 1/N<\varepsilon 1/ N < ε ;当 n ≥ N n\ge N n ≥ N ,有 ∣ x n − y ∣ < 1 / n ≤ 1 / N < ε |x_n-y|<1/n\le1/N<\varepsilon ∣ x n − y ∣ < 1/ n ≤ 1/ N < ε ,故 x n x_n x n 趋于 y y y 。条件 1 会迫使 y y y 属于 K K K ,矛盾。因此 y y y 周围存在避开 K K K 的区间。对补集每点均如此,故补集开放。选择见证序列这一步使用已声明的经典背景;这里不声称在不带选择的基础体系中证明同一结论。若 K K K 为空,其中没有序列,其补集为整个开实直线;若 K K K 为整个实直线,其空补集的开放性真空成立。两种边界情形也满足等价关系。
学习目标与定义
集合 K ⊆ R K\subseteq\mathbb R K ⊆ R 称为紧致的,如果任意一族开集只要其并包含 K K K ,就存在有限个成员仍覆盖 K K K 。集合若包含其点构成的每个收敛序列的极限,则称为闭集;等价地,其补集是开集。序列紧致性指 K K K 中每个序列都有收敛到 K K K 中某点的子列。
空集是紧致、闭且有界的,也满足序列紧致性;这些性质均以空真方式成立。在需要选取点或无穷序列的证明中,要单独处理空集。我们使用先前数列内容中的实数完备性及其闭区间套和 Bolzano–Weierstrass 推论。
定理:实数直线上的 Heine–Borel 定理
对 K ⊆ R K\subseteq\mathbb R K ⊆ R ,下列条件等价:开覆盖意义下的紧致性;闭且有界;序列紧致性。
紧致推出闭且有界。 区间 ( − n , n ) (-n,n) ( − n , n ) (n ≥ 1 n\ge1 n ≥ 1 )覆盖 R \mathbb R R ,因而覆盖 K K K 。有限子覆盖给出一个界。为证明闭性,取 y ∉ K y\notin K y ∈ / K 。对每个 x ∈ K x\in K x ∈ K ,区间 B ( x , ∣ x − y ∣ / 2 ) B(x,|x-y|/2) B ( x , ∣ x − y ∣/2 ) 不含 y y y 。取其中覆盖 K K K 的有限子族,令 δ \delta δ 为这些区间中心到 y y y 的正距离的一半所组成的有限集合的最小值。所选以 x x x 为中心的区间内每点到 y y y 的距离严格大于 ∣ x − y ∣ / 2 ≥ δ |x-y|/2\ge\delta ∣ x − y ∣/2 ≥ δ 。因此 B ( y , δ ) B(y,\delta) B ( y , δ ) 与 K K K 不相交,因此对每个集合外的点,都找到不与集合相交的开邻域,补集是开集。若 K K K 为空,结论立即成立。
闭且有界推出紧致。 将非空的 K K K 放入闭有界区间 I 0 I_0 I 0 。假设 K K K 的某个开覆盖不存在有限子覆盖。将 I 0 I_0 I 0 二等分;至少一个闭半区间与 K K K 的交集不能被有限覆盖,否则两组有限覆盖合起来便覆盖 K K K 。选取这样的半区间并重复,得到长度趋于零的闭区间套 I n I_n I n ,且 K ∩ I n K\cap I_n K ∩ I n 不能被有限覆盖。每个交集非空,选取 x n ∈ K ∩ I n x_n\in K\cap I_n x n ∈ K ∩ I n 。闭区间套性质给出唯一公共点 p p p ;因两者均在 I n I_n I n 中,故 x n → p x_n\to p x n → p 。由闭性得 p ∈ K p\in K p ∈ K 。覆盖中某个成员 O O O 含 p p p ;由其开放性,O O O 包含以 p p p 为中心的某个开球。当 n n n 足够大时,整个区间 I n I_n I n 均在该球内,于是单个开集 O O O 就覆盖 K ∩ I n K\cap I_n K ∩ I n ,矛盾。
闭且有界推出序列紧致。 K K K 中每个序列有界,故 Bolzano–Weierstrass 定理给出收敛子列。由闭性,其极限仍在 K K K 中。
序列紧致推出闭且有界。 若无界,可选取 x n ∈ K x_n\in K x n ∈ K ,使 ∣ x n ∣ > n |x_n|>n ∣ x n ∣ > n ;它没有收敛到有限实数的子列,矛盾。若 p p p 是 K K K 中点的极限,则可选取 x n ∈ K x_n\in K x n ∈ K 使 ∣ x n − p ∣ < 1 / n |x_n-p|<1/n ∣ x n − p ∣ < 1/ n 。由序列紧致性,某子列收敛到 K K K 中一点;它也收敛到 p p p ,由实数极限唯一性得 p ∈ K p\in K p ∈ K 。因此 K K K 是闭集,所有蕴涵均已证明。
固定整数 n ≥ 1 n\ge1 n ≥ 1 ,在 R n \mathbb R^n R n 上使用欧几里得范数。集合若包含在某个有限半径的球内,就称为有界 ;若补集是开集,就称为闭集 ;若它的每个由 R n \mathbb R^n R n 中开集组成的覆盖都有有限子覆盖,就称为紧集 。我们使用实数完备性,包括闭区间套性质。
有限维欧几里得空间的 Heine–Borel 定理
定理。 集合 K ⊆ R n K\subseteq\mathbb R^n K ⊆ R n 紧致,当且仅当它闭且有界。空集具有这三种性质。
紧致推出有界。 开球 B ( 0 , m ) B(0,m) B ( 0 , m ) (整数 m ≥ 1 m\ge1 m ≥ 1 )覆盖 K K K 。取有限子覆盖后,K K K 包含在其中最大的球内。
紧致推出闭。 设 K ≠ ∅ K\ne\varnothing K = ∅ 且 y ∉ K y\notin K y ∈ / K 。开球 B ( x , ∥ x − y ∥ / 2 ) B(x,\|x-y\|/2) B ( x , ∥ x − y ∥/2 ) (x ∈ K x\in K x ∈ K )覆盖 K K K 。取中心为 x 1 , … , x r x_1,\ldots,x_r x 1 , … , x r 的有限子覆盖,令 δ = min i ∥ x i − y ∥ / 2 > 0 \delta=\min_i\|x_i-y\|/2>0 δ = min i ∥ x i − y ∥/2 > 0 。若 z z z 在以 x i x_i x i 为中心的所选球内,三角不等式给出 ∥ z − y ∥ > ∥ x i − y ∥ / 2 ≥ δ \|z-y\|>\|x_i-y\|/2\ge\delta ∥ z − y ∥ > ∥ x i − y ∥/2 ≥ δ 。所以 B ( y , δ ) B(y,\delta) B ( y , δ ) 不与 K K K 相交,补集是开集。
闭且有界推出紧致。 设非空的 K K K 闭且有界,把它包含在闭立方体 Q 0 = [ − M , M ] n Q_0=[-M,M]^n Q 0 = [ − M , M ] n 内,其中 M > 0 M>0 M > 0 。假设 K K K 的某个开覆盖没有有限子覆盖。把每个坐标区间分成两个闭半区间,所得 2 n 2^n 2 n 个闭子立方体覆盖 Q 0 Q_0 Q 0 。至少一个子立方体与 K K K 的交集不能由给定覆盖族有限覆盖;否则把有限多个有限子覆盖合并,就能覆盖 K K K 。选取这样的子立方体并重复,得到闭立方体套 Q j Q_j Q j ,其边长为 2 M / 2 j 2M/2^j 2 M / 2 j ,且 K ∩ Q j K\cap Q_j K ∩ Q j 不能被有限覆盖,因而非空。
对每个坐标使用闭区间套性质,得到公共坐标值;合起来得到 p ∈ ⋂ j Q j p\in\bigcap_jQ_j p ∈ ⋂ j Q j 。Q j Q_j Q j 中任意两点的距离不超过 2 M n / 2 j 2M\sqrt n/2^j 2 M n / 2 j ,所以交集中只有 p p p 。选取 x j ∈ K ∩ Q j x_j\in K\cap Q_j x j ∈ K ∩ Q j ,则 ∥ x j − p ∥ ≤ 2 M n / 2 j → 0 \|x_j-p\|\le2M\sqrt n/2^j\to0 ∥ x j − p ∥ ≤ 2 M n / 2 j → 0 。闭集包含这种极限:若 p p p 在开补集中,p p p 周围某个开球就会使最终的 x j x_j x j 落在 K K K 外,矛盾。因此 p ∈ K p\in K p ∈ K 。
覆盖中有一个成员 O O O 含 p p p ,由开放性,存在 ε > 0 \varepsilon>0 ε > 0 使 B ( p , ε ) ⊆ O B(p,\varepsilon)\subseteq O B ( p , ε ) ⊆ O 。当 j j j 足够大时,Q j Q_j Q j 的每点到 p p p 的距离都小于 ε \varepsilon ε ,于是单个 O O O 就覆盖 K ∩ Q j K\cap Q_j K ∩ Q j ,与 Q j Q_j Q j 的选取矛盾。因此每个开覆盖都有有限子覆盖。这里 2 n 2^n 2 n 是有限数;若改成无限多个子块,这个论证就不再成立。
连续像与极值
定理。 若 K ⊆ R n K\subseteq\mathbb R^n K ⊆ R n 紧致,且 F : K → R m F:K\to\mathbb R^m F : K → R m 相对于 K K K 连续,则 F ( K ) F(K) F ( K ) 紧致。特别地,非空紧集 K K K 上的连续函数 f : K → R f:K\to\mathbb R f : K → R 有界,并达到最大值和最小值。
证明。 F ( K ) F(K) F ( K ) 的开覆盖 ( O i ) (O_i) ( O i ) 的原像是相对开集 F − 1 ( O i ) = K ∩ U i F^{-1}(O_i)=K\cap U_i F − 1 ( O i ) = K ∩ U i ,其中 U i U_i U i 在 R n \mathbb R^n R n 中开。这些 U i U_i U i 覆盖 K K K ,所以有限多个足够。对应的 O i O_i O i 覆盖 F ( K ) F(K) F ( K ) ,证明了像的紧致性。对标量函数 f f f ,由已证明定理的一维情形,其像非空、闭且有界。令 a = sup f ( K ) a=\sup f(K) a = sup f ( K ) 。对每个 j ≥ 1 j\ge1 j ≥ 1 ,由上确界定义,可取 y j ∈ f ( K ) y_j\in f(K) y j ∈ f ( K ) 使 a − 1 / j < y j ≤ a a-1/j<y_j\le a a − 1/ j < y j ≤ a 。于是 y j → a y_j\to a y j → a ,闭性使 a a a 属于像,所以最大值可达。对 − f -f − f 使用同一论证即得最小值。该结论证明存在性,而不提供极大点的计算公式。
例:实谱定理所需的球面。 球面 S n − 1 = { x ∈ R n : ∥ x ∥ = 1 } S^{n-1}=\{x\in\mathbb R^n:\|x\|=1\} S n − 1 = { x ∈ R n : ∥ x ∥ = 1 } 含 e 1 e_1 e 1 ,所以非空,而且有界。反三角不等式 ∣ ∥ x ∥ − ∥ y ∥ ∣ ≤ ∥ x − y ∥ |\|x\|-\|y\||\le\|x-y\| ∣∥ x ∥ − ∥ y ∥∣ ≤ ∥ x − y ∥ 证明范数连续,因此 S n − 1 S^{n-1} S n − 1 作为闭集 { 1 } \{1\} { 1 } 的原像是闭集。Heine–Borel 定理使它紧致。对实矩阵 A A A ,多项式函数 x ↦ x T A x x\mapsto x^TAx x ↦ x T A x 连续,所以它在球面上的限制达到两个极值。这个存在性结论不要求 A A A 对称;后续谱论证和梯度公式 ∇ ( x T A x ) = 2 A x \nabla(x^TAx)=2Ax ∇ ( x T A x ) = 2 A x 才要求对称性。
练习
P01. 解释为什么开单位球虽然有界,却不满足紧致性结论。
P02. 若 K K K 不闭,立方体证明的哪一步可能失败?给出例子。
P03. 对单位圆上的 A = diag ( 2 , 5 ) A=\operatorname{diag}(2,5) A = diag ( 2 , 5 ) ,求 x T A x x^TAx x T A x 的极值及全部取等点,并区分存在性定理与具体计算。
完整解答
P01. 开单位球不闭:对 j ≥ 2 j\ge2 j ≥ 2 ,( 1 − 1 / j ) e 1 (1-1/j)e_1 ( 1 − 1/ j ) e 1 在球内,却收敛到球外的 e 1 e_1 e 1 。由已证必要性,紧集必须闭,所以该球不紧。有界性本身不够。
P02. x j ∈ K x_j\in K x j ∈ K 的极限可能是 K K K 外的一点 p p p ,所以覆盖成员未必有任何一个含 p p p 。明确取 K = ( 0 , 1 ) K=(0,1) K = ( 0 , 1 ) ,开覆盖 O m = ( 1 / m , 2 ) O_m=(1/m,2) O m = ( 1/ m , 2 ) ,其中整数 m ≥ 2 m\ge2 m ≥ 2 ,以及闭区间套 Q j = [ 0 , 2 − j ] Q_j=[0,2^{-j}] Q j = [ 0 , 2 − j ] ,其中整数 j ≥ 0 j\ge0 j ≥ 0 。这些开区间覆盖 K K K ,但任何有限子族的左端点都有正的最小值,因此不能覆盖 K ∩ Q j K\cap Q_j K ∩ Q j 。区间套 Q j Q_j Q j 的公共点为零,它在 K K K 外;所以覆盖中没有成员包含 0 0 0 。这正是闭集证明可能失败的步骤。
P03. 写 x = ( u , v ) T x=(u,v)^T x = ( u , v ) T ,其中 u 2 + v 2 = 1 u^2+v^2=1 u 2 + v 2 = 1 ,则 x T A x = 2 u 2 + 5 v 2 = 2 + 3 v 2 x^TAx=2u^2+5v^2=2+3v^2 x T A x = 2 u 2 + 5 v 2 = 2 + 3 v 2 。最小值为二,恰在 ( ± 1 , 0 ) T (\pm1,0)^T ( ± 1 , 0 ) T 取得;最大值为五,恰在 ( 0 , ± 1 ) T (0,\pm1)^T ( 0 , ± 1 ) T 取得。紧致性与连续性保证极值存在;所列恒等式确定其值和全部取等情形。
费马必要条件。 在可微的内点局部最大值或最小值处,f ′ ( a ) = 0 f'(a)=0 f ′ ( a ) = 0 。
证明。 在局部最大值处,充分小的正增量给出非正差商,负增量给出非负差商。双侧导数的极限要同时满足两种符号,只能为零。对函数取负处理最小值。□ \square □
内点条件很重要:f ( x ) = x f(x)=x f ( x ) = x 在 [ 0 , 1 ] [0,1] [ 0 , 1 ] 上的极值出现在端点,尽管导数为 1。逆命题不成立:x 3 x^3 x 3 在零处导数为零,但那里不是极值。
Rolle 定理。 若 a < b a<b a < b ,f f f 在 [ a , b ] [a,b] [ a , b ] 上连续、在 ( a , b ) (a,b) ( a , b ) 上可微,且 f ( a ) = f ( b ) f(a)=f(b) f ( a ) = f ( b ) ,则存在 c ∈ ( a , b ) c\in(a,b) c ∈ ( a , b ) 使 f ′ ( c ) = 0 f'(c)=0 f ′ ( c ) = 0 。
证明。 极值定理保证最大值和最小值存在。若函数为常数,任意内点均符合要求。否则某值不同于相等的端点值,因此最大值或最小值之一出现在内部。可在该处应用费马条件。□ \square □
中值定理。 在相同的连续与可微条件下,不要求端点值相等,则存在 c ∈ ( a , b ) c\in(a,b) c ∈ ( a , b ) 满足 f ( b ) − f ( a ) = f ′ ( c ) ( b − a ) f(b)-f(a)=f'(c)(b-a) f ( b ) − f ( a ) = f ′ ( c ) ( b − a ) 。
从 f f f 减去割线 f ( a ) + [ f ( b ) − f ( a ) ] ( x − a ) / ( b − a ) f(a)+[f(b)-f(a)](x-a)/(b-a) f ( a ) + [ f ( b ) − f ( a )] ( x − a ) / ( b − a ) ,再应用 Rolle 定理即可。这一证明不假定 f ′ f' f ′ 连续。推论包括:导数在区间上为零则函数为常数;导数非负则函数不减;区间上 ∣ f ′ ∣ ≤ M |f'|\le M ∣ f ′ ∣ ≤ M 则其中各点满足 ∣ f ( y ) − f ( x ) ∣ ≤ M ∣ y − x ∣ |f(y)-f(x)|\le M|y-x| ∣ f ( y ) − f ( x ) ∣ ≤ M ∣ y − x ∣ 。不能由一点的导数值推出整个区间上的导数界。
因此若 f ′ > 0 f'>0 f ′ > 0 在一个区间成立,f f f 在该区间严格递增;若 f ′ = 0 f'=0 f ′ = 0 处处成立,f f f 在该区间为常数。
定义域内部的临界点是 f ′ = 0 f'=0 f ′ = 0 或 f ′ f' f ′ 不存在的点。可微的内部局部极值点必有导数零,但逆命题不成立:x 3 x^3 x 3 在零导数为零却没有局部极值。导数由正转负给局部最大值,由负转正给局部最小值。若 f ′ ( c ) = 0 f'(c)=0 f ′ ( c ) = 0 且 f ′ ′ ( c ) > 0 f''(c)>0 f ′′ ( c ) > 0 ,则为局部最小;若 f ′ ′ ( c ) < 0 f''(c)<0 f ′′ ( c ) < 0 ,则为局部最大;f ′ ′ ( c ) = 0 f''(c)=0 f ′′ ( c ) = 0 时此测试无结论。区间上二阶导数为正可推出凸性;若曲线在该处连续,二阶导数变号表示拐点。
例题
闭区间的全局最优化 求 f ( x ) = x 3 − 3 x f(x)=x^3-3x f ( x ) = x 3 − 3 x 在 [ − 2 , 2 ] [-2,2] [ − 2 , 2 ] 的最大及最小值。连续性保证两者存在。内部临界点解 3 x 2 − 3 = 0 3x^2-3=0 3 x 2 − 3 = 0 ,得 x = ± 1 x=\pm1 x = ± 1 。比较 f ( − 2 ) = − 2 f(-2)=-2 f ( − 2 ) = − 2 、f ( − 1 ) = 2 f(-1)=2 f ( − 1 ) = 2 、f ( 1 ) = − 2 f(1)=-2 f ( 1 ) = − 2 和 f ( 2 ) = 2 f(2)=2 f ( 2 ) = 2 ,可知最小值为 − 2 -2 − 2 ,最大值为 2 2 2 ,各在两点取得。只检查临界点会漏掉端点候选。
例题
相关变化率 若球的半径以每秒 2 2 2 厘米增长,由 V = 4 π r 3 / 3 V=4\pi r^3/3 V = 4 π r 3 /3 和链式法则得 d V / d t = 4 π r 2 ( d r / d t ) dV/dt=4\pi r^2(dr/dt) d V / d t = 4 π r 2 ( d r / d t ) 。当 r = 3 r=3 r = 3 厘米,体积以每秒 72 π 72\pi 72 π 立方厘米增加。应先对关系式求导,才代入该时刻的数值。
描绘曲线时先求定义域和截距,再检查定义域边界的单侧行为、以定义极限确认的渐近线、临界点及导数符号、曲率。x = a x=a x = a 是垂直渐近线要求至少一侧极限为无穷;y = L y=L y = L 是水平渐近线要求 x → ∞ x\to\infty x → ∞ 或 x → − ∞ x\to-\infty x → − ∞ 时 f ( x ) → L f(x)\to L f ( x ) → L 。图像在其他地方可穿过水平渐近线。
例题
由导数符号得到不等式 对 x > 0 x>0 x > 0 设 h ( x ) = x − 1 − ln x h(x)=x-1-\ln x h ( x ) = x − 1 − ln x ,则 h ′ ( x ) = 1 − 1 / x h'(x)=1-1/x h ′ ( x ) = 1 − 1/ x 在 ( 0 , 1 ) (0,1) ( 0 , 1 ) 为负,在 ( 1 , ∞ ) (1,\infty) ( 1 , ∞ ) 为正。平均值定理使 h h h 在到达 1 1 1 前递减、之后递增,故全局最小值为 h ( 1 ) = 0 h(1)=0 h ( 1 ) = 0 。因此对所有 x > 0 x>0 x > 0 有 ln x ≤ x − 1 \ln x\le x-1 ln x ≤ x − 1 ,且只有 x = 1 x=1 x = 1 时等号成立。
驻点的 f ′ = 0 f'=0 f ′ = 0 ,临界点还可以是导数不存在的点。例如 ∣ x ∣ |x| ∣ x ∣ 在零有最小值但不是驻点。仅靠驻点作图会漏掉角点和定义域端点。开区间不保证取得上确界:f ( x ) = x f(x)=x f ( x ) = x 在 ( 0 , 1 ) (0,1) ( 0 , 1 ) 的上确界是 1 1 1 ,但没有最大值。
方法选择
闭区间上的全局极值应比较端点和所有内部临界候选;无界或开的定义域可能没有极值,须分析边界极限及是否取得。证不等式可对适当辅助函数运用平均值定理或证其导数有固定符号。相关变化率需一致单位和随时间有效的关系式。
练习
证明 0 < x < π / 2 0<x<\pi/2 0 < x < π /2 时 sin x < x \sin x<x sin x < x 。
长方形周长为 20 20 20 ,求最大面积;边长允许非负。
求 f ( x ) = x 3 − 3 x f(x)=x^3-3x f ( x ) = x 3 − 3 x 的所有驻点并局部分类。
详解
令 g ( x ) = x − sin x g(x)=x-\sin x g ( x ) = x − sin x 。在 0 < x < π / 2 0<x<\pi/2 0 < x < π /2 ,g ′ ( x ) = 1 − cos x > 0 g'(x)=1-\cos x>0 g ′ ( x ) = 1 − cos x > 0 。平均值定理给 g ( x ) > g ( 0 ) = 0 g(x)>g(0)=0 g ( x ) > g ( 0 ) = 0 。
若边长为 x x x 、10 − x 10-x 10 − x ,x ∈ [ 0 , 10 ] x\in[0,10] x ∈ [ 0 , 10 ] ,则 A ( x ) = x ( 10 − x ) A(x)=x(10-x) A ( x ) = x ( 10 − x ) 。连续函数的导数 A ′ ( x ) = 10 − 2 x A'(x)=10-2x A ′ ( x ) = 10 − 2 x 只在 5 5 5 为零。比较 A ( 0 ) = A ( 10 ) = 0 A(0)=A(10)=0 A ( 0 ) = A ( 10 ) = 0 、A ( 5 ) = 25 A(5)=25 A ( 5 ) = 25 ,最大面积为 25 25 25 ,由正方形取得。
f ′ ( x ) = 3 x 2 − 3 f'(x)=3x^2-3 f ′ ( x ) = 3 x 2 − 3 在 x = ± 1 x=\pm1 x = ± 1 为零;f ′ ′ ( x ) = 6 x f''(x)=6x f ′′ ( x ) = 6 x ,故二阶导数测试给 − 1 -1 − 1 处局部最大值 2 2 2 ,1 1 1 处局部最小值 − 2 -2 − 2 。
章节联系
平均值推理亦控制泰勒近似的误差。最优化与相关变化率使用相同求导法则,但前者问的是数值何处最大或最小。
本篇所用方法的证明
有限实数极限运算与等比数列:补全证明
使用有序实数、阿基米德性质、正整数归纳法及绝对值三角不等式。数列收敛至有限实数 L L L ,是指每个 ε > 0 \varepsilon>0 ε > 0 都有对所有 n ≥ N n\ge N n ≥ N 有效的下标 N N N 。
唯一性、有界性与子列。 若 a n → L , M a_n\to L,M a n → L , M 且 L ≠ M L\ne M L = M ,在同一充分大下标使两误差均小于 ∣ L − M ∣ / 3 |L-M|/3 ∣ L − M ∣/3 ,三角不等式便给出 ∣ L − M ∣ < 2 ∣ L − M ∣ / 3 |L-M|<2|L-M|/3 ∣ L − M ∣ < 2∣ L − M ∣/3 ,矛盾。要证有界,令尾部 ∣ a n − L ∣ < 1 |a_n-L|<1 ∣ a n − L ∣ < 1 ,再取 ∣ L ∣ + 1 |L|+1 ∣ L ∣ + 1 与有限个初始绝对值的最大值。对子列下标 n 1 < n 2 < ⋯ n_1<n_2<\cdots n 1 < n 2 < ⋯ ,归纳给出 n k ≥ k n_k\ge k n k ≥ k ,故原数列的每个尾部阈值最终也适用于子列。
和、数乘及积。 若 a n → a a_n\to a a n → a 、b n → b b_n\to b b n → b ,令两个输入误差均小于 ε / 2 \varepsilon/2 ε /2 ,则
∣ ( a n + b n ) − ( a + b ) ∣ ≤ ∣ a n − a ∣ + ∣ b n − b ∣ < ε . |(a_n+b_n)-(a+b)|\le|a_n-a|+|b_n-b|<\varepsilon. ∣ ( a n + b n ) − ( a + b ) ∣ ≤ ∣ a n − a ∣ + ∣ b n − b ∣ < ε .
对固定 c ≠ 0 c\ne0 c = 0 ,使用输入容差 ε / ∣ c ∣ \varepsilon/|c| ε /∣ c ∣ ;c = 0 c=0 c = 0 直接成立。取所有 ∣ b n ∣ |b_n| ∣ b n ∣ 的一个上界 B ≥ 1 B\ge1 B ≥ 1 ,要求
∣ a n − a ∣ < ε 2 B , ∣ b n − b ∣ < ε 2 ( ∣ a ∣ + 1 ) . |a_n-a|<\frac{\varepsilon}{2B},\qquad |b_n-b|<\frac{\varepsilon}{2(|a|+1)}. ∣ a n − a ∣ < 2 B ε , ∣ b n − b ∣ < 2 ( ∣ a ∣ + 1 ) ε .
在共同的后期阈值后,∣ a n b n − a b ∣ ≤ B ∣ a n − a ∣ + ∣ a ∣ ∣ b n − b ∣ < ε |a_nb_n-ab|\le B|a_n-a|+|a||b_n-b|<\varepsilon ∣ a n b n − ab ∣ ≤ B ∣ a n − a ∣ + ∣ a ∣∣ b n − b ∣ < ε 。
倒数与商。 若 b ≠ 0 b\ne0 b = 0 ,先令 ∣ b n − b ∣ < ∣ b ∣ / 2 |b_n-b|<|b|/2 ∣ b n − b ∣ < ∣ b ∣/2 ,从而 ∣ b n ∣ > ∣ b ∣ / 2 |b_n|>|b|/2 ∣ b n ∣ > ∣ b ∣/2 ,分母非零。于是
∣ 1 b n − 1 b ∣ ≤ 2 ∣ b n − b ∣ ∣ b ∣ 2 . \left|\frac1{b_n}-\frac1b\right|\le\frac{2|b_n-b|}{|b|^2}. b n 1 − b 1 ≤ ∣ b ∣ 2 2∣ b n − b ∣ .
再要求 ∣ b n − b ∣ < ε ∣ b ∣ 2 / 2 |b_n-b|<\varepsilon|b|^2/2 ∣ b n − b ∣ < ε ∣ b ∣ 2 /2 ,便证明倒数收敛。乘积法则继而给出 a n / b n → a / b a_n/b_n\to a/b a n / b n → a / b 。可省略最初有限个无定义的商;收敛只约束尾部。
保序与夹逼。 若最终 a n ≤ b n a_n\le b_n a n ≤ b n 且分别趋于 a , b a,b a , b ,则 a ≤ b a\le b a ≤ b ;否则将两误差限制在 ( a − b ) / 3 (a-b)/3 ( a − b ) /3 内会迫使 a n > b n a_n>b_n a n > b n 。若最终 a n ≤ z n ≤ b n a_n\le z_n\le b_n a n ≤ z n ≤ b n ,两端都趋于 L L L ,令两端误差均小于 ε \varepsilon ε ,就得到 L − ε < z n < L + ε L-\varepsilon<z_n<L+\varepsilon L − ε < z n < L + ε ,所以 z n → L z_n\to L z n → L 。无需事先知道中间数列有极限。
对相应的函数极限法则,固定共同的允许趋近定义域 D ⊆ R D\subseteq\mathbb R D ⊆ R ,并设 a a a 是 D D D 的聚点:a a a 的每个去心邻域都含 D D D 中的点。设 f , g : D → R f,g:D\to\mathbb R f , g : D → R 在 a a a 有所述的有限相对定义域极限。将上述估计中的尾部阈值改为去心定义域半径,并取有限个正半径的最小值。乘积证明只需局部有界:由 g ( x ) → b g(x)\to b g ( x ) → b ,充分小的去心 D D D 邻域上有 ∣ g ( x ) ∣ ≤ ∣ b ∣ + 1 |g(x)|\le|b|+1 ∣ g ( x ) ∣ ≤ ∣ b ∣ + 1 ,即使它在 D D D 的其他部分无界。相同估计证明和、数乘、积、倒数及商的法则,并保留极限分母非零的条件;相同保序及夹逼估计适用于共同趋近域。证明唯一性或排除不相容的极限次序时,聚点条件提供实际定义域点。
对复合,设 B ⊆ R B\subseteq\mathbb R B ⊆ R 、b ∈ B b\in B b ∈ B ,且 F : B → R F:B\to\mathbb R F : B → R 在 b b b 相对于 B B B 连续。设 g : D → R g:D\to\mathbb R g : D → R 趋于 b b b ,并在 a a a 的某个充分小去心 D D D 邻域中处处满足 g ( x ) ∈ B g(x)\in B g ( x ) ∈ B 。给定 ε > 0 \varepsilon>0 ε > 0 ,连续性给出 η > 0 \eta>0 η > 0 ,使 u ∈ B u\in B u ∈ B 且 ∣ u − b ∣ < η |u-b|<\eta ∣ u − b ∣ < η 蕴含 ∣ F ( u ) − F ( b ) ∣ < ε |F(u)-F(b)|<\varepsilon ∣ F ( u ) − F ( b ) ∣ < ε 。g g g 的极限与复合定义域条件提供共同正半径,令每个允许趋近的 x x x 都满足两条件。因此 F ( g ( x ) ) → F ( b ) F(g(x))\to F(b) F ( g ( x )) → F ( b ) 。这包括 g ( x ) = b g(x)=b g ( x ) = b 的输入,不除以内层增量。
等比数列的分类。 对 t ≥ 0 t\ge0 t ≥ 0 ,Bernoulli 界 ( 1 + t ) n ≥ 1 + n t (1+t)^n\ge1+nt ( 1 + t ) n ≥ 1 + n t 可由归纳证明:将 n n n 的情形乘以正数 1 + t 1+t 1 + t ,保留非负余项 n t 2 nt^2 n t 2 。若 0 < q < 1 0<q<1 0 < q < 1 ,令 t = q − 1 − 1 > 0 t=q^{-1}-1>0 t = q − 1 − 1 > 0 ,则
0 < q n ≤ 1 1 + n t ⟶ 0. 0<q^n\le\frac1{1+nt}\longrightarrow0. 0 < q n ≤ 1 + n t 1 ⟶ 0.
给定容差,由阿基米德性质选 N N N 使右侧更小。因此 0 < ∣ r ∣ < 1 0<|r|<1 0 < ∣ r ∣ < 1 时,由 ∣ r n ∣ = ∣ r ∣ n |r^n|=|r|^n ∣ r n ∣ = ∣ r ∣ n 得 r n → 0 r^n\to0 r n → 0 ;r = 0 r=0 r = 0 时所有正下标项为零。r = 1 r=1 r = 1 时恒为一。r = − 1 r=-1 r = − 1 时偶、奇子列分别为一和负一,由唯一性及子列继承性排除收敛。若 r > 1 r>1 r > 1 ,取 t = r − 1 t=r-1 t = r − 1 ,Bernoulli 给 r n ≥ 1 + n t → + ∞ r^n\ge1+nt\to+\infty r n ≥ 1 + n t → + ∞ 。若 r < − 1 r<-1 r < − 1 ,同理 ∣ r n ∣ → + ∞ |r^n|\to+\infty ∣ r n ∣ → + ∞ ,与收敛实数列必有界矛盾。这些情况穷尽所有实公比。
子列
定义
子列 ( x n ) (x_n) ( x n ) 的子列是 ( x n k ) (x_{n_k}) ( x n k ) ,其中 n 1 < n 2 < ⋯ n_1<n_2<\cdots n 1 < n 2 < ⋯ 为正整数。若 x n → L x_n\to L x n → L ,每个子列都收敛至 L L L ,因为 n k ≥ k n_k\ge k n k ≥ k ,最终会超过任意指定下标。
证明
套叠区间证明 把所有项放入闭有界区间 I 1 I_1 I 1 ,并把它平分。至少一半含无穷多个数列项;选该半区间为 I 2 I_2 I 2 。继续进行,得到长度趋零的套叠闭区间 I k I_k I k ,每个都含无穷多项。选严格递增的下标 n k n_k n k 使 x n k ∈ I k x_{n_k}\in I_k x n k ∈ I k ;因每个区间含无穷多项,故可做到。完备性给出所有区间的一个共同点 L L L :左端点集合的上确界位于每个区间内,因为每个左端点都不超过每个右端点。由 x n k , L ∈ I k x_{n_k},L\in I_k x n k , L ∈ I k ,二者距离不超过区间长度,故趋零。
结论是关于子列,而非整个数列。例如 ( − 1 ) n (-1)^n ( − 1 ) n 有分别收敛至 1 1 1 及 − 1 -1 − 1 的常数子列,但自身不收敛。
固定整数 n ≥ 1 n\ge1 n ≥ 1 ,在 R n \mathbb R^n R n 上使用欧几里得范数。集合若包含在某个有限半径的球内,就称为有界 ;若补集是开集,就称为闭集 ;若它的每个由 R n \mathbb R^n R n 中开集组成的覆盖都有有限子覆盖,就称为紧集 。我们使用实数完备性,包括闭区间套性质。
有限维欧几里得空间的 Heine–Borel 定理
定理。 集合 K ⊆ R n K\subseteq\mathbb R^n K ⊆ R n 紧致,当且仅当它闭且有界。空集具有这三种性质。
紧致推出有界。 开球 B ( 0 , m ) B(0,m) B ( 0 , m ) (整数 m ≥ 1 m\ge1 m ≥ 1 )覆盖 K K K 。取有限子覆盖后,K K K 包含在其中最大的球内。
紧致推出闭。 设 K ≠ ∅ K\ne\varnothing K = ∅ 且 y ∉ K y\notin K y ∈ / K 。开球 B ( x , ∥ x − y ∥ / 2 ) B(x,\|x-y\|/2) B ( x , ∥ x − y ∥/2 ) (x ∈ K x\in K x ∈ K )覆盖 K K K 。取中心为 x 1 , … , x r x_1,\ldots,x_r x 1 , … , x r 的有限子覆盖,令 δ = min i ∥ x i − y ∥ / 2 > 0 \delta=\min_i\|x_i-y\|/2>0 δ = min i ∥ x i − y ∥/2 > 0 。若 z z z 在以 x i x_i x i 为中心的所选球内,三角不等式给出 ∥ z − y ∥ > ∥ x i − y ∥ / 2 ≥ δ \|z-y\|>\|x_i-y\|/2\ge\delta ∥ z − y ∥ > ∥ x i − y ∥/2 ≥ δ 。所以 B ( y , δ ) B(y,\delta) B ( y , δ ) 不与 K K K 相交,补集是开集。
闭且有界推出紧致。 设非空的 K K K 闭且有界,把它包含在闭立方体 Q 0 = [ − M , M ] n Q_0=[-M,M]^n Q 0 = [ − M , M ] n 内,其中 M > 0 M>0 M > 0 。假设 K K K 的某个开覆盖没有有限子覆盖。把每个坐标区间分成两个闭半区间,所得 2 n 2^n 2 n 个闭子立方体覆盖 Q 0 Q_0 Q 0 。至少一个子立方体与 K K K 的交集不能由给定覆盖族有限覆盖;否则把有限多个有限子覆盖合并,就能覆盖 K K K 。选取这样的子立方体并重复,得到闭立方体套 Q j Q_j Q j ,其边长为 2 M / 2 j 2M/2^j 2 M / 2 j ,且 K ∩ Q j K\cap Q_j K ∩ Q j 不能被有限覆盖,因而非空。
对每个坐标使用闭区间套性质,得到公共坐标值;合起来得到 p ∈ ⋂ j Q j p\in\bigcap_jQ_j p ∈ ⋂ j Q j 。Q j Q_j Q j 中任意两点的距离不超过 2 M n / 2 j 2M\sqrt n/2^j 2 M n / 2 j ,所以交集中只有 p p p 。选取 x j ∈ K ∩ Q j x_j\in K\cap Q_j x j ∈ K ∩ Q j ,则 ∥ x j − p ∥ ≤ 2 M n / 2 j → 0 \|x_j-p\|\le2M\sqrt n/2^j\to0 ∥ x j − p ∥ ≤ 2 M n / 2 j → 0 。闭集包含这种极限:若 p p p 在开补集中,p p p 周围某个开球就会使最终的 x j x_j x j 落在 K K K 外,矛盾。因此 p ∈ K p\in K p ∈ K 。
覆盖中有一个成员 O O O 含 p p p ,由开放性,存在 ε > 0 \varepsilon>0 ε > 0 使 B ( p , ε ) ⊆ O B(p,\varepsilon)\subseteq O B ( p , ε ) ⊆ O 。当 j j j 足够大时,Q j Q_j Q j 的每点到 p p p 的距离都小于 ε \varepsilon ε ,于是单个 O O O 就覆盖 K ∩ Q j K\cap Q_j K ∩ Q j ,与 Q j Q_j Q j 的选取矛盾。因此每个开覆盖都有有限子覆盖。这里 2 n 2^n 2 n 是有限数;若改成无限多个子块,这个论证就不再成立。
连续像与极值
定理。 若 K ⊆ R n K\subseteq\mathbb R^n K ⊆ R n 紧致,且 F : K → R m F:K\to\mathbb R^m F : K → R m 相对于 K K K 连续,则 F ( K ) F(K) F ( K ) 紧致。特别地,非空紧集 K K K 上的连续函数 f : K → R f:K\to\mathbb R f : K → R 有界,并达到最大值和最小值。
证明。 F ( K ) F(K) F ( K ) 的开覆盖 ( O i ) (O_i) ( O i ) 的原像是相对开集 F − 1 ( O i ) = K ∩ U i F^{-1}(O_i)=K\cap U_i F − 1 ( O i ) = K ∩ U i ,其中 U i U_i U i 在 R n \mathbb R^n R n 中开。这些 U i U_i U i 覆盖 K K K ,所以有限多个足够。对应的 O i O_i O i 覆盖 F ( K ) F(K) F ( K ) ,证明了像的紧致性。对标量函数 f f f ,由已证明定理的一维情形,其像非空、闭且有界。令 a = sup f ( K ) a=\sup f(K) a = sup f ( K ) 。对每个 j ≥ 1 j\ge1 j ≥ 1 ,由上确界定义,可取 y j ∈ f ( K ) y_j\in f(K) y j ∈ f ( K ) 使 a − 1 / j < y j ≤ a a-1/j<y_j\le a a − 1/ j < y j ≤ a 。于是 y j → a y_j\to a y j → a ,闭性使 a a a 属于像,所以最大值可达。对 − f -f − f 使用同一论证即得最小值。该结论证明存在性,而不提供极大点的计算公式。
只用点处二次可微性的二阶导数判别法
设 f f f 在 c c c 附近的开区间上可微,f ′ ( c ) = 0 f'(c)=0 f ′ ( c ) = 0 ,且 f ′ f' f ′ 在 c c c 可微。若 f ′ ′ ( c ) > 0 f''(c)>0 f ′′ ( c ) > 0 ,则 c c c 是严格局部最小值点。不假设 f ′ ′ f'' f ′′ 在某邻域连续。
令 k = f ′ ′ ( c ) > 0 k=f''(c)>0 k = f ′′ ( c ) > 0 。由定义,在该开区间内存在 δ > 0 \delta>0 δ > 0 ,使
f ′ ( c + h ) − f ′ ( c ) h > k / 2 > 0 ( 0 < ∣ h ∣ < δ ) . \frac{f'(c+h)-f'(c)}h>k/2>0\qquad(0<|h|<\delta). h f ′ ( c + h ) − f ′ ( c ) > k /2 > 0 ( 0 < ∣ h ∣ < δ ) .
由于 f ′ ( c ) = 0 f'(c)=0 f ′ ( c ) = 0 ,负 h h h 给出 f ′ ( c + h ) < 0 f'(c+h)<0 f ′ ( c + h ) < 0 ,正 h h h 给出 f ′ ( c + h ) > 0 f'(c+h)>0 f ′ ( c + h ) > 0 。若 c < x < c + δ c<x<c+\delta c < x < c + δ ,在 [ c , x ] [c,x] [ c , x ] 用中值定理,得 f ( x ) − f ( c ) = f ′ ( ξ ) ( x − c ) > 0 f(x)-f(c)=f'(\xi)(x-c)>0 f ( x ) − f ( c ) = f ′ ( ξ ) ( x − c ) > 0 。若 c − δ < x < c c-\delta<x<c c − δ < x < c ,在 [ x , c ] [x,c] [ x , c ] 用中值定理,得 f ( c ) − f ( x ) = f ′ ( ξ ) ( c − x ) < 0 f(c)-f(x)=f'(\xi)(c-x)<0 f ( c ) − f ( x ) = f ′ ( ξ ) ( c − x ) < 0 ,仍有 f ( x ) > f ( c ) f(x)>f(c) f ( x ) > f ( c ) ,所以是严格局部最小值。可微性保证这些闭子区间上的连续性,故定理适用。若 f ′ ′ ( c ) < 0 f''(c)<0 f ′′ ( c ) < 0 ,对 − f -f − f 使用同一结果,得到严格局部最大值。若 f ′ ′ ( c ) = 0 f''(c)=0 f ′′ ( c ) = 0 ,没有结论:零处的 x 4 x^4 x 4 、− x 4 -x^4 − x 4 、x 3 x^3 x 3 分别有最小值、最大值及无极值,而一阶、二阶导数都为零。驻点及内部邻域条件不可少;单独 f ′ ′ ( c ) > 0 f''(c)>0 f ′′ ( c ) > 0 并不足够,例如零处的 f ( x ) = x + x 2 f(x)=x+x^2 f ( x ) = x + x 2 。