90分鐘 · 100分 · 7道大題。原創自主練習，不是官方考試規格或權重預測。回答所有小問，寫清計算與證明，盡量保留精確值；需要小數答案時說明捨入方法；特徵向量及配對奇異向量一致反號可接受。以題面分母、定義域及平局規則為準，不可無條件求逆。本練習使用Casio fx-50FH II，可用一張雙面A4參考紙；這是練習安排，不是新增官方考試規定。

配套解答 · Revision

Q1. 加權多項式回歸與唯一性 (20)

配套解答 Q1

按給定殘差乘子擬合二次多項式；目標中的權重是平方，不能改成未平方權重。

$$\begin{gathered} \begin{array}{c|rrrr}i&1&2&3&4\\x_i&-2&-1&1&2\\y_i&2&1&3&4\\w_i&1&2&2&1\end{array} \qquad f(x)=c_0+c_1x+c_2x^2,\quad R(c)=\sum_{i=1}^4w_i^2(y_i-f(x_i))^2. \end{gathered}$$

(a) [4]

寫設計矩陣M、對角矩陣W及加權正規方程，並從目標推導。

配套解答 Q1(a)

(b) [7]

求擬合多項式、殘差r=y−Mc及最小R(c)。

配套解答 Q1(b)

(c) [5]

現取任意互異實數輸入及非負權重，證明MᵀW²M可逆當且僅當至少三個權重為正。

配套解答 Q1(c)

(d) [4]

無正則二次模型做LOOCV，保留樣本權重全1、輸入互異。求每折唯一所需最小n，證明充分及最小。

配套解答 Q1(d)

Q2. 正則化、訓練評分與驗證 (14)

配套解答 Q2

各小問須明確損失與截距懲罰約定。

(a) [6]

用下式對y₁=2,y₂=4擬合常數。求最優值與訓練R²，解釋為何不違背含截距OLS的非負性。

$$\begin{gathered} F(a)=(2-a)^2+(4-a)^2+2a^2,\quad R^2=1-\mathrm{RSS}/\mathrm{TSS},\quad\mathrm{TSS}=\sum_i(y_i-\bar y)^2. \end{gathered}$$

配套解答 Q2(a)

(b) [4]

設X∈Rⁿˣᵖ且TSS>0，證明下式未罰截距目標的任意全局最優解訓練0≤R²≤1。

$$\begin{gathered} \min_{a\in\mathbb R,\ b\in\mathbb R^p}\|y-a\mathbf1-Xb\|_2^2+\lambda\|b\|_2^2,\qquad\lambda>0. \end{gathered}$$

配套解答 Q2(b)

(c) [4]

學生先用全數據標準化與擬合PCA，再分訓練測試，用測試集反覆比較十個ridge參數並報最好分。找兩種洩漏並改正。

配套解答 Q2(c)

Q3. 負主特徵值與一次補全 (15)

配套解答 Q3

(a)與(b)–(c)使用不同矩陣。

(a) [4]

做一次歸一化冪迭代，求Rayleigh商、極限特徵值估計並說明迭代符號。

$$\begin{gathered} B=\begin{pmatrix}-3&0\\0&1\end{pmatrix},\quad v^{(0)}=\frac1{\sqrt2}\binom11,\quad v^{(1)}=\frac{Bv^{(0)}}{\|Bv^{(0)}\|_2}. \end{gathered}$$

配套解答 Q3(a)

(b) [6]

對指定初始矩陣求完整實SVD，奇異值非負遞減，並驗證左右向量配對。

$$\begin{gathered} P=\begin{pmatrix}1&?\\2&1\end{pmatrix},\qquad X^{(0)}=\begin{pmatrix}1&2\\2&1\end{pmatrix}. \end{gathered}$$

配套解答 Q3(b)

(c) [5]

固定閾值λ=1，只做一步：奇異值替換為(σᵢ−1)₊得Y，再恢復P所有已觀測條目得X¹。求兩秩並說明為何可不同。

配套解答 Q3(c)

Q4. 經典多維尺度分析 (9)

配套解答 Q4

矩陣為三對象的歐氏距離；D⁽²⁾指逐元素平方，不是矩陣乘法。

$$\begin{gathered} D=\begin{pmatrix}0&1&3\\1&0&2\\3&2&0\end{pmatrix},\qquad H=I_3-\frac13\mathbf1\mathbf1^T. \end{gathered}$$

(a) [5]

解釋G=−HD⁽²⁾H/2為何是中心化Gram矩陣並計算。

配套解答 Q4(a)

(b) [4]

求全部特徵值及重現三距離的一維中心化坐標，說明剩餘不唯一性。

配套解答 Q4(b)

Q5. 指定協方差歸一化的LDA (9)

配套解答 Q5

嚴格使用給定類別及協方差定義。

$$\begin{gathered} C_1=\{x_1=(-1,0)^T,x_2=(1,0)^T\},\quad C_2=\{x_3=(3,0)^T,x_4=(3,4)^T\}. \\\Sigma_W=\frac14\sum_{k=1}^2\sum_{x\in C_k}(x-\mu_k)(x-\mu_k)^T,\qquad\Sigma_B=\frac12\sum_{k=1}^2(\mu_k-\mu)(\mu_k-\mu)^T. \end{gathered}$$

(a) [4]

求兩個類均值、總體均值、ΣW及ΣB。

配套解答 Q5(a)

(b) [3]

求最大Fisher比的單位方向，第一坐標為正，並求廣義特徵值。

$$\begin{gathered} \max_{\|u\|_2=1}\frac{u^T\Sigma_Bu}{u^T\Sigma_Wu}. \end{gathered}$$

配套解答 Q5(b)

(c) [2]

求四個原始投影坐標uᵀxᵢ。

配套解答 Q5(c)

Q6. 層次聚類：連結定義的重要性 (15)

配套解答 Q6

使用普通絕對距離而非平方距離，從單點簇開始；平局選合併成員標籤排序後字典序最小者。

$$\begin{gathered} A=0,\quad B=2,\quad C=5,\quad D=17/2,\qquad d(x,y)=|x-y|. \end{gathered}$$

(a) [4]

執行單連結凝聚，列每次合併及高度。

配套解答 Q6(a)

(b) [7]

改用平均連結，列首合併後全部簇間距離及最終合併高度。

$$\begin{gathered} d_{\rm av}(S,T)=\frac1{|S||T|}\sum_{s\in S}\sum_{t\in T}d(s,t). \end{gathered}$$

配套解答 Q6(b)

(c) [4]

對互不相交非空S、T、U推導合併後平均距離的更新，何時保證兩個舊距離直接平均正確？

配套解答 Q6(c)

Q7. DBSCAN：共享邊界點不是核心橋 (18)

配套解答 Q7

按字母次序處理；鄰域包含自身及半徑等號。只有核心點擴張；可達非核心點可作邊界加入但不擴張。被兩核心分量到達的邊界點留在先處理分量，不重新分配；未分配點為噪聲。

$$\begin{gathered} \begin{array}{c|rrrrrrrrrr}p&A&B&C&D&E&F&G&H&I&J\\x_p&-1.8&-1.7&-1.6&-0.9&0&0.9&1.6&1.7&1.8&4\end{array} \\\varepsilon=1,\quad\mathrm{minPts}=4,\quad N_\varepsilon(p)=\{q:|p-q|\le\varepsilon\}. \end{gathered}$$

(a) [6]

計算十點鄰域數，分類為核心、邊界或噪聲。

配套解答 Q7(a)

(b) [4]

按規定次序給最終簇及噪聲。

配套解答 Q7(b)

(c) [4]

研究者改為距離≤ε且至少一端核心就連無向邊，然後取連通分量。含D的分量是否等於標準DBSCAN？用具體邊解釋。

配套解答 Q7(c)

(d) [4]

core₄(p)為包括自身的第四近距離。求core₄(D)、core₄(E)及互可達距離，解釋削弱稀疏橋的作用。

$$\begin{gathered} d_{\rm mr}(D,E)=\max\{\operatorname{core}_4(D),\operatorname{core}_4(E),|D-E|\}. \end{gathered}$$

配套解答 Q7(d)