內容對照、公式修正與稽核紀錄
Coverage, mathematical corrections and verification
返回目錄 / Back to index
版本 v1 · 2026-10-07 · 44 張獨立資訊圖表。課程代號 IDL115。此檔記錄發布前的內容與互動稽核;部署狀態請參閱 GitHub Actions。
來源 / Source
使用者指定完整教材,KP1–KP16
Repository source SHA: 06cd5749cf8d9a96bba2deec522629f3e1d41bfa
原始教材未修改。內容依教材重新組織;公式編號為對照索引,修正後式子不一定逐字等同原式。
數學修正 / Mathematical corrections
- KP1、KP2:反向傳播計算梯度,優化器更新權重;非凸 GD 一般只談駐點,不保證局部或全域最優。
Backprop computes gradients; a generic nonconvex guarantee concerns stationarity. - KP3:梯度向量的變化量採範數;小梯度可能是鞍點。
Use a norm for gradient differences; small gradients may occur at saddles. - KP4:線搜索需先檢查零梯度;最陡方向依範數,圖解採歐氏方向。
Check stationarity before line search; the steepest direction depends on the norm. - KP6:δ 已包含激活導數,不重複相乘;先算完梯度,才更新所有參數。
Delta includes the activation derivative; finish gradients before updating weights. - KP7、KP8:統一平均損失;保留尾批使用 ceil(n/b),尾批用實際大小正規化;省略 1/b 會改變步幅。
Keep mean-loss scaling and use the actual final batch size. - KP8:方差公式需先定義 n 或 n−1 分母;兩種抽樣的有限母體係數必須一致。
State the variance convention and finite-population factor. - KP8、KP9:教材式 (27),(28) 僅保留為來源量級摘要,不能當成一般非凸最優值差定理;新增加權期望梯度平方推導。
Separate source summaries from an explicitly derived stationarity bound. - KP9:O(η) 上界不是正的誤差下限;持續噪聲下可有地板,但無噪声时地板为零;不保證路徑永遠困在帶內。
A noise-floor upper bound is not a universal lower bound. - KP10、KP11:區分樣本與維度索引;RMSProp、Adam 的二階原始矩採逐維平方,並非整個梯度範數平方或方差。
Use elementwise raw second moments and consistent indices. - KP11:Adam 首次更新採 t=1;bias correction 用同一 t;採原始 Adam 的 sqrt(vhat)+ε 慣例。
Use the completed update count and state epsilon placement. - KP12、KP13:尖銳極小值是窄谷,不是山峰;線性化擾動只精確解線性近似;暫加擾動後必須移除。
Sharp minima are valleys; the perturbation solves a linearized inner problem. - KP14:SWP 用逐元素乘法 ⊙ 保持向量維度;SDS 用每筆損失漲幅;空集合需處理。
Use an elementwise mask and per-example sensitivity. - KP14:ASAM 的尺度不變性限於保留模型函數的重縮放與相容算子,不是任意可逆矩陣。
Restrict invariance to compatible function-preserving rescalings. - KP15、KP16:n≤cd² 本身不能保證任意資料零損失;P 表示未指定多項式,各處未必相同;訓練成功不等於測試泛化。
Retain data assumptions and distinguish training from test guarantees.
核對來源 / Primary references
驗證範圍 / Verification
- 44 頁 KaTeX 嚴格編譯成功;公式與字型嵌入 HTML,不依賴 CDN。
- Chrome 實際開啟所有獨立 HTML;逐頁檢查 initial、min、max、step、reset,共 220 個狀態。
- 自動檢查公式右界、區塊交疊、狀態與按鈕、頁尾截切、Canvas 文字包圍盒、JavaScript 例外:全部通過。
- 人工檢視 44 頁初始畫面總覽,以及長公式與代表性滑桿極值頁面;發現問題後修正並重跑。
- 測試 1600×900、1280×720、960×540、640×360、375×700。固定 16:9 整張同比縮放,窄手機畫面文字會較小,建議大視窗閱讀。
- 數值圖是所述玩具模型或速率示意,不是深度網路實驗結果。不是所有頁面都提供真實訓練器。
- ZIP 提供目錄、44 頁與此紀錄;coverage.json 提供逐頁公式對照。
- 此輪尚未進行 GitHub 推送、Actions 或 Pages 部署驗證。
逐 KP 內容清單 / Page mapping