內容對照、公式修正與稽核紀錄
Coverage, mathematical corrections and verification

返回目錄 / Back to index

版本 v1 · 2026-10-07 · 44 張獨立資訊圖表。課程代號 IDL115。此檔記錄發布前的內容與互動稽核;部署狀態請參閱 GitHub Actions。

來源 / Source

使用者指定完整教材,KP1–KP16
Repository source SHA: 06cd5749cf8d9a96bba2deec522629f3e1d41bfa
原始教材未修改。內容依教材重新組織;公式編號為對照索引,修正後式子不一定逐字等同原式。

數學修正 / Mathematical corrections

核對來源 / Primary references

驗證範圍 / Verification

逐 KP 內容清單 / Page mapping

KP頁數 / Pages頁面 / Topics
KP12訓練的三個問題
一階與二階:資訊與成本
KP23梯度下降:方向乘上步長
L-smooth:步長為何重要
凸與非凸:能保證什麼?
KP32什麼時候停止?四種訊號
梯度為零,為何不是谷底?
KP42線搜索:太大就減半
充分下降與精確線搜索
KP52動量:把歷史方向帶進下一步
動量的向量合成
KP64前向:先保存中間計算
δ 是什麼?權重梯度怎麼來?
隱藏層:沿所有下游路徑加總
完整回傳:算完,再更新
KP72SGD:用一筆估計全體
學習率排程:大步到小步
KP83Batch 與 Epoch:一小批與一整輪
Mini-batch:平均一小批梯度
抽樣方差:為何大批次更穩?
KP94全梯度:凸平滑下的收斂界
SGD:先說清楚衡量什麼
噪聲地板:上界不是下限
SGD 上界:從一步下降到加總
KP102AdaGrad:每個維度一把尺
AdaGrad 的記憶:只加不減
KP113RMSProp:記住近期,忘掉遠期
Adam:方向記憶加逐維步幅
偏差修正:補回從零開始的低估
KP122同樣低的點,不同寬度的谷
平坦與泛化:動機不是保證
KP134SAM:先找附近最壞,再降低它
SAM 損失 = 原損失 + 銳度
一階近似:往上坡推一小步
一般範數與兩次反傳
KP143ESAM:只擾動一部分權重
SDS:挑損失上升較多的樣本
ASAM:讓鄰域跟著權重尺度
KP154過參數化:訓得動的理論
命題 4:局部谷底與鞍點
命題 5:深網收斂與條件
深網定理:寬度、步長、高機率
KP162延伸理論:三個研究方向
全章收網:算梯度、走一步、驗結果