SkillOpt 把 AI Agent 的技能文件當成可訓練的權重:用批次 Rollout、餘弦衰減的編輯預算,以及嚴格的保留驗證集守門機制,取代隨性、容易過度擬合的提示詞修補。
訓練神經網路時遇到 Overfitting?本文將帶你深入了解 Dropout 原理,從 Ensemble 和 Co-Adaptation 的角度,解釋為何這個簡單的技巧能有效解決模型過擬合問題
Neural Network 的 Gradient 到底怎麼算出來的?本文從符號定義出發,逐一拆解 Backpropagation 的四大公式 BP(1) 到 BP(4),帶你看懂誤差如何一層一層往回傳遞。
為什麼 Gradient Descent 訓練 Neural Network 太慢?本文介紹 Stochastic Gradient Descent 如何用 Mini-Batch 加快參數更新,並釐清 Batch Size 與 Epoch 的意義。
用「山谷與球」的比喻看懂 Gradient Descent:從 Cost Function 出發,一步步推導 Gradient Vector 與參數更新規則,並說明 Learning Rate 扮演的角色。
Neural Network 要學什麼、又怎麼知道自己學得好不好?本文介紹 MNIST 資料集的組成與 One-Hot Encoding 標籤,並說明 Cost Function 如何把一組 weight 與 bias 的好壞濃縮成一個數字。
模型的 Error 由 Bias 與 Variance 組成,而且降低一個往往會推高另一個。本文用身高預測體重的例子,說明 Underfitting、Overfitting 與兩者之間的權衡。