目次
結論（先に要点）
本記事では「Six Math Essentials（要点整理）」を、結論→背景→実務ポイントの順で要点整理します。
必須6分野と実務で使う場面
- 線形代数：埋め込みベクトル、行列積、SVD/PCAの理解に直結。
- 微分（勾配）：学習率調整、勾配消失/爆発の解釈に必要。
- 確率：ベイズ更新、分類閾値、予測不確実性の扱いに必須。
- 統計：A/Bテスト、信頼区間、サンプルサイズ設計の土台。
- 最適化：SGD/Adamなどの収束特性を比較する視点になる。
- 情報理論：クロスエントロピー、KLダイバージェンスの意味理解に有効。
90日ロードマップ（週5時間）
短期で成果を出すなら、90日を3フェーズに分けるのが実務的です。
- 1-30日：線形代数 + 確率（ベクトル/分布を図で説明できる状態を目標）
- 31-60日：微分 + 最適化（勾配降下法の挙動を再現できる状態）
- 61-90日：統計 + 情報理論（A/Bと損失関数の解釈を業務で使う）
重要なのは「読むだけ」ではなく、毎週1回はノートブックで再現実験を行うことです。
実装で詰まりやすい3ポイント
- 次元不一致：行列形状の確認不足で推論パイプラインが止まる。
- 損失関数の誤選択：回帰/分類で評価指標が噛み合わず、改善が鈍る。
- 分布シフト未検知：訓練分布と本番分布の差を監視せず精度劣化を見逃す。
数式を現場に翻訳する3ケース（MSE・Cross Entropy・KL）
抽象的な式を「運用判断」に変換できると、数学は実務武器になります。例えば回帰タスクでMSEが0.92→0.71へ下がった場合、単なる改善ではなく「誤差分散がどれだけ収束したか」を説明できます。分類タスクではCross Entropyの減少と同時にF1を見ないと、確率校正の崩れを見逃します。さらに生成系ではKLダイバージェンスの変化を追うことで、学習データ分布と推論時分布のズレを早期検知できます。
- MSE（回帰）：予測値と実測値の乖離を2乗で評価し、大きな外れ値の影響を可視化する。
- Cross Entropy（分類）：正解ラベルに対する確率割り当ての質を直接評価できる。
- KL Divergence（分布比較）：訓練時と本番時の分布差を監視し、分布シフトの検知に使える。