損失地形の上で 6 つの最適化アルゴリズム(SGD / Momentum / Nesterov / AdaGrad / RMSProp / Adam)がリアルタイムに"降下レース"をするインタラクティブ・プレイグラウンド。
Live demo: https://nktykst.github.io/gradient-descent-arena/
- 地形をクリック(またはドラッグ)するとその地点から全オプティマイザが一斉スタート
- 5 つの地形: Rosenbrock 峡谷 / Himmelblau 四つ谷 / Rastrigin 卵箱 / Ackley 針山 / 鞍点の峠
- 学習率 η・勾配ノイズ(SGD 度)・シミュレーション速度をスライダーで調整
- 順位表の行をクリックすると出走 / 欠場を切り替え
spaceで一時停止
依存ライブラリゼロの単一 HTML ファイル。解析的勾配による最適化ステップ、log スケール等高線+ヒルシェーディングの地形描画(純 Canvas)、真の勾配ノルムによる収束判定を実装しています。
MIT