2019-03-03 連続最適化実装参考サイト 連続最適化手法を実装する際に役立つ参考サイトをまとめる 目的：連続最適化手法（制約なし最適化）を手っ取り早く実装したいから、その時の参考サイトをまずはまとめておきたいよ。 結論：幾つかのサイトをまとめるたよ。 参考サイト一覧 直線探索法 非線形共役勾配法(直線探索付き) Python NumPy サンプルコード: Newton 法の直線探索 最急降下法 Haskell （と Python3）で最急降下法 Python3で多変数関数の最急降下法を実装 Pythonで最急勾配法を実装し、グラフを描く ニュートン法 機械学習のためのニュートン法 (1 変数から多変数まで) Pythonで数値解析ニュートン法 Newton法（数値計算プログラムを書き直そうシリーズ） Pythonで2変数関数に対してニュートン法を用いる 準ニュートン法 準ニュートン法による最適化Pythonサンプルコード 共役勾配法によるコスト関数最適化（Scipy） 共役勾配法 共役勾配法で連立方程式を解く 共役勾配法による非線形最適化MATLAB & Pythonサンプルプログラム Pythonで数値解析数値微分の誤差収束 自然勾配法 自然勾配法関連のメモ（コードなし） ロジスティック回帰の自然勾配降下法（R実装） 最適化法比較（コード無し） 2.7. 数学的最適化: 関数の最小値を求める 最急降下法とニュートン法を用いた最適化 最適化手法についてー勾配法，ニュートン法，準ニュートン法などー
