レーベンバーグ・マルカート法

ウィキペディア

レーベンバーグ・マルカート法

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2025/03/10 09:20 UTC 版)

レーベンバーグ・マルカート法（レーベンバーグ・マルカートほう、英: Levenberg–Marquardt algorithm、LM法、レーベンバーグ・マーカート法）とは、数学および計算科学における非線形最小二乗問題の解法の一つをいう。特に曲線回帰を最小二乗法により行う場合によく用いられる。LM法はガウス・ニュートン法（GN法）と最急降下法を内挿した手法といえる。GN法よりもロバストであり、初期値が解から大きく外れていた場合でも解けることが多いが、ふるまいの良い関数に対してはGN法よりも収束が遅い傾向を示す。LM法は GN法に信頼領域法を適用したものとみることもできる。

1944年、フランクフォード・アーセナル職員ケネス・レーヴェンバーグにより初発表され、1963年にデュポン勤務の統計家、ドナルド・マーカートにより再発見された。また、Girard, Wynne, Morrison によりそれぞれ独立に再発見されている。

LM法は、一般的な曲線回帰問題を解く必要のあるアプリケーションソフトウェアで広く用いられる。GN法を取り入れているため多くの場合で1次解法よりも収束速度が速いが、他の反復法と同様、LM法で保証されているのは局所最小値への収束のみであり、大域最小値が得られる保証はない。

問題設定

LM法の主な適用対象は、最小二乗曲線回帰問題である。 m対の独立変数と従属変数のペア $\left(x_{i},y_{i}\right)$

悪いフィッティング結果

ましなフィッティング結果

良いフィッティング結果

この例では、関数 $y=a\cos \left(bX\right)+b\sin \left(aX\right)$

Optimization computes maxima and minima.

非線形（制約付き）

凸最適化

組合せ最適化

メタヒューリスティクス

• 進化的アルゴリズム（進化戦略）
• 山登り法
• 局所探索法
• 焼きなまし法
• タブーサーチ
• ベイスンホッピング法
• 量子焼きなまし法

• カテゴリ（最適化 • アルゴリズム） • ソフトウェア