数値線形代数
数値解析における数値線形代数(すうちせんけいだいすう、英: Numerical linear algebra)とは、線形代数で現れる問題(行列積、行列指数関数、連立方程式や固有値・特異値問題)の計算・求解を行うアルゴリズムを創出するための学問である[1][2][3]。最適化問題・有限差分法・有限要素法などに応用されている[1]。
意義
どんなに次元の高い連立方程式でも、原理的にはクラメルの公式を使えば解くことはできる。しかし、クラメルの公式による数値解法ではものすごく時間がかかってしまうということが分かっている[1]。このため、これまで様々な数値線形代数のアルゴリズムが開発されてきた[1][2][3]。ガウスの消去法はその先駆けとも言える[1][2][3]。
現代の主流
現代においては
- 共役勾配法
- GMRES法
- ランチョス法
- QR法
- QZ法[A 1]
- dqds法 (differential quotient difference with shift)[A 2][A 3][A 4][A 5][A 6][A 7]
- oqds法 (orthogonal quotient difference with shift)[A 8][A 9][A 10]
- 分割統治法[A 11][A 12]
- MRRR法 (multiple relatively robust representations)[A 13]
- MRTR法[A 14]
- Sakurai-Sugiura 法[A 15]
- CIRR 法 (Rayleigh-Ritz type method with contour integral)[A 16]
- 離散勾配法に基づく解法[A 17][A 18]
- フィルターを用いた固有値問題の解法[A 19][A 20][A 21][A 22]
などをはじめとした高速・高精度解法(反復法)の研究が主流になっている[2][4][5]。
クリロフ部分空間法
数値線形代数で現れる反復法の中には、クリロフ部分空間に理論的基盤を持つものが少なからず存在する。これらはクリロフ部分空間法(英: Krylov subspace methods)と総称され、数値線形代数において最も成功した手法とされている[5]。主なクリロフ部分空間法として以下が知られている(共役勾配法については後述する)。
共役勾配法
共役勾配法(英: conjugate gradient method)は Hestenes-Stiefel によって開発された連立方程式の数値解法であり、係数行列が正定値対称行列であるときに適用できる[A 31]。この方法はガウス=ザイデル法、ヤコビ法、SOR法よりも収束が速いとされることから、1980年代以降から様々な亜種が開発されたり、非対称行列への適用が試みられているが、前処理行列の取り方が問題によって異なるために決定版と言える解法がまだ存在してない[1][2][5]。
以下、代表的な亜種を挙げる。
- CGS (conjugate gradient squared method)[A 32]
- PCG (preconditioned conjugate gradient method、MATLABで利用可能)
- SCG (scaled conjugate gradient)[A 33]
- ICCG (incomplete Cholesky conjugate gradient method、不完全コレスキー分解付共役勾配法)[5]
- COCG (conjugate orthogonal conjugate gradient method)[A 34]
- GPBiCG[A 35][A 36]
- GPBiCGこの節の外部リンクはウィキペディアの方針やガイドラインに違反しているおそれがあります。
- Numerical Linear Algebra in the UK: From Cayley to Exascale Computing (PDF)
- Bringing New Algorithms in Numerical Linear Algebra to Industry (PDF)
- Numerical Linear Algebra Routines for Emerging Computer Architectures (PDF)
- Advances in high accuracy matrix computations (PDF)
- Some Journals in Numerical Linear Algebra
手法に関する解説記事
反復法
精度保証
研究グループ・部会
- Numerical Linear Algebra Group (@nla_grp) - X(旧Twitter) (イギリスの数値線形代数研究グループ)
- siagla (@siagla) - X(旧Twitter) (SIAMの数値線形代数研究部会)
- The GAMM Activity Group on Applied and Numerical Linear Algebra
- 計算数理グループ (名古屋大学の数値線形代数研究グループ)
- 日本応用数理学会「行列・固有値問題の解法とその応用」研究部会 (Algorithms for Matrix / Eigenvalue Problems and their Applications) (日本応用数理学会の研究部会)
全米科学財団
- Collaborative Research: Randomized Numerical Linear Algebra (RandNLA) for multi-linear and non-linear data
- Numerical Linear Algebra and Eigenvalue Computations
科学研究費助成事業
- Numerical linear algebraのページへのリンク