ベイズ統計学
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2023/07/22 16:29 UTC 版)
| 統計学 |
| ベイズ統計学 |
|---|
 |
| 理論 |
|
| 技法 |
|
ベイズ統計学（ベイズとうけいがく、英: Bayesian statistics）は、確率のベイズ的解釈に基づく統計学（および理論）を指す。
- この確率のベイズ的解釈では、対象の変数に関する確率（分布）は事象における直観的信頼度（仮説モデルの信頼度）を表す。したがってパラメーター変数に対しても確率であるとし固定値と捉えない特徴を持つ。
- さらにこの確率は新たに集めた現実の情報・データを取り込むことでより尖鋭型へ更新され、したがって事実を忠実に反映する働きと捉える[1]。直観的信頼度は、以前の実験の結果や事象に関する個人的信頼度といった事象に関する事前知識に基づいてよい。
- 上記は数多くの他の確率の解釈に基づく統計学理論とは異なる。例えば、頻度主義の解釈では、確率を多数の試行後の事象の相対的頻度の極限と見なす[2]。またパラメーター変数は固定値と捉えることを原則とする。
ベイズ統計的手法は、新たなデータを得た後に確率を計算および更新するためにベイズの定理を用いる。ベイズの定理は、データに基づく事象の条件付き確率や事象に関する事前情報または直観的信頼度、事象に関連した条件を説明する。例えば、ベイズ推定において、ベイズの定理を確率分布または統計モデルのパラメータを見積るために使うことができる。ベイズ統計学は確率を直感的信頼度として扱うため、ベイズの定理はパラメータまたはパラメータのセットに対して、信頼度を定量化する確率分布を直接的に割当てることができる[2]。
ベイズ統計学という名称は、1763年に発表された論文においてベイズの理論の特殊な場合を定式化したトーマス・ベイズに因む。18世紀末から19世紀初頭にわたるいくつかの論文において、ピエール＝シモン・ラプラスは確率のベイズ的解釈を発展させた。ラプラスは、数多くの統計問題を解くためにベイズ的手法と現在は見なされるであろう手法を用いた。多くのベイズ的手法は後の執筆者らによって発展されたが、この用語は1950年代までこういった手法を言い表すためには一般的に用いれらなかった。20世紀の大半、ベイズ的手法は哲学的および実践的判断により多くの統計学者によって好まれなかった。多くのベイズ的手法は完了するのに多くの計算を必要とし、20世紀に広く用いられたほとんどの手法は頻度主義的解釈に基づいていた。しかしながら、強力な計算機とマルコフ連鎖モンテカルロ法のような新たなアルゴリズムの出現によって、ベイズ的手法は21世紀に入り統計学内において利用の増加が見られてきている[2][3]。
ベイズの定理
ベイズの定理はベイズ統計学における基本定理である。ベイズの定理は新たなデータを得た後に確率（直感的信頼度）を更新するためにベイズ的手法によって用いられる。2つの事象
- Eliezer S. Yudkowsky. “An Intuitive Explanation of Bayes' Theorem”. 2015年6月15日閲覧。
- Theo Kypraios. “A Gentle Tutorial in Bayesian Statistics”. 2013年11月3日閲覧。
- Bayesian statistics David Spiegelhalter, Kenneth Rice Scholarpedia 4(8):5230. doi:10.4249/scholarpedia.5230
- Bayesian modeling book and examples available for downloading.
- Bayesian A/B Testing Calculator Dynamic Yield
- Think Bayes, Allen B. Downey
- Bayesian Statistics: Why and How
ベイズ統計学
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/08/11 00:30 UTC 版)
ベイズ統計学の「ベイズ」とは、トーマス・ベイズ (1702-1761) を指し示す。彼は、事象列が確率収束しうることを示した。しかし、現在ベイズの定理と呼ばれているものを（"principle VI" として）導入し、それを天体力学、医療統計学、信頼性、法学に適用したのはピエール＝シモン・ラプラス (1749-1827) である。彼の "principle of insufficient reason"（等確率の原理）によると、事前分布の知識について不十分であるときは、ラプラスは一様な事前分布を用いた。ラプラスは哲学的な理由でなく単純な数学として事前分布に一様性を仮定した。ラプラスはまた、原始的な共役事前分布とベルンシュテイン-フォン・ミーゼスの定理を導入した[要出典]。これによると、観測回数が増加するにつれて、事後分布は最初は事前分布と最初は異なっていても、最終的には一致する。このラプラスの等確率の原理による、事前分布を採用した初期のベイズ推定は「逆確率」と呼ばれた（なぜなら、これは観測から確率変数値へ、結果から原因へと、逆向きに推測するからである）。 1920年代以降、逆確率は、ロナルド・フィッシャー、イェジ・ネイマン、エゴン・ピアソンによって開発された一連の手法に大きく取って代わられた[要出典]。彼らの手法は頻度主義統計学と呼ばれるようになった。フィッシャーはベイズの見解を否定し、「逆確率の理論は誤りに基づいており、完全に否定されるべきである」と記している。しかしながら、フィッシャーの事実に基づく確率へのアプローチがベイズの随筆に記されており、彼は晩年いたく敬意を表していた。フィッシャーは依然、ラプラスの確率に対する見解は "fallacious rubbish"（誤ったごみ）であると主張した。ネイマンは「準ベイズ統計学」の研究を始め、その後信頼区間（頻度主義統計学での重要な手法）を開発した彼は次を述べている：「ベイズ主義、事前分布を考慮に入れずに理論全体を構築した方が、より明解になる」Bayesian という語は1950年頃に登場し、1960年代までに、頻度主義統計学に限界と不満を感じている者に好まれるようになった。 20世紀にラプラスの発想はさらに2つの方向に発展し、ベイズ統計学の実践に「客観性」と「主観性」の流れをもたらした。客観主義の流れでは、統計分析は想定されたモデルと分析されたデータのみを依りどころとする。そこでは主観的な判断をする必要はない。対照的に、「主観主義者」の統計家は、一般の場合における分析は完全に客観的であることの可能性を否定している。 ラプラスの発想のさらなる発展の中で、主観的な発想は客観主義者の立場より前からある。「確率」は「命題における主観的な信念の度合い」として解釈されるべきである、という発想は、例えば、1920年代初期にジョン・メイナード・ケインズによって提唱されている[要出典]。この発想はさらに、ブルーノ・デ・フィネッティ（イタリア、Fondamenti Logici del Ragionamento Probabilistico, 1930）、フランク・ラムゼイ（ケンブリッジ、The Foundations of Mathematics, 1931）に取り入れられた。このアプローチは、統計的確率についての問題点を解決するために考案された。これはラプラスの客観的なアプローチより前のことであった。主観的なベイズ統計学の手法は、1950年代に Leonard Jimmie Savage によってさらに発展し普及した[要出典]。 客観的なベイズ推定はさらにハロルド・ジェフリーズ（ケンブリッジ大学）によって発展した。彼の独創的な著書 "Theory of probability" が1939年に最初に登場し、ベイズ確率の再興に重要な役割を果たした。1957年に、Edwin Thompson Jaynes は、事前分布を構成するために、最大エントロピーの概念を創始した。これは、主に離散的な問題を客観的な手法で定式化するための重要な原理である。1965年の、Dennis Lindley の全2巻の作品 "Introduction to Probability and Statistics from a Bayesian Viewpoint" はベイズ統計学の手法を大衆に広くもたらした。1979年に Jose-Miguel Bernardo は、客観的分析が一般の場合に適用することのできる、reference analysis を導入した。他によく知られているベイズ確率の理論の支持者として、I. J. Good, Bernard Koopman, Howard Raiffa, Robert Schlaifer, アラン・チューリングがいる。 1980年代になって、ベイズ統計学の手法の研究と応用は劇的な成長を遂げた。これは主として、計算問題の多くを解決するマルコフ連鎖モンテカルロ法の発見と、複雑で規格外に対する応用への関心の高まりが挙げられる。ベイズ統計学の伸長にもかかわらず、ほとんどの学部教育では依然頻度主義統計学に準拠している。それにもかかわらず、ベイズ統計学の手法は広く受け入れられ、用いられている。その例として、機械学習の分野がある。
※この「ベイズ統計学」の解説は、「統計学の歴史」の解説の一部です。
「ベイズ統計学」を含む「統計学の歴史」の記事については、「統計学の歴史」の概要を参照ください。
- ベイズ統計学のページへのリンク
