統計学の歴史

ウィキペディア

索引トップランキングカテゴリー

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2024/04/13 14:20 UTC 版)

ベイズ統計学

ベイズ統計学の「ベイズ」とは、トーマス・ベイズ (1702-1761) を指し示す。ベイズは、事象列が確率収束しうることを示した。しかし、現在ベイズの定理と呼ばれているものを（"principle VI" として）導入し、それを天体力学、医療統計学、信頼性、法学に適用したのはピエール＝シモン・ラプラス (1749-1827) である^[61]。彼の "principle of insufficient reason"（等確率の原理）によると、事前分布の知識について不十分であるときは、ラプラスは一様な事前分布を用いた^[61]^[62]。ラプラスは哲学的な理由でなく単純な数学として事前分布に一様性を仮定した^[61]。ラプラスはまた、原始的な共役事前分布（英語版）とベルンシュテイン-フォン・ミーゼスの定理を導入した^[要出典]。これによると、観測回数が増加するにつれて、事後分布は最初は事前分布と最初は異なっていても、最終的には一致する^[63]。このラプラスの等確率の原理による、事前分布を採用した初期のベイズ推定は「逆確率（英語版）」と呼ばれた（なぜなら、これは観測から確率変数値へ、結果から原因へと、逆向きに推測するからである^[64]）。

1920年代以降、逆確率は、ロナルド・フィッシャー、イェジ・ネイマン、エゴン・ピアソンによって開発された一連の手法に大きく取って代わられた^[要出典]。彼らの手法は頻度主義統計学と呼ばれるようになった^[64]。フィッシャーはベイズの見解を否定し、「逆確率の理論は誤りに基づいており、完全に否定されるべきである」と記している^[65]。しかしながら、フィッシャーの事実に基づく確率へのアプローチがベイズの随筆に記されており、彼は晩年いたく敬意を表していた。フィッシャーは依然、ラプラスの確率に対する見解は "fallacious rubbish"（誤ったごみ）であると主張した^[65]。ネイマンは「準ベイズ統計学」の研究を始め、その後信頼区間（頻度主義統計学での重要な手法）を開発した彼は次を述べている:「ベイズ主義、事前分布を考慮に入れずに理論全体を構築した方が、より明解になる」^[66]Bayesian という語は1950年頃に登場し、1960年代までに、頻度主義統計学に限界と不満を感じている者に好まれるようになった^[64]^[67]。

20世紀にラプラスの発想はさらに2つの方向に発展し、ベイズ統計学の実践に「客観性」と「主観性」の流れをもたらした。客観主義の流れでは、統計分析は想定されたモデルと分析されたデータのみを依りどころとする^[68]。そこでは主観的な判断をする必要はない。対照的に、「主観主義者」の統計家は、一般の場合における分析は完全に客観的であることの可能性を否定している。

ラプラスの発想のさらなる発展の中で、主観的な発想は客観主義者の立場より前からある。「確率」は「命題における主観的な信念の度合い」として解釈されるべきである、という発想は、例えば、1920年代初期にジョン・メイナード・ケインズによって提唱されている^[要出典]。この発想はさらに、ブルーノ・デ・フィネッティ（イタリア、Fondamenti Logici del Ragionamento Probabilistico, 1930）、フランク・ラムゼイ（ケンブリッジ、The Foundations of Mathematics, 1931）に取り入れられた^[69]。このアプローチは、統計的確率についての問題点を解決するために考案された。これはラプラスの客観的なアプローチより前のことであった^[68]。主観的なベイズ統計学の手法は、1950年代に Leonard Jimmie Savage によってさらに発展し普及した^[要出典]。

客観的なベイズ推定はさらにハロルド・ジェフリーズ（ケンブリッジ大学）によって発展した。彼の独創的な著書『確率論』（Theory of probability）が1939年に最初に登場し、ベイズ確率の再興に重要な役割を果たした^[70]^[71]。1957年に、エドウィン・トンプソン・ジェインズ（英語版）は、事前分布を構成するために、最大エントロピー原理の概念を創始した。これは、主に離散的な問題を客観的な手法で定式化するための重要な原理である。1965年の、デニス・リンドリー（英語版）の全2巻の作品 "Introduction to Probability and Statistics from a Bayesian Viewpoint" はベイズ統計学の手法を大衆に広くもたらした。1979年にホセ＝ミゲル・ベルナルド（英語版）は、客観的分析が一般の場合に適用することのできる^[72]、参照事前分布分析（reference analysis）を導入した^[68]。他によく知られているベイズ確率の理論の支持者として、I・J・グッド（英語版）、バーナード・クープマン（英語版）、ハワード・ライファ（英語版）、ロバード・シュライファー（英語版）、アラン・チューリングがいる。

1980年代になって、ベイズ統計学の手法の研究と応用は劇的な成長を遂げた。これは主として、計算問題（英語版）の多くを解決するマルコフ連鎖モンテカルロ法の発見と、複雑で規格外に対する応用への関心の高まりが挙げられる^[73]。ベイズ統計学の伸長にもかかわらず、ほとんどの学部教育では依然頻度主義統計学に準拠している^[74]。それにもかかわらず、ベイズ統計学の手法は広く受け入れられ、用いられている。その例として、機械学習の分野がある^[75]。

脚注および参照

^ Ball, Philip (2004). Critical Mass. Farrar, Straus and Giroux. p. 53. ISBN 978-0-374-53041-9
^ ^a ^b ^c 酒井弘憲「数式なしの統計のお話第2回　統計のルーツを探る」『ファルマシア』第50巻第4号、2014年、334–335頁、doi:10.14894/faruawpsj.50.4_334。
^ ^a ^b “意外に面白い！統計学を歴史から眺めてみよう！”. 数学・統計教室の和から株式会社 (2021年9月8日). 2022年11月29日閲覧。
^ ^a ^b ^c 奥積雅彦. “公文書で初めて統計の用語が登場したのはいつか？” (PDF). 国立国会図書館支部総務省統計図書館. 2022年11月29日閲覧。
^ Thucydides (1985). History of the Peloponnesian War. New York: Penguin Books, Ltd.. p. 204
^ Giovanni Villani. Encyclopædia Britannica. Encyclopædia Britannica 2006 Ultimate Referece Suite DVD. Retrieved on 2008-03-04.
^ Brian, Éric; Jaisson, Marie (2007). “Physico-Theology and Mathematics (1710-1794)”. The Descent of Human Sex Ratio at Birth. Springer Science & Business Media. pp. 1-25. ISBN 978-1-4020-6036-6
^ John Arbuthnot (1710). “An argument for Divine Providence, taken from the constant regularity observed in the births of both sexes”. Philosophical Transactions of the Royal Society of London 27 (325-336): 186-190. doi:10.1098/rstl.1710.0011.
^ ^a ^b Conover, W.J. (1999), “Chapter 3.4: The Sign Test”, Practical Nonparametric Statistics (Third ed.), Wiley, pp. 157-176, ISBN 978-0-471-16068-7
^ Sprent, P. (1989), Applied Nonparametric Statistical Methods (Second ed.), Chapman & Hall, ISBN 978-0-412-44980-2
^ Stephen Mack Stigler (1986). The History of Statistics: The Measurement of Uncertainty Before 1900. Harvard University Press. pp. 225-226. ISBN 978-0-67440341-3
^ Bellhouse, P. (2001), “John Arbuthnot”, in Statisticians of the Centuries by C.C. Heyde and E. Seneta, Springer, pp. 39-42, ISBN 978-0-387-95329-8
^ Hald, Anders (1998), “Chapter 4. Chance or Design: Tests of Significance”, A History of Mathematical Statistics from 1750 to 1930, Wiley, p. 65
^ Abraham de Moivre (1738) The doctrine of chances. Woodfall
^ P=S Laplace (1774). “Mémoire sur la probabilité des causes par les évènements”. Mémoires de l'Académie Royale des Sciences Présentés par Divers Savants 6: 621-656.
^ Wilson, Edwin Bidwell (1923) "First and second laws of error", Journal of the American Statistical Association, 18 (143), 841-851 JSTOR 2965467
^ Havil J (2003) Gamma: Exploring Euler's Constant. Princeton, NJ: Princeton University Press, p.157
^ Charles Sanders Peirce (1873) Theory of errors of observations. Report of the Superintendent US Coast Survey, Washington, Government Printing Office. Appendix no. 21: 200-224
^ P. S. Laplace (1781). “MEMOIRE SUR LES PROBABILITÉS”. Oeuvres completes 9: 227-332. 英語訳PDF
^ フランス語版ウィキソースに本記事に関連した原文があります：Page:Laplace_-_Œuvres_complètes,_Gauthier-Villars,_1878,_tome_9.djvu/395
^ William Gemmell Cochran (1978) "Laplace's ratio estimators". pp.3-10. In David H.A., (ed). Contributions to Survey Sampling and Applied Statistics: papers in honor of H. O. Hartley. Academic Press, New York ISBN 978-1483237930
^ John Maynard Keynes (1921) A treatise on probability. Pt II Ch XVII §5 (p 201)
^ Francis Galton (1881) Report of the Anthropometric Committee pp.245-260. Report of the 51st Meeting of the British Association for the Advancement of Science
^ Stigler (1986, Chapter 5: Quetelet's Two Attempts)
^ Helen Mary Walker (1975). Studies in the history of statistical method. Arno Press. ISBN 9780405066283
^ (Stigler 1986, Chapter 9: The Next Generation: Edgeworth)
^ Bellhouse DR (1988) A brief history of random sampling methods. Handbook of statistics. Vol 6 pp.1-14 Elsevier
^ Bowley, AL (1906). “Address to the Economic Science and Statistics Section of the British Association for the Advancement of Science”. J R Stat Soc 69: 548-557. doi:10.2307/2339344. JSTOR 2339344. https://zenodo.org/record/2152740.
^ Francis Galton (1877). “Typical laws of heredity”. Nature 15 (388): 492-553. doi:10.1038/015492a0.
^ Francis Galton (1907). “One Vote, One Value”. Nature 75 (1948): 414. doi:10.1038/075414a0. https://zenodo.org/record/2125755.
^ Stigler (1986, Chapter 10: Pearson and Yule)
^ Varberg, Dale E. (1963). “The development of modern statistics”. The Mathematics Teacher 56 (4): 252-257. JSTOR 27956805.
^ Stephen Mack Stigler (1989). “Francis Galton's Account of the Invention of Correlation”. Statistical Science 4 (2): 73-79. doi:10.1214/ss/1177012580.
^ ^a ^b ^c Karl Pearson (1900). “On the Criterion that a given System of Deviations from the Probable in the Case of a Correlated System of Variables is such that it can be reasonably supposed to have arisen from Random Sampling”. Philosophical Magazine. Series 5 50 (302): 157-175. doi:10.1080/14786440009463897. https://zenodo.org/record/1430618.
^ Karl Pearson (1901). “On Lines and Planes of Closest Fit to Systems of Points is Space”. Philosophical Magazine. Series 6 2 (11): 559-572. doi:10.1080/14786440109462720. https://zenodo.org/record/1430636.
^ I.T. Jolliffe (2002) Principal Component Analysis, 2nd ed. New York: Springer-Verlag.
^ Box, R.A. Fisher, pp.93-166
^ Agresti, Alan; David B. Hichcock (2005). “Bayesian Inference for Categorical Data Analysis”. Statistical Methods & Applications 14 (3): 298. doi:10.1007/s10260-005-0121-y.
^ R.A. Fisher (1925) Statistical methods for research workers, Edinburgh: Oliver & Boyd
^ Jerzy Neyman (1934) On the two different aspects of the representative method: The method of stratified sampling and the method of purposive selection. Journal of the Royal Statistical Society 97 (4) 557-625 JSTOR 2342192
^ Dunn, Peter (1997-01). “James Lind (1716-94) of Edinburgh and the treatment of scurvy”. Archives of Disease in Childhood: Fetal and Neonatal Edition 76 (1): 64-65. doi:10.1136/fn.76.1.F64. PMC 1720613. PMID 9059193.
^ ^a ^b Klaus Hinkelmann (2012). Design and Analysis of Experiments, Special Designs and Applications. John Wiley & Sons. p. xvii. ISBN 9780470530689
^ ^a ^b Charles Sanders Peirce, Joseph Jastrow (1885). “On Small Differences in Sensation”. Memoirs of the National Academy of Sciences 3: 73-83.
^ ^a ^b Ian Hacking (1988-09). “Telepathy: Origins of Randomization in Experimental Design”. Isis 79 (A Special Issue on Artifact and Experiment, number 3): 427-451. doi:10.1086/354775. JSTOR 234674. MR1013489.
^ ^a ^b Stephen Mack Stigler (1992-11). “A Historical View of Statistical Concepts in Psychology and Educational Research”. American Journal of Education 101 (1): 60-70. doi:10.1086/444032.
^ ^a ^b Trudy Dehue (1997-12). “Deception, Efficiency, and Random Groups: Psychology and the Gradual Origination of the Random Group Design”. Isis 88 (4): 653-673. doi:10.1086/383850. PMID 9519574.
^ C.S. Peirce (1876). “Note on the Theory of the Economy of Research”. Coast Survey Report: 197-201. , actually published 1879, NOAA PDF Eprint.
Reprinted in Collected Papers 7, paragraphs 139-157, also in Writings 4, pp.72-78, and in Charles Sanders Peirce (1967年7-8月). “Note on the Theory of the Economy of Research”. Operations Research 15 (4): 643-648. doi:10.1287/opre.15.4.643. JSTOR 168276.
^ Smith, Kirstine (1918). “On the Standard Deviations of Adjusted and Interpolated Values of an Observed Polynomial Function and its Constants and the Guidance they give Towards a Proper Choice of the Distribution of Observations”. Biometrika 12 (1/2): 1-85. doi:10.2307/2331929. JSTOR 2331929. https://zenodo.org/record/1431591.
^ Abraham Wald (1945) "Sequential Tests of Statistical Hypotheses", Annals of Mathematical Statistics, 16 (2), 117-186.
^ Johnson, N.L. (1961). "Sequential analysis: a survey." Journal of the Royal Statistical Society, Series A. Vol. 124 (3), 372-411. (pages 375-376)
^ Herman Chernoff (1972) Sequential Analysis and Optimal Design, SIAM Monograph. ISBN 978-0898710069
^ Zacks, S. (1996) "Adaptive Designs for Parametric Models". In: Ghosh, S. and Rao, C. R., (Eds) (1996). "Design and Analysis of Experiments," Handbook of Statistics, Volume 13. North-Holland. ISBN 0-444-82061-2. (pp.151-180)
^ Robbins, H. (1952). “Some Aspects of the Sequential Design of Experiments”. Bulletin of the American Mathematical Society 58 (5): 527-535. doi:10.1090/S0002-9904-1952-09620-8.
^ Hald, Anders (1998) A History of Mathematical Statistics. New York: Wiley. ^{[要ページ番号]}
^ Box, Joan Fisher (1978) R. A. Fisher: The Life of a Scientist, Wiley. ISBN 0-471-09300-9 (pp.93-166)
^ Edwards, A.W.F. (2005). “R. A. Fisher, Statistical Methods for Research Workers, 1925”. In Grattan-Guinness, Ivor. Landmark writings in Western mathematics 1640-1940. Amsterdam Boston: Elsevier. ISBN 9780444508713
^ Stanley, J. C. (1966). “The Influence of Fisher's "The Design of Experiments" on Educational Research Thirty Years Later”. American Educational Research Journal 3 (3): 223-229. doi:10.3102/00028312003003223.
^ Box, JF (1980-02). “R. A. Fisher and the Design of Experiments, 1922-1926”. The American Statistician 34 (1): 1-7. doi:10.2307/2682986. JSTOR 2682986.
^ Frank Yates (1964-06). “Sir Ronald Fisher and the Design of Experiments”. Biometrics 20 (2): 307-321. doi:10.2307/2528399. JSTOR 2528399.
^ Stanley, Julian C. (1966). “The Influence of Fisher's "The Design of Experiments" on Educational Research Thirty Years Later”. American Educational Research Journal 3 (3): 223-229. doi:10.3102/00028312003003223. JSTOR 1161806.
^ ^a ^b ^c Stigler (1986, Chapter 3: Inverse Probability)
^ Hald (1998)^{[要ページ番号]}
^ Lucien Le Cam (1986) Asymptotic Methods in Statistical Decision Theory: pp.336, 618-621（von Mises と Bernstein）.
^ ^a ^b ^c Stephen. E. Fienberg, (2006) When did Bayesian Inference become "Bayesian"? Archived 2014-09-10 at the Wayback Machine. Bayesian Analysis, 1 (1), 1-40. See page 5.
^ ^a ^b Aldrich, A (2008). “R. A. Fisher on Bayes and Bayes' Theorem”. Bayesian Analysis 3 (1): 161-170. doi:10.1214/08-ba306.
^ Jerzy Neyman (1977). “Frequentist probability and frequentist statistics”. Synthese 36 (1): 97-131. doi:10.1007/BF00485695.
^ Jeff Miller, "Earliest Known Uses of Some of the Words of Mathematics (B)" "The term Bayesian entered circulation around 1950. R. A. Fisher used it in the notes he wrote to accompany the papers in his Contributions to Mathematical Statistics (1950). Fisher thought Bayes's argument was all but extinct for the only recent work to take it seriously was Harold Jeffreys's Theory of Probability (1939). In 1951 L. J. Savage, reviewing Wald's Statistical Decisions Functions, referred to "modern, or unBayesian, statistical theory" ("The Theory of Statistical Decision," Journal of the American Statistical Association, 46, p.58.). Soon after, however, Savage changed from being an unBayesian to being a Bayesian."
^ ^a ^b ^c José-Miguel Bernardo (2005). “Reference analysis”. Bayesian Thinking - Modeling and Computation. Handbook of Statistics. 25. pp. 17-90. doi:10.1016/S0169-7161(05)25002-2. ISBN 9780444515391
^ Donald A. Gillies (2000), Philosophical Theories of Probability. Routledge. ISBN 0-415-18276-X pp.50-1
^ E.T. Jaynes Probability Theory: The Logic of Science Cambridge University Press, (2003). ISBN 0-521-59271-2
^ O'Connor, John J.; Robertson, Edmund F., “統計学の歴史”, MacTutor History of Mathematics archive, University of St Andrews .
^ J.M. Bernardo, A.F.M. Smith (1994). "Bayesian Theory". Chichester: Wiley.
^ Wolpert, RL (2004). “A conversation with James O. Berger”. Statistical Science 9: 205-218. doi:10.1214/088342304000000053. MR2082155.
^ Bernardo, J.M. (2006). "A Bayesian Mathematical Statistics Primer" (PDF). Proceedings of the Seventh International Conference on Teaching Statistics [CDROM]. Salvador (Bahia), Brazil: International Association for Statistical Education.
^ C.M. Bishop (2007) Pattern Recognition and Machine Learning. Springer ISBN 978-0387310732
^ 統計学の歴史〜古代ローマから現代まで〜 | AVILEN AI Trend 2020年4月14日、2022年6月26日閲覧。