精度を過剰にしないこと
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/06/12 05:40 UTC 版)
もし、短距離走者が 100 mを 11.71秒で走ったら、平均のスピードはいくらになるだろうか? 電卓で距離を時間で割ると、8.539 709 65 m/s という値が出てくる。しかし、この値をそのまま記述するのは不適切であり、有効数字3桁とみて 8.54 m/s とするのが適切である。 仮に 100 m が完全に正しい値であり、11.71 秒の最下位の桁が不確かであって、11.705 秒以上 11.715 秒未満の範囲のどこかに真の値があるとしよう。すると、割った結果の真の値は 8.536 m/s から 8.544 m/s までのどこかになるはずである。したがって、小数第2位以下は信用できないので、8.54 m/s とするのが適切なのである。（もし 100 m のほうも完全に正しい値でないならば、割った結果の真の値がとりうる範囲は上記より広くなる。） 精度を表すための最もストレートな方法は、その正確さと不確かさを分けて記すことである。例えば、不確かさの範囲を ±0.085 m/s と定め、8.540±0.085 m/s または同じ意味で 8.540(85) m/s と記すのである。これは、不確かさそのものが重要で明確になっている場合に適している。この場合、有効数字のルールのときよりも多くの桁数を記したほうが安全でより望ましい。 もし答えの精度が重要でないならば、正確に分かっていない桁も続けて 8.5397 m/s のように記すのが安全である。 しかし、有効数字のルールを厳格に適用すれば、8.539 709 65 m/s という表記は 10 nm/s の桁まで速度が分かっていることを意味する。このような表記は、測定精度に比べて不適切な書き方である。この場合、有効数字3桁 (8.54 m/s) で結果を報告すれば、速度は 8.535 から 8.544 m/s の間であるのだと分かってもらえる。2桁 (8.5 m/s) で報告してしまうと、測定精度に対して丸め誤差が無視できないほど大きくなってしまう。 同様に、1000 mを53.7秒で走った場合の平均のスピードについて、18.621 973 9 m/s という値を用いるのは不適当であり、有効数字3桁として、18.6 m/s とする。
※この「精度を過剰にしないこと」の解説は、「有効数字」の解説の一部です。
「精度を過剰にしないこと」を含む「有効数字」の記事については、「有効数字」の概要を参照ください。
- 精度を過剰にしないことのページへのリンク
