測定値だけが有効数字の対象である
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2022/06/12 05:40 UTC 版)
「有効数字」の記事における「測定値だけが有効数字の対象である」の解説
有効数字に注意して計算する際には、重要なポイントがある。乗除算をするときは、有効桁数を測定値の中で最も有効桁数が少ないものに合わせるという点である。 以下のように厳密に求まっていたり定義されている値については、有効桁数を少なくとも気にすることはない。あくまでも、測定の不確かさが存在する測定値の有効桁数を生かすのが、有効数字の概念(不確かさの桁の明示)だからである。 中途半端な値になり得ない、個数のような整数値(例えば、バッグの中のオレンジの数) 法的・制度的に定義された換算係数(例えば、計量単位の換算係数)例えば、1トロイオンスは、日本では、0.031 1035 kg と定義されている(英米では、0.031 103 4768 kg と定義)。 例えば、地球の扁平率は、1/298.257 222 101、地球の赤道半径は 6 378 137 m(正確に)、と定義されている。 任意に定義されている定数(例えば、ミリは0.001倍 (10-3倍)、キロは1000倍 (103倍)) 線形操作(例えば、3倍や1/2倍) 数学定数(例えば、円周率 π やネイピア数 e) なお、上述のような定数とは異なり、物理定数でも万有引力定数のようなものには有効桁数がある。なぜなら、これらは物理的に測定された値から求められた数値だからであり、有効数字のルールが適用される対象となる。
※この「測定値だけが有効数字の対象である」の解説は、「有効数字」の解説の一部です。
「測定値だけが有効数字の対象である」を含む「有効数字」の記事については、「有効数字」の概要を参照ください。
- 測定値だけが有効数字の対象であるのページへのリンク