丸めの手法

ウィキペディア小見出し辞書

丸めの手法

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/07/26 10:05 UTC 版)

「有効数字」の記事における「丸めの手法」の解説

n 桁の有効数字で丸めるのは、端数処理での一形式である。 n 桁の有効数字で丸めるという作業は、単に n 桁に丸めるというだけではなく、異なるスケールの数字を統合して取り扱う点でより重要な技法である。 浮動小数点表示は、コンピュータ上での有効数字表現に丸める典型例である。 0ではない数字で最も左にあるものから桁数を数え始める。例えば、1 000 では '1' から、0.02 では '2' から数え始める。 n 桁の数字を保つ。足りない桁は0で埋める。 適切な手法で丸める。例えば 0.039 を有効数字1桁に丸める場合、結果は 0.04 となる。丸め方の境界線にある場合には、いくつか異なった方法がある。詳しくは、端数処理を参照。 2桁の有効数字に丸める場合、 12 300 は 12 000 となる。 0.00123 は 0.0012 となる。 0.1 は 0.10 となる（右に続く0は2桁に丸めたことを示している）。 0.02084 は 0.021 となる。 0.0125 は、四捨五入では 0.013 である。偶数への丸めでは 0.012 である（数値処理の分野で用いられ、5を丸める際、丸めた先の数字を偶数にすることで切り上げ・切り捨ての向きを均等にし、バイアスがかからないようにしている）。 n 桁の有効数字に丸める際の問題点は、n 桁目の数字が必ずしも明確とは限らない点である。これは、整数部にある0（小数点より左にある0）について発生する問題である。上記の最初の例では、12 300 を丸めれば 12 000 になるが、丸めた後の 12 000 だけを見れば、有効数字は2桁から5桁までのいずれにも受け取れるので、何桁目の数字を丸めたのか不明確となる。 丸めのレベルを明示するときに科学的記数法を用いれば、あいまいさを減らすことができる。例えば、上の例で 1.2 × 104 とすれば、有効桁数は2桁であると明示できる。 丸めのレベルは、例えば、"20 000 to 2 s.f."（significant-figures の略語）のように有効桁数が2桁であると特別に明示することも可能である。最後の有効数字に下線を引く（"20000" など）という方法もあるが、さほど一般的でない。 いかなる場合にも最良なアプローチは、不確かさと明確さを分けて記述することである。例えば、 20 000 ± 1% という書き方をすれば、有効数字のルールを適用しなくても明瞭な記述ができる。