まるめごさ

デジタル大辞泉

まるめ‐ごさ【丸め誤差】

読み方：まるめごさ

《rounding error》四捨五入や切り上げ・切り捨てにより生じる数値計算上の誤差のこと。二進法に基づくコンピューターによる数値計算の場合、この影響が顕著に現れる場合があるため、より正しい計算結果を得るためには、プログラムの工夫などが必要となる。

IT用語辞典バイナリ

丸め誤差

読み方：まるめごさ
【英】rounding error, round-off error

丸め誤差とは、数値の計算処理の都合上、ある程度で値を省略することにより、計算結果に現れてくる誤差のことである。

丸め誤差の「丸め」とは、任意の桁数以上の精度の数値を端数として処理してしまうことであり、四捨五入や切り上げ、切り捨てなどを含んでいる。丸め処理は主に数値の桁数を揃えるために行われる。

例えば0.1234という数値を「小数点第4位以下切り捨て」によって丸めると、数値は0.123となる。このとき0.004の誤差が生じる。丸め誤差を含んだ値を使って計算を繰り返し行うと、誤差が蓄積し、計算結果が本来の値とずれてしまうことがある。

丸め誤差は、コンピュータの計算でよく生じる誤差の一つとして知られている。同様の計算誤差としては、打ち切り誤差などがある。

プログラミングのほかの用語一覧

コーディング：

コーディング規約  構造化プログラミング  マスク  丸め誤差  前判定ループ  マスクビット  丸め

>>コーディングカテゴリの他の用語