丸め誤差

デジタル大辞泉

まるめ‐ごさ【丸め誤差】

読み方：まるめごさ

《rounding error》四捨五入や切り上げ・切り捨てにより生じる数値計算上の誤差のこと。二進法に基づくコンピューターによる数値計算の場合、この影響が顕著に現れる場合があるため、より正しい計算結果を得るためには、プログラムの工夫などが必要となる。

IT用語辞典バイナリ

丸め誤差

読み方：まるめごさ
【英】rounding error, round-off error

丸め誤差とは、数値の計算処理の都合上、ある程度で値を省略することにより、計算結果に現れてくる誤差のことである。

丸め誤差の「丸め」とは、任意の桁数以上の精度の数値を端数として処理してしまうことであり、四捨五入や切り上げ、切り捨てなどを含んでいる。丸め処理は主に数値の桁数を揃えるために行われる。

例えば0.1234という数値を「小数点第4位以下切り捨て」によって丸めると、数値は0.123となる。このとき0.004の誤差が生じる。丸め誤差を含んだ値を使って計算を繰り返し行うと、誤差が蓄積し、計算結果が本来の値とずれてしまうことがある。

丸め誤差は、コンピュータの計算でよく生じる誤差の一つとして知られている。同様の計算誤差としては、打ち切り誤差などがある。

プログラミングのほかの用語一覧

コーディング：

コーディング規約  構造化プログラミング  マスク  丸め誤差  前判定ループ  マスクビット  丸め

>>コーディングカテゴリの他の用語

ウィキペディア小見出し辞書

丸め誤差

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2021/11/30 23:37 UTC 版)

「数値解析」の記事における「丸め誤差」の解説

全てのデジタルコンピュータのモデルである有限状態機械では、数値を有限の桁数で表現するためあらゆる実数を正確に表現するのは不可能であり、端数処理にともなう誤差が発生する。この誤差を丸め誤差という。この誤差は計算を倍精度で行うなど、コンピュータの計算精度を上げることによって減らすことができる。

丸め誤差

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/03/26 15:29 UTC 版)

「浮動小数点数」の記事における「丸め誤差」の解説

仮数部の桁数が有限であるため、収まらない部分の最上位桁で四捨五入（2進法では0捨1入）して仮数部の桁数に丸めることによる誤差。