IT用語辞典バイナリ |
丸め誤差
【英】rounding error, round-off error
丸め誤差とは、数値の計算処理の都合上、ある程度で値を省略することにより、計算結果に現れてくる誤差のことである。
丸め誤差の「丸め」とは、任意の桁数以上の精度の数値を端数として処理してしまうことであり、四捨五入や切り上げ、切り捨てなどを含んでいる。丸め処理は主に数値の桁数を揃えるために行われる。
例えば0.1234という数値を「小数点第4位以下切り捨て」によって丸めると、数値は0.123となる。このとき0.004の誤差が生じる。丸め誤差を含んだ値を使って計算を繰り返し行うと、誤差が蓄積し、計算結果が本来の値とずれてしまうことがある。
丸め誤差は、コンピュータの計算でよく生じる誤差の一つとして知られている。同様の計算誤差としては、打ち切り誤差などがある。
ウィキペディア |
誤差
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2012/01/21 23:31 UTC 版)
(丸め誤差 から転送)
誤差(ごさ、error)とは一般に期待される値に対するずれの大きさのこと。測定値や推定値についてはその真の値に対する差を指す。
一般に精度を表す語として用いられており、定量的に物事を語る場合には忘れることのできないものである。誤差は少ないほど望ましい。
自動車などの機械類の設計を行うときに製作段階での誤差を考慮して「まち」や「あそび」を作らないとできた機械はうまく動かない。したがって、設計者は常に部品製作上の許容誤差範囲を設計に織り込んでいる。この誤差範囲を公差(寸法公差・幾何公差)という。
本来数値で表されるものには光速のように値が定義そのものであったり、円周率のように定義から値が一意に決まるものを除いて必ず誤差がある。また円周率(π)などは、(直径に対する円周の長さの割合という)定義からは数値が一意に決まるにもかかわらず、それが無理数であるために、それを現実に小数で表示しようとすると必ず誤差(丸め誤差)が生じる。科学的な文脈において数値を扱う際には誤差が存在しない場合を除いて必ず誤差が表示されている。台風の予想円などは身近にある誤差表示の一例である。
誤差の発生原因としては、データを測定する際に生じる測定誤差や、データを計算する際に生じる計算誤差、標本調査による統計誤差(標準誤差)等が挙げられる。また実際におきる現象と数学的なモデルに違いがある場合にも誤差は生じる。
丸め誤差に関係した商品
- 【送料無料】 数値計算とその応用 FORTRAN77 INFORMATION & COMPUTING / ローレンス・V・アトキンソン 【全集・双書】HMV ローソンホットステーション R
- 【送料無料】数値計算楽天ブックス
- 【送料無料】数値計算とその応用楽天ブックス