けた‐おち【桁落ち】
桁落ち
【英】cancellation of significant digits
桁落ちとは、浮動小数点数の計算において、絶対値が近い数値同士の減算をすると有効桁数が小さくなってしまうことである。
例えば、有効桁数4桁の0.1234と0.1233の減算結果は0.0001となり有効数字が1桁になってしまう。これは固定小数点では発生しない。
有効桁数が小さい場合、計算を繰り返すと誤差が蓄積され、時として大きな誤差となることがある。このように、計算途中の桁落ちの発生を考慮しないと大きな問題を引き起こす可能性がある。
桁落ちを回避するためには、浮動小数点を使う場合では計算の順序を変更したり、計算式の工夫により似たような数値同士の減算を回避する方法などがある。
- けたおちのページへのリンク