けた‐おち【桁落ち】
桁落ち
【英】cancellation of significant digits
桁落ちとは、浮動小数点数の計算において、絶対値が近い数値同士の減算をすると有効桁数が小さくなってしまうことである。
例えば、有効桁数4桁の0.1234と0.1233の減算結果は0.0001となり有効数字が1桁になってしまう。これは固定小数点では発生しない。
有効桁数が小さい場合、計算を繰り返すと誤差が蓄積され、時として大きな誤差となることがある。このように、計算途中の桁落ちの発生を考慮しないと大きな問題を引き起こす可能性がある。
桁落ちを回避するためには、浮動小数点を使う場合では計算の順序を変更したり、計算式の工夫により似たような数値同士の減算を回避する方法などがある。
桁落ち
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2022/03/26 15:29 UTC 版)
絶対値がほぼ等しい異符号の数値同士の加算後や、同符号でほぼ等しい数値同士の減算の後、正規化で有効数字が減少すること。詳細は桁落ちを参照。
※この「桁落ち」の解説は、「浮動小数点数」の解説の一部です。
「桁落ち」を含む「浮動小数点数」の記事については、「浮動小数点数」の概要を参照ください。
- 桁落ちのページへのリンク