桁落ちとは? わかりやすく解説

Weblio 辞書 > コンピュータ > IT用語辞典 > 桁落ちの意味・解説 

桁落ち

読み方けたおち
【英】cancellation of significant digits

桁落ちとは、浮動小数点数計算において、絶対値が近い数値同士減算をすると有効桁数小さくなってしまうことである。

例えば、有効桁数4桁の0.1234と0.1233の減算結果は0.0001となり有効数字が1になってしまう。これは固定小数点では発生しない

有効桁数小さ場合計算繰り返す誤差蓄積され時として大きな誤差となることがあるこのように計算途中の桁落ちの発生考慮しない大きな問題引き起こす可能性がある。

桁落ちを回避するためには、浮動小数点を使う場合では計算の順序変更したり、計算式工夫により似たような数値同士減算回避する方法などがある。

プログラミングのほかの用語一覧
コーディング:  関数  下位バイト  仮引数  桁落ち  基数  逆ポーランド記法  記憶クラス


このページでは「IT用語辞典バイナリ」から桁落ちを検索した結果を表示しています。
Weblioに収録されているすべての辞書から桁落ちを検索する場合は、下記のリンクをクリックしてください。
 全ての辞書から桁落ちを検索

英和和英テキスト翻訳>> Weblio翻訳
英語⇒日本語日本語⇒英語
  

辞書ショートカット

すべての辞書の索引

「桁落ち」の関連用語

桁落ちのお隣キーワード
検索ランキング

   

英語⇒日本語
日本語⇒英語
   



桁落ちのページの著作権
Weblio 辞書 情報提供元は 参加元一覧 にて確認できます。

   
IT用語辞典バイナリIT用語辞典バイナリ
Copyright © 2005-2024 Weblio 辞書 IT用語辞典バイナリさくいん。 この記事は、IT用語辞典バイナリ桁落ちの記事を利用しております。

©2024 GRAS Group, Inc.RSS