cancellation of significant digitsとは? わかりやすく解説

Weblio 辞書 > コンピュータ > IT用語辞典 > cancellation of significant digitsの意味・解説 

桁落ち

読み方けたおち
【英】cancellation of significant digits

桁落ちとは、浮動小数点数計算において、絶対値が近い数値同士減算をすると有効桁数小さくなってしまうことである。

例えば、有効桁数4桁の0.1234と0.1233の減算結果は0.0001となり有効数字が1になってしまう。これは固定小数点では発生しない

有効桁数小さ場合計算繰り返す誤差蓄積され時として大きな誤差となることがあるこのように計算途中の桁落ちの発生考慮しない大きな問題引き起こす可能性がある。

桁落ちを回避するためには、浮動小数点を使う場合では計算の順序変更したり、計算式工夫により似たような数値同士減算回避する方法などがある。

プログラミングのほかの用語一覧
コーディング:  関数  下位バイト  仮引数  桁落ち  基数  逆ポーランド記法  記憶クラス

「cancellation of significant digits」の例文・使い方・用例・文例

Weblio日本語例文用例辞書はプログラムで機械的に例文を生成しているため、不適切な項目が含まれていることもあります。ご了承くださいませ。


英和和英テキスト翻訳>> Weblio翻訳
英語⇒日本語日本語⇒英語
  

辞書ショートカット

すべての辞書の索引

cancellation of significant digitsのお隣キーワード
検索ランキング

   

英語⇒日本語
日本語⇒英語
   



cancellation of significant digitsのページの著作権
Weblio 辞書 情報提供元は 参加元一覧 にて確認できます。

   
IT用語辞典バイナリIT用語辞典バイナリ
Copyright © 2005-2024 Weblio 辞書 IT用語辞典バイナリさくいん。 この記事は、IT用語辞典バイナリ桁落ちの記事を利用しております。
Tanaka Corpusのコンテンツは、特に明示されている場合を除いて、次のライセンスに従います:
 Creative Commons Attribution (CC-BY) 2.0 France.
この対訳データはCreative Commons Attribution 3.0 Unportedでライセンスされています。
浜島書店 Catch a Wave
Copyright © 1995-2024 Hamajima Shoten, Publishers. All rights reserved.
株式会社ベネッセコーポレーション株式会社ベネッセコーポレーション
Copyright © Benesse Holdings, Inc. All rights reserved.
研究社研究社
Copyright (c) 1995-2024 Kenkyusha Co., Ltd. All rights reserved.
日本語WordNet日本語WordNet
日本語ワードネット1.1版 (C) 情報通信研究機構, 2009-2010 License All rights reserved.
WordNet 3.0 Copyright 2006 by Princeton University. All rights reserved. License
日外アソシエーツ株式会社日外アソシエーツ株式会社
Copyright (C) 1994- Nichigai Associates, Inc., All rights reserved.
「斎藤和英大辞典」斎藤秀三郎著、日外アソシエーツ辞書編集部編
EDRDGEDRDG
This page uses the JMdict dictionary files. These files are the property of the Electronic Dictionary Research and Development Group, and are used in conformance with the Group's licence.

©2024 GRAS Group, Inc.RSS