有効桁数・小数とは? わかりやすく解説

Weblio 辞書 > 辞書・百科事典 > ウィキペディア小見出し辞書 > 有効桁数・小数の意味・解説 

有効桁数・小数

出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2022/02/16 05:48 UTC 版)

Microsoft Excel」の記事における「有効桁数・小数」の解説

有限資源に基づくコンピュータ全般に共通する性質であるが、理想的な数学とは異なり取り扱える数の範囲には制限がある。Excelではこの有効桁数それほど大きくないため、極端に大きな数字や、小数点以下の桁数が非常に大き数字を扱うと、まれに問題生じことがあるまた、2のマイナス累乗 (2-n) の形で表すことのできない小数は、2進法では無限小数となり、こうした数をコンピュータ上で扱うと必ず切り捨て誤差発生する。この一見奇妙なふるまいは、計算機数値計算に関する専門知識持たない利用者にはバグ見え場合がある。このためマイクロソフト計算誤差発生していないかのように見せかけるための補正行なっている。しかしExcelではIEEE 754規格準拠していない部分存在するため、専門家数値計算に使うにはかえって向かない

※この「有効桁数・小数」の解説は、「Microsoft Excel」の解説の一部です。
「有効桁数・小数」を含む「Microsoft Excel」の記事については、「Microsoft Excel」の概要を参照ください。

ウィキペディア小見出し辞書の「有効桁数・小数」の項目はプログラムで機械的に意味や本文を生成しているため、不適切な項目が含まれていることもあります。ご了承くださいませ。 お問い合わせ



英和和英テキスト翻訳>> Weblio翻訳
英語⇒日本語日本語⇒英語
  

辞書ショートカット

すべての辞書の索引

「有効桁数・小数」の関連用語

有効桁数・小数のお隣キーワード
検索ランキング

   

英語⇒日本語
日本語⇒英語
   



有効桁数・小数のページの著作権
Weblio 辞書 情報提供元は 参加元一覧 にて確認できます。

   
ウィキペディアウィキペディア
Text is available under GNU Free Documentation License (GFDL).
Weblio辞書に掲載されている「ウィキペディア小見出し辞書」の記事は、WikipediaのMicrosoft Excel (改訂履歴)の記事を複製、再配布したものにあたり、GNU Free Documentation Licenseというライセンスの下で提供されています。

©2025 GRAS Group, Inc.RSS