有効桁数・小数
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/02/16 05:48 UTC 版)
「Microsoft Excel」の記事における「有効桁数・小数」の解説
有限資源に基づくコンピュータ全般に共通する性質であるが、理想的な数学とは異なり、取り扱える数の範囲には制限がある。Excelではこの有効桁数はそれほど大きくないため、極端に大きな数字や、小数点以下の桁数が非常に大きい数字を扱うと、まれに問題を生じることがある。 また、2のマイナス累乗 (2-n) の形で表すことのできない小数は、2進法では無限小数となり、こうした数をコンピュータ上で扱うと必ず切り捨て誤差が発生する。この一見奇妙なふるまいは、計算機の数値計算に関する専門知識を持たない利用者にはバグに見える場合がある。このためマイクロソフトは計算誤差が発生していないかのように見せかけるための補正を行なっている。しかしExcelではIEEE 754規格に準拠していない部分が存在するため、専門家が数値計算に使うにはかえって向かない。
※この「有効桁数・小数」の解説は、「Microsoft Excel」の解説の一部です。
「有効桁数・小数」を含む「Microsoft Excel」の記事については、「Microsoft Excel」の概要を参照ください。
ウィキペディア小見出し辞書の「有効桁数小数」の項目はプログラムで機械的に意味や本文を生成しているため、不適切な項目が含まれていることもあります。ご了承くださいませ。
お問い合わせ。
- 有効桁数小数のページへのリンク
