エラー表示について
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2022/06/19 06:25 UTC 版)
ここでは、普通電卓または事務用電卓という前提で記す。このような電卓でエラー表示(E)となる状況は、大きく次の3通りに分けられる。 計算結果の絶対値が表示桁数を超えたとき(算術オーバーフロー)表示桁数は8桁・10桁・12桁の3種類が一般的であるが、例えば8桁の場合、「99999999+1」(結果は100000000)のような計算がこれに当たる。この計算では画面上「E 1.0000000」のように表示されるが、これは計算結果の上位8桁(10桁電卓であれば上位10桁、12桁電卓であれば上位12桁)を表示し、小数点は一億の位(10桁電卓であれば百億の位、12桁電卓であれば一兆の位)を示している。 ちなみに8桁電卓を例にすると、通常の計算で結果が最大になるのは、「99999999×99999999」(結果は9999999800000001、画面は「E 99999998.」のように表示される)だが、「%」キーを使った除算の場合は例えば「÷0.0000001%」の計算を行うと実質1000000000(10億)を掛けたのと同じになるため、結果が10000000000000000(1京)以上になることが起こり得る。そうなった場合は「E 0.」の表示となる。 ゼロ除算のとき数学的に定義できないため。画面には「E 0.」のように表示される。 負の数の平方根を計算したとき計算結果が実数でないため。この場合は画面には絶対値が等しい正の数の平方根に「E」を付した表示(例 -2の平方根を計算した場合は「E 1.4142135」)、機種によっては「E 0.」のように表示される。 なお、計算結果の絶対値が厳密な0ではないが表現可能な最小値より小さい値になった場合(アンダーフロー。8桁の場合の0.0000001未満の場合など)は0として扱われ、エラー表示はされない。
※この「エラー表示について」の解説は、「電卓」の解説の一部です。
「エラー表示について」を含む「電卓」の記事については、「電卓」の概要を参照ください。
- エラー表示についてのページへのリンク