数値と数学例外
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2021/11/27 00:30 UTC 版)
71Bの浮動小数点数は、IEEE方式に準拠しており、NaN(非数)などにも対応している。 71Bでは、ゼロ除算、オーバーフローなどの数学例外(math exceptions)が発生した場合に、エラーを生起させずに計算結果を省略時値(default value)に設定して、計算を続行することが可能である。
※この「数値と数学例外」の解説は、「HP-71B」の解説の一部です。
「数値と数学例外」を含む「HP-71B」の記事については、「HP-71B」の概要を参照ください。
- 数値と数学例外のページへのリンク