オーバーフロー／アンダーフロー
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/03/26 15:29 UTC 版)
「浮動小数点数」の記事における「オーバーフロー／アンダーフロー」の解説
演算結果が指数部で表現できる範囲を超える場合があるが、最大値を超えた場合はオーバーフロー、絶対値の最小より小さい場合はアンダーフローという。IEEE 754の場合、アンダーフローは、まず結果が非正規化数となり精度が低下し、さらに進むと結果が0になる。
※この「オーバーフロー／アンダーフロー」の解説は、「浮動小数点数」の解説の一部です。
「オーバーフロー／アンダーフロー」を含む「浮動小数点数」の記事については、「浮動小数点数」の概要を参照ください。
ウィキペディア小見出し辞書の「オーバーフロー／アンダーフロー」の項目はプログラムで機械的に意味や本文を生成しているため、不適切な項目が含まれていることもあります。ご了承くださいませ。 お問い合わせ。
- オーバーフロー／アンダーフローのページへのリンク
