半精度数の例
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2021/08/22 17:09 UTC 版)
浮動小数点数値のビット列を十六進法で表した例を以下に示す。これには符号、オフセットを加えた指数値、仮数値が含まれている。 3c00 = 13c01 = 1.0009765625、1より大きい最小の数3c02 = 1.0019531253fff = 1.9990234375、2より小さい最大の数4000 = 2c000 = -27bfe = 654727bff = 65504 (半精度数の正の最大値。符号なし16ビット整数の最大数(65535)と大差ない)fbff = -65504 (半精度数の負の最大値)0400 = 2-14 ≈ 6.10352 × 10-5 (最小の正の正規化数)0001 = 2-24 ≈ 5.96046 × 10-8 (最小の正の非正規化数)0000 = 08000 = -07c00 = 正の無限大fc00 = 負の無限大3555 ≈ 0.33325... ≈ 1/3 1/3は切り下げられる。これは仮数部のビット数が奇数であるため(1/3は2進小数で0.01010101...)である。
※この「半精度数の例」の解説は、「半精度浮動小数点数」の解説の一部です。
「半精度数の例」を含む「半精度浮動小数点数」の記事については、「半精度浮動小数点数」の概要を参照ください。
- 半精度数の例のページへのリンク