半精度数の例とは? わかりやすく解説

半精度数の例

出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2021/08/22 17:09 UTC 版)

半精度浮動小数点数」の記事における「半精度数の例」の解説

浮動小数点数値のビット列を十六進法表した例を以下に示す。これには符号オフセット加えた指数値仮数値が含まれている。 3c00 = 13c01 = 1.0009765625、1より大きい最小の数3c02 = 1.0019531253fff = 1.9990234375、2より小さ最大の数4000 = 2c000 = -27bfe = 654727bff = 65504 (半精度数の正の最大値符号なし16ビット整数最大数(65535)と大差ない)fbff = -65504 (半精度数の負の最大値)0400 = 2-14 ≈ 6.10352 × 10-5最小の正の正規化数)0001 = 2-24 ≈ 5.96046 × 10-8最小の正の非正規化数0000 = 08000 = -07c00 = 正の無限大fc00 = 負の無限大3555 ≈ 0.33325... ≈ 1/3 1/3は切り下げられる。これは仮数部のビット数が奇数であるため(1/3は2進小数で0.01010101...)である。

※この「半精度数の例」の解説は、「半精度浮動小数点数」の解説の一部です。
「半精度数の例」を含む「半精度浮動小数点数」の記事については、「半精度浮動小数点数」の概要を参照ください。

ウィキペディア小見出し辞書の「半精度数の例」の項目はプログラムで機械的に意味や本文を生成しているため、不適切な項目が含まれていることもあります。ご了承くださいませ。 お問い合わせ



英和和英テキスト翻訳>> Weblio翻訳
英語⇒日本語日本語⇒英語
  

辞書ショートカット

すべての辞書の索引

「半精度数の例」の関連用語

半精度数の例のお隣キーワード
検索ランキング

   

英語⇒日本語
日本語⇒英語
   



半精度数の例のページの著作権
Weblio 辞書 情報提供元は 参加元一覧 にて確認できます。

   
ウィキペディアウィキペディア
Text is available under GNU Free Documentation License (GFDL).
Weblio辞書に掲載されている「ウィキペディア小見出し辞書」の記事は、Wikipediaの半精度浮動小数点数 (改訂履歴)の記事を複製、再配布したものにあたり、GNU Free Documentation Licenseというライセンスの下で提供されています。

©2025 GRAS Group, Inc.RSS