浮動小数点数を解説文に含む用語の検索結果

「浮動小数点数」を解説文に含む見出し語の検索結果(1～10/2022件中)

浮動小数点数 - Weblio日本語例文用例辞書

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/03/26 15:29 UTC 版)「浮動小数点数」の記事における「積み残し」の解説情報落ちが繰り返し起こる場合を言う。たと...

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/06/19 17:06 UTC 版)「浮動小数点数」の記事における「浮動小数点数のフォーマット」の解説浮動小数点数のフォーマ...

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/03/26 15:29 UTC 版)「浮動小数点数」の記事における「FP8」の解説IEEE 754 形式から派生した浮動小数...

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/03/26 15:29 UTC 版)「浮動小数点数」の記事における「GustafsonのPosit」の解説この方法は浜田方式...

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/03/26 15:29 UTC 版)「浮動小数点数」の記事における「丸め誤差」の解説仮数部の桁数が有限であるため、収まらない...

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/03/26 15:29 UTC 版)「浮動小数点数」の記事における「桁落ち」の解説絶対値がほぼ等しい異符号の数値同士の加算後...

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2021/12/04 08:56 UTC 版)「IEEE 754」の記事における「浮動小数点数の比較」の解説浮動小数点数の比較は浮動小...

読み方：ふどうしょうすうてん浮動小数点数における、位置が固定されない小数点。一般的には、小数点そのものより、その小数点を使った数や表現方法、またはコンピューターのプログラムなどの浮動小数点数型の呼称と...

< 前の結果 | 次の結果 >