「浮動小数点」を解説文に含む見出し語の検索結果(11～20/4274件中)
読み方：せいすうえんざん《integer arithmetic》コンピューターの四則演算で整数を使って行う演算。→浮動小数点演算...
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/03/26 15:29 UTC 版)「浮動小数点数」の記事における「FP8」の解説IEEE 754 形式から派生した浮動小数...
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2021/12/04 08:56 UTC 版)「IEEE 754」の記事における「浮動小数点数の比較」の解説浮動小数点数の比較は浮動小...
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/03/26 15:29 UTC 版)「浮動小数点数」の記事における「情報落ち」の解説浮動小数点数値を加減算するときはまず指数...
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2020/11/24 15:35 UTC 版)「Javaに対する批判」の記事における「浮動小数点演算」の解説Javaの浮動小数点演算は...
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2021/12/26 17:01 UTC 版)「PDP-11」の記事における「浮動小数点プロセッサ （floating-point p...
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2021/12/26 17:01 UTC 版)「PDP-11」の記事における「浮動小数点命令セット （floating instruc...
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2021/07/14 08:29 UTC 版)「キーワード (C言語)」の記事における「浮動小数点型」の解説float, double...
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/03/26 15:29 UTC 版)「浮動小数点数」の記事における「GustafsonのPosit」の解説この方法は浜田方式...
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/03/26 15:29 UTC 版)「浮動小数点数」の記事における「丸め誤差」の解説仮数部の桁数が有限であるため、収まらない...