「浮動小数点」を解説文に含む見出し語の検索結果(1~10/4274件中)
整数値または浮動小数点値。例: 123 98.7 1.09e8...
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2022/03/26 15:29 UTC 版)「浮動小数点数」の記事における「積み残し」の解説情報落ちが繰り返し起こる場合を言う。たと...
定点記法から浮動小数点記法へ変換する浮動小数点数で行われる算術演算このコンピュータは1秒あたり100万回の1浮動小数点計算処理を実行できる浮動小数点方式の記数法で表される数...
定点記法から浮動小数点記法へ変換する浮動小数点数で行われる算術演算このコンピュータは1秒あたり100万回の1浮動小数点計算処理を実行できる浮動小数点方式の記数法で表される数...
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2022/06/19 17:06 UTC 版)「浮動小数点数」の記事における「浮動小数点数のフォーマット」の解説浮動小数点数のフォーマ...
読み方:せいすうえんざん《integer arithmetic》コンピューターの四則演算で整数を使って行う演算。→浮動小数点演算...
読み方:せいすうえんざん《integer arithmetic》コンピューターの四則演算で整数を使って行う演算。→浮動小数点演算...
読み方:せいすうえんざん《integer arithmetic》コンピューターの四則演算で整数を使って行う演算。→浮動小数点演算...
< 前の結果 | 次の結果 >