「浮動小数点」を解説文に含む見出し語の検索結果(21~30/4274件中)
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2020/08/11 22:00 UTC 版)「単精度浮動小数点数」の記事における「単精度浮動小数点数の例」の解説浮動小数点数値のビッ...
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2022/03/26 15:29 UTC 版)「浮動小数点数」の記事における「桁落ち」の解説絶対値がほぼ等しい異符号の数値同士の加算後...
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2021/08/15 00:52 UTC 版)「プロセッサ」の記事における「浮動小数点演算装置 (floating point num...
読み方:ふどうしょうすうてん浮動小数点数における、位置が固定されない小数点。一般的には、小数点そのものより、その小数点を使った数や表現方法、またはコンピューターのプログラムなどの浮動小数点数型の呼称と...
読み方:ふどうしょうすうてん浮動小数点数における、位置が固定されない小数点。一般的には、小数点そのものより、その小数点を使った数や表現方法、またはコンピューターのプログラムなどの浮動小数点数型の呼称と...
読み方:ふどうしょうすうてんすうがたコンピューターのプログラムにおける、浮動小数点演算を用いたデータ処理の方式。極小な数や極大な数を扱えるため、科学計算をはじめ、固定小数点数型より広汎に用いられている...
読み方:ふどうしょうすうてんすうがたコンピューターのプログラムにおける、浮動小数点演算を用いたデータ処理の方式。極小な数や極大な数を扱えるため、科学計算をはじめ、固定小数点数型より広汎に用いられている...
読み方:ふどうしょうすうてんすうがたコンピューターのプログラムにおける、浮動小数点演算を用いたデータ処理の方式。極小な数や極大な数を扱えるため、科学計算をはじめ、固定小数点数型より広汎に用いられている...
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2021/08/22 17:09 UTC 版)「半精度浮動小数点数」の記事における「IEEE 754 半精度2進浮動小数点表現: bi...
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2021/03/28 10:15 UTC 版)「Alpha 21164」の記事における「浮動小数点演算ユニット」の解説2つの浮動小数点...