浮動小数点を解説文に含む用語の検索結果の12ページ目

「浮動小数点」を解説文に含む見出し語の検索結果(111～120/4274件中)

ふどうしょうすうてんえんざん - デジタル大辞泉

読み方：ふどうしょうすうてんえんざん小数点の位置が固定されない浮動小数点数を用いて行う四則演算。コンピューターにおいては、扱う数の絶対値が大きく異なっていても任意の誤差の範囲内で計算できるため、科学計...

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2020/06/13 01:57 UTC 版)「ノーススター・コンピューターズ」の記事における「FPB」の解説ノーススター社の最初の製...

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2016/10/08 15:16 UTC 版)「Quantum Effect Devices」の記事における「R4700」の解説SGI...

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/02/18 18:20 UTC 版)「倍精度浮動小数点数」の記事における「倍精度浮動小数点数の例」の解説バイト列（16進法表...

【英】underflowアンダーフローとは、浮動小数点演算処理について、計算結果の指数部が小さくなり過ぎ、使用している記述方式では数値が表現できなくなることである。これに対して、計算結果が膨大になり過...

読み方：アイヨンハチロクエスエックス別名：486SXi486SXとは、米Intel社によって開発された32bitマイクロプロセッサの名称である。i486シリーズ最初の製品であるi486DXの廉価版に相...