「浮動小数点演算」を解説文に含む見出し語の検索結果(21～30/1128件中)
読み方：てらふろっぷす《tera floating-point operations per second》コンピューターの処理能力を表す単位の一。tera(テラ)は1兆（10の12乗）、FLOPS(...
読み方：てらふろっぷす《tera floating-point operations per second》コンピューターの処理能力を表す単位の一。tera(テラ)は1兆（10の12乗）、FLOPS(...
読み方：てらふろっぷす《tera floating-point operations per second》コンピューターの処理能力を表す単位の一。tera(テラ)は1兆（10の12乗）、FLOPS(...
読み方：てらふろっぷす《tera floating-point operations per second》コンピューターの処理能力を表す単位の一。tera(テラ)は1兆（10の12乗）、FLOPS(...
読み方：てらふろっぷす《tera floating-point operations per second》コンピューターの処理能力を表す単位の一。tera(テラ)は1兆（10の12乗）、FLOPS(...
フルスペル：Giga Floating point number Operations Per Second読み方：ギガフロップス別名：GigaFLOPSGFLOPSとは、コンピュータの処理性能を表す...
フルスペル：Giga Floating point number Operations Per Second読み方：ギガフロップス別名：GigaFLOPSGFLOPSとは、コンピュータの処理性能を表す...
フルスペル：Giga Floating point number Operations Per Second読み方：ギガフロップス別名：GigaFLOPSGFLOPSとは、コンピュータの処理性能を表す...
フルスペル：Giga Floating point number Operations Per Second読み方：ギガフロップス別名：GigaFLOPSGFLOPSとは、コンピュータの処理性能を表す...
【英】underflowアンダーフローとは、浮動小数点演算処理について、計算結果の指数部が小さくなり過ぎ、使用している記述方式では数値が表現できなくなることである。これに対して、計算結果が膨大になり過...