「浮動小数点演算」を解説文に含む見出し語の検索結果(31~40/1128件中)
【英】underflowアンダーフローとは、浮動小数点演算処理について、計算結果の指数部が小さくなり過ぎ、使用している記述方式では数値が表現できなくなることである。これに対して、計算結果が膨大になり過...
読み方:かすう【英】mantissa仮数とは、浮動小数点演算において、基数のべき乗へ掛ける値のことである。数値は「(仮数)×(基数)指数」で表現される。例えば2進数で101は「0.101×23」と表さ...
読み方:かすう【英】mantissa仮数とは、浮動小数点演算において、基数のべき乗へ掛ける値のことである。数値は「(仮数)×(基数)指数」で表現される。例えば2進数で101は「0.101×23」と表さ...
読み方:かすう【英】mantissa仮数とは、浮動小数点演算において、基数のべき乗へ掛ける値のことである。数値は「(仮数)×(基数)指数」で表現される。例えば2進数で101は「0.101×23」と表さ...
フルスペル:Peta FLoating point Operations Per Second読み方:ペタフロップス別名:PetaFLOPSPFLOPSとは、コンピュータの処理性能を表す単位の一つで、...
スーパーコンピューターのうち、演算速度が数ペタフロップス(毎秒数千兆回の浮動小数点演算)程度のもの。特に10ペタフロップス以上のものを指し、日本では理化学研究所と富士通により共同開発された「京」が知ら...
スーパーコンピューターのうち、演算速度が数ペタフロップス(毎秒数千兆回の浮動小数点演算)程度のもの。特に10ペタフロップス以上のものを指し、日本では理化学研究所と富士通により共同開発された「京」が知ら...
スーパーコンピューターのうち、演算速度が数ペタフロップス(毎秒数千兆回の浮動小数点演算)程度のもの。特に10ペタフロップス以上のものを指し、日本では理化学研究所と富士通により共同開発された「京」が知ら...
読み方:りんぱっくコンピューターの演算速度を比較するベンチマークテストの一。浮動小数点演算を伴う連立方程式の解を求めるプログラムを実行し、理論上のピーク性能などを求める。スーパーコンピューターの性能指...
読み方:りんぱっくコンピューターの演算速度を比較するベンチマークテストの一。浮動小数点演算を伴う連立方程式の解を求めるプログラムを実行し、理論上のピーク性能などを求める。スーパーコンピューターの性能指...