「浮動小数点演算」を解説文に含む見出し語の検索結果(41～50/1128件中)
読み方：りんぱっくコンピューターの演算速度を比較するベンチマークテストの一。浮動小数点演算を伴う連立方程式の解を求めるプログラムを実行し、理論上のピーク性能などを求める。スーパーコンピューターの性能指...
読み方：じょうほうおちごさコンピューターの浮動小数点演算で、絶対値が大きい数値と小さい数値の加算・減算をした時に、絶対値の小さい数値が無視されてしまう現象。有効桁数が限られた仮数部の演算で生じる。
読み方：じょうほうおちごさコンピューターの浮動小数点演算で、絶対値が大きい数値と小さい数値の加算・減算をした時に、絶対値の小さい数値が無視されてしまう現象。有効桁数が限られた仮数部の演算で生じる。
読み方：じょうほうおちごさコンピューターの浮動小数点演算で、絶対値が大きい数値と小さい数値の加算・減算をした時に、絶対値の小さい数値が無視されてしまう現象。有効桁数が限られた仮数部の演算で生じる。
読み方：じょうほうおちごさコンピューターの浮動小数点演算で、絶対値が大きい数値と小さい数値の加算・減算をした時に、絶対値の小さい数値が無視されてしまう現象。有効桁数が限られた仮数部の演算で生じる。
読み方：けたおちコンピューターで浮動小数点演算を行う際、絶対値がほぼ等しい数値同士を減算（符号が異なる場合は加算）した時に、有効桁数が減少する現象。計算の順序を工夫することで、より正しい計算結果を得ら...
読み方：けたおちコンピューターで浮動小数点演算を行う際、絶対値がほぼ等しい数値同士を減算（符号が異なる場合は加算）した時に、有効桁数が減少する現象。計算の順序を工夫することで、より正しい計算結果を得ら...
読み方：けたおちコンピューターで浮動小数点演算を行う際、絶対値がほぼ等しい数値同士を減算（符号が異なる場合は加算）した時に、有効桁数が減少する現象。計算の順序を工夫することで、より正しい計算結果を得ら...
読み方：けたおちコンピューターで浮動小数点演算を行う際、絶対値がほぼ等しい数値同士を減算（符号が異なる場合は加算）した時に、有効桁数が減少する現象。計算の順序を工夫することで、より正しい計算結果を得ら...
読み方：ふどうしょうすうてんすうがたコンピューターのプログラムにおける、浮動小数点演算を用いたデータ処理の方式。極小な数や極大な数を扱えるため、科学計算をはじめ、固定小数点数型より広汎に用いられている...