「浮動小数点」を解説文に含む見出し語の検索結果(141～150/4274件中)
読み方：こていしょうすうてん固定小数点数における、位置が固定された小数点。一般的には、小数点そのものより、その小数点を使った数や表現方法、またはコンピューターのプログラムなどの固定小数点型の呼称として...
読み方：こていしょうすうてんすう小数点の位置を固定して表現された数。コンピューターにおいては、あたかも整数値のように扱うことで処理が容易で高速になるが、絶対値が大きく異なる数同士の計算には向かない。→...
読み方：じょうほうおちごさコンピューターの浮動小数点演算で、絶対値が大きい数値と小さい数値の加算・減算をした時に、絶対値の小さい数値が無視されてしまう現象。有効桁数が限られた仮数部の演算で生じる。
読み方：じょうほうおちごさコンピューターの浮動小数点演算で、絶対値が大きい数値と小さい数値の加算・減算をした時に、絶対値の小さい数値が無視されてしまう現象。有効桁数が限られた仮数部の演算で生じる。
読み方：じょうほうおちごさコンピューターの浮動小数点演算で、絶対値が大きい数値と小さい数値の加算・減算をした時に、絶対値の小さい数値が無視されてしまう現象。有効桁数が限られた仮数部の演算で生じる。
読み方：じょうほうおちごさコンピューターの浮動小数点演算で、絶対値が大きい数値と小さい数値の加算・減算をした時に、絶対値の小さい数値が無視されてしまう現象。有効桁数が限られた仮数部の演算で生じる。
読み方：けたおちコンピューターで浮動小数点演算を行う際、絶対値がほぼ等しい数値同士を減算（符号が異なる場合は加算）した時に、有効桁数が減少する現象。計算の順序を工夫することで、より正しい計算結果を得ら...
読み方：けたおちコンピューターで浮動小数点演算を行う際、絶対値がほぼ等しい数値同士を減算（符号が異なる場合は加算）した時に、有効桁数が減少する現象。計算の順序を工夫することで、より正しい計算結果を得ら...
読み方：けたおちコンピューターで浮動小数点演算を行う際、絶対値がほぼ等しい数値同士を減算（符号が異なる場合は加算）した時に、有効桁数が減少する現象。計算の順序を工夫することで、より正しい計算結果を得ら...
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2021/02/20 08:43 UTC 版)「トランスピュータ」の記事における「T8: 浮動小数点演算」の解説第2世代として、198...