「計算結果」を解説文に含む見出し語の検索結果(51~60/2342件中)
読み方:まるめごさ《rounding error》四捨五入や切り上げ・切り捨てにより生じる数値計算上の誤差のこと。二進法に基づくコンピューターによる数値計算の場合、この影響が顕著に現れる場合があるため...
読み方:まるめごさ《rounding error》四捨五入や切り上げ・切り捨てにより生じる数値計算上の誤差のこと。二進法に基づくコンピューターによる数値計算の場合、この影響が顕著に現れる場合があるため...
読み方:まるめごさ《rounding error》四捨五入や切り上げ・切り捨てにより生じる数値計算上の誤差のこと。二進法に基づくコンピューターによる数値計算の場合、この影響が顕著に現れる場合があるため...
読み方:うちきりごさ途中で計算を止めることによって生じる数値計算上の誤差のこと。コンピューターによる数値計算で、計算を繰り返すことによってより正しい計算結果が得られる場合、ある回数や時間内で計算を打ち...
読み方:うちきりごさ途中で計算を止めることによって生じる数値計算上の誤差のこと。コンピューターによる数値計算で、計算を繰り返すことによってより正しい計算結果が得られる場合、ある回数や時間内で計算を打ち...
読み方:うちきりごさ途中で計算を止めることによって生じる数値計算上の誤差のこと。コンピューターによる数値計算で、計算を繰り返すことによってより正しい計算結果が得られる場合、ある回数や時間内で計算を打ち...
読み方:うちきりごさ途中で計算を止めることによって生じる数値計算上の誤差のこと。コンピューターによる数値計算で、計算を繰り返すことによってより正しい計算結果が得られる場合、ある回数や時間内で計算を打ち...
読み方:うちきりごさ途中で計算を止めることによって生じる数値計算上の誤差のこと。コンピューターによる数値計算で、計算を繰り返すことによってより正しい計算結果が得られる場合、ある回数や時間内で計算を打ち...
読み方:うちきりごさ途中で計算を止めることによって生じる数値計算上の誤差のこと。コンピューターによる数値計算で、計算を繰り返すことによってより正しい計算結果が得られる場合、ある回数や時間内で計算を打ち...
読み方:けたおちコンピューターで浮動小数点演算を行う際、絶対値がほぼ等しい数値同士を減算(符号が異なる場合は加算)した時に、有効桁数が減少する現象。計算の順序を工夫することで、より正しい計算結果を得ら...