「まるめごさ」を解説文に含む見出し語の検索結果(1~7/7件中)
読み方:まるめごさ《rounding error》四捨五入や切り上げ・切り捨てにより生じる数値計算上の誤差のこと。二進法に基づくコンピューターによる数値計算の場合、この影響が顕著に現れる場合があるため...
読み方:まるめごさ《rounding error》四捨五入や切り上げ・切り捨てにより生じる数値計算上の誤差のこと。二進法に基づくコンピューターによる数値計算の場合、この影響が顕著に現れる場合があるため...
読み方:まるめごさ《rounding error》四捨五入や切り上げ・切り捨てにより生じる数値計算上の誤差のこと。二進法に基づくコンピューターによる数値計算の場合、この影響が顕著に現れる場合があるため...
読み方:まるめごさ《rounding error》四捨五入や切り上げ・切り捨てにより生じる数値計算上の誤差のこと。二進法に基づくコンピューターによる数値計算の場合、この影響が顕著に現れる場合があるため...
読み方:まるめごさ【英】rounding error, round-off error丸め誤差とは、数値の計算処理の都合上、ある程度で値を省略することにより、計算結果に現れてくる誤差のことである。丸め...
誤差(ごさ、英語: error)は、測定や計算などで得られた値 M と、指定値あるいは理論的に正しい値あるいは真値 T の差 ε であり、 ε = M − T {\d...
誤差(ごさ、英語: error)は、測定や計算などで得られた値 M と、指定値あるいは理論的に正しい値あるいは真値 T の差 ε であり、 ε = M − T {\d...
< 前の結果 | 次の結果 >