マルメゴサとは? わかりやすく解説

Weblio 辞書 > 辞書・百科事典 > デジタル大辞泉 > マルメゴサの意味・解説 

まるめ‐ごさ【丸め誤差】

読み方:まるめごさ

rounding error四捨五入切り上げ切り捨てにより生じ数値計算上の誤差のこと。二進法に基づくコンピューターによる数値計算場合この影響顕著に現れる場合があるため、より正し計算結果を得るためには、プログラム工夫などが必要となる。




英和和英テキスト翻訳>> Weblio翻訳
英語⇒日本語日本語⇒英語
  

辞書ショートカット

すべての辞書の索引

マルメゴサのお隣キーワード
検索ランキング

   

英語⇒日本語
日本語⇒英語
   



マルメゴサのページの著作権
Weblio 辞書 情報提供元は 参加元一覧 にて確認できます。

   
デジタル大辞泉デジタル大辞泉
(C)Shogakukan Inc.
株式会社 小学館

©2025 GRAS Group, Inc.RSS