端数処理
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2024/02/04 00:44 UTC 版)
端数処理(はすうしょり)とは、与えられた数値を一定の丸め幅の整数倍の数値に置き換えることである。平たく、丸め(まるめ)ともいう。
- ^ 「最近接偶数への丸め」、「偶数丸め」、「最近接丸め」、「JIS丸め」、「ISO丸め」、「銀行家の丸め」、「銀行丸め」、「五捨五入」、「偶捨奇入」という用語を採用している文献は、現在のところ発見できていない。詳細は、ノートを参照。
- ^ 負の数の場合も含めた明示的表現としては、そうなる。
- ^ もちろんこれは記数法に依存した名称である。本文では十進法における性質を説明しているが、十二進法において「五捨六入」と呼ばれるであろう処理は通常の半数切り上げである。
- ^ 一般に関数の数値計算の場合、...000 のように 0 が続いていても、下の桁で上の桁からの桁借りが発生するかもしれない。また lexer によるリテラルの読込みの場合、浮動小数点数の表現として本来ありえない桁まで記述されている、
XXX...XXX.5000000000000000000000001
といったような場合の下の桁の扱いをどうすべきか、といった点も問題になる(前述のようなちょうど境界だった場合、下の桁は必ずしも無意味とは言えないかもしれない)。 - ^ JIS Z8401:2019, p.2, 2 e) 「数値を示す場合、常に丸めの幅を示すことが望ましい。」
- ^ 偶数への丸めが推奨されてはおり、徐々に標準となってゆくと思われる[要出典]。Microsoftの一部の環境など、仕様で明示しているものもある。しかし、C99もC++11もJavaもECMAScript(JavaScript)も異なるルールを仕様に定めている。
- ^ このフレーズに含まれる「テーブルメーカー」とは、「数表」を計算し、それを出版せんと企てる者、という意味である。数表は一般に、それに印刷されている桁数の範囲内は必ず正しいものでなければならないことが要求される(であろう)という背景がある。例えば、上限と下限の両方を計算することで結果がある範囲内に必ずあることを保証するといったような手法が、数表の正確さのために活用されてきた、という歴史がある。
[続きの解説]
「端数処理」の続きの解説一覧
このページでは「ウィキペディア」から端数処理を検索した結果を表示しています。
Weblioに収録されているすべての辞書から端数処理を検索する場合は、下記のリンクをクリックしてください。
全ての辞書から端数処理を検索
Weblioに収録されているすべての辞書から端数処理を検索する場合は、下記のリンクをクリックしてください。
全ての辞書から端数処理を検索
- 端数処理のページへのリンク