「端数処理」を解説文に含む見出し語の検索結果(1~10/617件中)
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2022/02/28 01:06 UTC 版)「端数処理」の記事における「IEEE丸め」の解説IEEE 754で丸めモードとして定めら...
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2022/02/28 01:06 UTC 版)「端数処理」の記事における「フォン・ノイマン丸め」の解説常に奇数側へ丸める。 二進法では...
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2022/02/28 01:06 UTC 版)「端数処理」の記事における「実用上は最近接丸めとなる丸め」の解説定義は最近接丸めになって...
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2022/02/28 01:06 UTC 版)「端数処理」の記事における「スウェディッシュ・ラウンディング」の解説ニュージーランドでは...
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2022/02/28 01:06 UTC 版)「端数処理」の記事における「四捨六入」の解説アルシーアル麻雀の得点計算では、かつて端数処...
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2022/02/28 01:06 UTC 版)「端数処理」の記事における「round」の解説最近接丸めは、多くの環境にroundという...
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2022/02/28 01:06 UTC 版)「端数処理」の記事における「五捨五超入」の解説端数が0.5以下なら切り捨て、0.5超なら...
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2022/02/28 01:06 UTC 版)「端数処理」の記事における「低レベルの丸め」の解説choppingは、あるビット以下を全...
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2022/02/28 01:06 UTC 版)「端数処理」の記事における「C言語における型変換と端数処理」の解説浮動小数点型から整数型...
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2022/08/08 14:23 UTC 版)「端数処理」の記事における「2回以上の丸めの禁止」の解説同じ数値を2回以上丸めてはいけな...
< 前の結果 | 次の結果 >
>>
「端数処理」の辞書の解説