低レベルの丸め

ウィキペディア小見出し辞書

低レベルの丸め

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/02/28 01:06 UTC 版)

「端数処理」の記事における「低レベルの丸め」の解説

choppingは、あるビット以下を全て0にする。これは最も計算が簡単な丸めで、正の数に対しては切捨てとなる。負数に対する動作は負数の方式によるが、2の補数表現では負の無限大への丸めとなる。 choppingは、下位ビットを明示的に0にするほか、たとえば32ビットレジスタの上位16ビットを16ビットレジスタとして使うなどでも得られる。 choppingのあと、有効桁の中でのLSBをセットすると、フォン・ノイマン丸めとなる。