実数値と固定小数点数値の換算
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2021/04/17 07:49 UTC 版)
「固定小数点数」の記事における「実数値と固定小数点数値の換算」の解説
ある実数を x とし、これを固定小数点数で表した整数を n とする。最下位ビットを実数 L、オフセットを実数 O と定めると、実数 x は固定小数点数で次の数 n となる。ここで、round は四捨五入関数である。 n = round ( x − O L ) {\displaystyle n=\operatorname {round} \left({\frac {x-O}{L}}\right)} 固定小数点数 n から実数 x は次のように求まる。 x = L n + O {\displaystyle x=Ln+O}
※この「実数値と固定小数点数値の換算」の解説は、「固定小数点数」の解説の一部です。
「実数値と固定小数点数値の換算」を含む「固定小数点数」の記事については、「固定小数点数」の概要を参照ください。
ウィキペディア小見出し辞書の「実数値と固定小数点数値の換算」の項目はプログラムで機械的に意味や本文を生成しているため、不適切な項目が含まれていることもあります。ご了承くださいませ。
お問い合わせ。
- 実数値と固定小数点数値の換算のページへのリンク
