コテイショウスウテンエンザンとは? わかりやすく解説

Weblio 辞書 > 辞書・百科事典 > デジタル大辞泉 > コテイショウスウテンエンザンの意味・解説 

こていしょうすうてん‐えんざん〔コテイセウスウテン‐〕【固定小数点演算】

読み方:こていしょうすうてんえんざん

小数点位置固定され固定小数点数用いて行う四則演算コンピューターにおいては、扱う数の絶対値範囲限られている計算用いられあたかも整数値のように扱うことで処理が容易になり、高速計算できる。→浮動小数点演算

[補説] 例えば「1500×0.06」という乗算場合、いったん「1500×6=9000」と整数化して計算したのち、小数点以下の桁数(2)から小数点位置(左に2ずれる)を決めて90」を得る。コンピューターでの実際演算処理は二進法行われる




英和和英テキスト翻訳>> Weblio翻訳
英語⇒日本語日本語⇒英語
  

辞書ショートカット

すべての辞書の索引

コテイショウスウテンエンザンのお隣キーワード
検索ランキング

   

英語⇒日本語
日本語⇒英語
   



コテイショウスウテンエンザンのページの著作権
Weblio 辞書 情報提供元は 参加元一覧 にて確認できます。

   
デジタル大辞泉デジタル大辞泉
(C)Shogakukan Inc.
株式会社 小学館

©2024 GRAS Group, Inc.RSS