ふどうしょうすうてんえんざんとは? わかりやすく解説

Weblio 辞書 > 辞書・百科事典 > デジタル大辞泉 > ふどうしょうすうてんえんざんの意味・解説 

ふどうしょうすうてん‐えんざん〔フドウセウスウテン‐〕【浮動小数点演算】

読み方:ふどうしょうすうてんえんざん

小数点位置固定されない浮動小数点数用いて行う四則演算コンピューターにおいては、扱う数の絶対値大きく異なっていても任意の誤差範囲内計算できるため、科学計算に向く。→固定小数点演算

[補説] 例えば「1500×0.06」という乗算場合浮動小数点数表現すると「1.5×103」×「6×10−2」となり、仮数部の積「1.5×6」と指数部の積「103×10−2」を分けて計算し、「9」×「101」すなわち「90」が得られるコンピューターでの実際演算処理は二進法行われる




英和和英テキスト翻訳>> Weblio翻訳
英語⇒日本語日本語⇒英語
  

辞書ショートカット

すべての辞書の索引

「ふどうしょうすうてんえんざん」の関連用語

1
浮動小数点演算ユニット デジタル大辞泉
100% |||||

2
浮動小数点演算 デジタル大辞泉
100% |||||

ふどうしょうすうてんえんざんのお隣キーワード
検索ランキング

   

英語⇒日本語
日本語⇒英語
   



ふどうしょうすうてんえんざんのページの著作権
Weblio 辞書 情報提供元は 参加元一覧 にて確認できます。

   
デジタル大辞泉デジタル大辞泉
(C)Shogakukan Inc.
株式会社 小学館

©2025 GRAS Group, Inc.RSS