「固定小数点数」を解説文に含む見出し語の検索結果(21~30/260件中)
固定小数点数を解析します。 オーバーロードの一覧 名前 説明 FixedPoint.Parse (String) 値の文字列形式の FixedPoint 構造体を返します。 .NET Compact ...
読み方:ふどうしょうすうてんすう小数点の位置を固定せずに表現された数。コンピューターにおいては、絶対値の大きい数であっても任意の誤差の範囲内で桁数を小さくでき、科学計算に向く。→固定小数点数[補説] ...
読み方:ふどうしょうすうてんすう小数点の位置を固定せずに表現された数。コンピューターにおいては、絶対値の大きい数であっても任意の誤差の範囲内で桁数を小さくでき、科学計算に向く。→固定小数点数[補説] ...
読み方:ふどうしょうすうてんすう小数点の位置を固定せずに表現された数。コンピューターにおいては、絶対値の大きい数であっても任意の誤差の範囲内で桁数を小さくでき、科学計算に向く。→固定小数点数[補説] ...
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2021/11/12 07:32 UTC 版)「NEC SX」の記事における「スカラ演算機能」の解説スカラ演算機能もパイプライン化で高...
固定小数点数(こていしょうすうてんすう、英: fixed-point number)は、小数点が置かれる桁を固定して表された数のことで、コンピュータ上で小数を表現する方法として使用される形式の...
固定小数点数(こていしょうすうてんすう、英: fixed-point number)は、小数点が置かれる桁を固定して表された数のことで、コンピュータ上で小数を表現する方法として使用される形式の...
固定小数点数(こていしょうすうてんすう、英: fixed-point number)は、小数点が置かれる桁を固定して表された数のことで、コンピュータ上で小数を表現する方法として使用される形式の...
固定小数点数(こていしょうすうてんすう、英: fixed-point number)は、小数点が置かれる桁を固定して表された数のことで、コンピュータ上で小数を表現する方法として使用される形式の...
読み方:こていしょうすうてんえんざん小数点の位置が固定された固定小数点数を用いて行う四則演算。コンピューターにおいては、扱う数の絶対値の範囲が限られている計算に用いられ、あたかも整数値のように扱うこと...