数値処理とは? わかりやすく解説

Weblio 辞書 > 学問 > 人口統計学辞書 > 数値処理の意味・解説 

数値処理

コンピューター処理されるいかなる情報も、三つ主要な局面経過する。第1は、データのエントリー 1または入力 1である。これは、パンチカード(224-3*)を用いるか、あるいはコンソール(227-8)のようなオンライン 2による方法によって行われるコンピューターにすでに保管されているデータは、中央記憶装置(226-2)からか、あるいは大容量記憶装置(226-3)の一つから得ることができ、入力データとして用いられる。第2の局面であるデータ処理(220-2)は、二つ主要なタイプ、すなわち数値処理 4非数値処理 5とに区分される統計的あるいは算術的計算は、通常前者含まれる作業である。一方データ加工操作作業は、後者主要なのである。しばしば、出力段階といわれる第3局面においては処理結果 6またはアウトプット 6は、ライン・プリンター(227-6)上で印刷され、あるいは後の段階でのデータ処理のために大容量記憶装置(226-3)上でファイル保存されることもある。処理結果グラフ画像の形で得るために、結果また、プロッター 7転送されることもある。


数値処理

出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2021/08/17 21:54 UTC 版)

C SharpとJavaの比較」の記事における「数値処理」の解説

数学・科学計算金融分野アプリケーション開発に十分対応するための言語仕様が、それぞれに存在するJavaでは厳密な浮動小数点計算強制するためにstrictfpキーワードが存在する。これによってあらゆるプラットフォームで必ず同じ値が結果として得られることを保証することができる。C#にはこれに相当する機能はないが、厳密な浮動小数点計算のためにdecimal型が存在する。これによって二進浮動小数点表現floatdouble)に存在する問題解決される二進表現浮動小数点数十進数正確に表現することができないため、丸め誤差生じてしまう)。金融分野アプリケーションソフトウェアでは厳密な十進表現必須である。Javaでは、このような用途のためにjava.math.BigDecimalが導入されている。また、Java 1.1では巨大な整数を扱うためのクラス型としてjava.math.BigIntegerが導入されている。BigDecimalとBigIntegerは最大で約21程度までの数を任意精度表現できるC#においては.NET Framework 4よりSystem.Numerics.BigInteger型が導入されている。 Javaでは、BigDecimalや複素数型といったライブラリ定義の型をプリミティブ型と同じレベル使用することは不可能である。また、Javaではユーザー定義型はすべて参照型扱いとなり、メモリブロックの実体ヒープ確保される一方C#次のような機能サポートする演算子多重定義インデクサ暗黙的または明示的な型変換C++キャスト演算子オーバーロード似たユーザー定義の型変換定義できる。これにより、例えプリミティブ数値型同士変換類似の機能提供できる値型値型対すジェネリック型値型スタック確保される。これは実行時性能面影響を及ぼす。 これらに加えC#では数値処理アプリケーションのために、コード中の特定領域数値オーバーフロー実行時チェックの有効・無効制御することができるchecked/uncheckedキーワードを使用できる

※この「数値処理」の解説は、「C SharpとJavaの比較」の解説の一部です。
「数値処理」を含む「C SharpとJavaの比較」の記事については、「C SharpとJavaの比較」の概要を参照ください。

ウィキペディア小見出し辞書の「数値処理」の項目はプログラムで機械的に意味や本文を生成しているため、不適切な項目が含まれていることもあります。ご了承くださいませ。 お問い合わせ


英和和英テキスト翻訳>> Weblio翻訳
英語⇒日本語日本語⇒英語
  

辞書ショートカット

すべての辞書の索引

「数値処理」の関連用語

数値処理のお隣キーワード
検索ランキング

   

英語⇒日本語
日本語⇒英語
   



数値処理のページの著作権
Weblio 辞書 情報提供元は 参加元一覧 にて確認できます。

   
コンテンツはAttribution-Share Alike 3.0 Unportedのライセンスで利用することができます。
ウィキペディアウィキペディア
Text is available under GNU Free Documentation License (GFDL).
Weblio辞書に掲載されている「ウィキペディア小見出し辞書」の記事は、WikipediaのC SharpとJavaの比較 (改訂履歴)の記事を複製、再配布したものにあたり、GNU Free Documentation Licenseというライセンスの下で提供されています。

©2024 GRAS Group, Inc.RSS