ディジタル信号処理
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2022/06/19 17:06 UTC 版)
32bit-floatの場合には156[dB]、64bit-floatの場合には331[dB]もの広いダイナミックレンジを確保できる。この広いダイナミックレンジで計算を行うことで、整数型のデータに変換して信号を出力する際に内部計算において累積した誤差を切り捨てることにより、出力データの精度の範囲内においては内部計算の誤差が現れないように処理を行うことが可能となる。 製品に収録する音声信号フォーマットに直す直前まで波形がクリップせず音声加工処理を行えるメリットが有るため、2000年代以降はDTMやDAWにおいては全ての処理工程で浮動小数点数を用いている。 従来よりDSPや音楽用ワークステーション等では、精度と計算コストの兼ね合いから32bit-floatが内部計算において標準的に用いられてきたが、2010年代以降はコンピュータの高性能化と低価格化を受けて、より高精度な64bit-floatで内部計算を行う場合が増えてきている。 浮動小数点数を表現するための仮数部の桁数の関係で、32bit-integerよりも32bit-floatの方が量子化ノイズが大きい。従って、最終的に32bit-integerのデータを作成する場合には、内部計算においては64bit-float以上の精度を持つ浮動小数点数を用いるべきである。
※この「ディジタル信号処理」の解説は、「浮動小数点数」の解説の一部です。
「ディジタル信号処理」を含む「浮動小数点数」の記事については、「浮動小数点数」の概要を参照ください。
Weblioに収録されているすべての辞書からディジタル信号処理を検索する場合は、下記のリンクをクリックしてください。

- ディジタル信号処理のページへのリンク