デジタル処理の適用
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2021/12/15 03:18 UTC 版)
デジタルデータをそのまま扱う場合（単純なリニアサンプリング）について述べる。 実際のデジタル処理では、二進数1桁をビットとし、8ビットなどのまとまった単位をオクテットまたはバイトとして取り扱い、さらにそのまとまりをワードという単位として取り扱うことが多い。これは処理装置や記憶装置の語長に合わせて効率よく使えるようにするためである。 デジタルデータにおいては、表現可能な数値範囲を超えたり、最小値に近い数値を扱ったりする際には注意が必要である。 アナログ処理の媒体（磁気テープ、供給電圧や電線など）は材料のバラツキや製造上の品質管理の都合上、仕様より高めの限界値で製造される（例えば全ての部品のばらつきが低い方向に振れても仕様を満たす設計の場合、同じ条件で高い方向に振れた場合は仕様より高めの限界値となる。）。また、電線などの伝送路も汎用品を使った場合は過剰に仕様より高い限界値を持っている。このため、入力が仕様より超過した場合、少しの超過では影響が少なく、媒体の真の限界値を超えると過大な影響がある。 しかし、デジタル処理では、定義された最大値を超えた場合には桁溢れ（オーバーフロー）となり、以後の演算処理の結果は保証されない。また、最小値に近い数値では量子化誤差が無視できず、S/N比の劣化として現れることがある。更に、数値計算の際に不用意な処理手順による桁落ちが生じ、著しい有効桁数の減少を招くこともあるので、注意を要する。
※この「デジタル処理の適用」の解説は、「デジタル」の解説の一部です。
「デジタル処理の適用」を含む「デジタル」の記事については、「デジタル」の概要を参照ください。
- デジタル処理の適用のページへのリンク
