他の冗長性の表現
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2013/09/24 17:22 UTC 版)
「冗長性 (情報理論)」の記事における「他の冗長性の表現」の解説
2つの確率変数の「冗長性」の尺度として、相互情報量あるいはその正規化形がある。多数の確率変数の冗長性の尺度としては、合計相関(total correlation)がある。 圧縮済みデータの冗長性は、 個のメッセージを圧縮したときの期待される長さ とそのエントロピー の差で表される。ここで、データはエルゴード的で定常的であると仮定している。つまり、メモリのない情報源である。レートの差 は が増大するに従って小さくなるが、実際の差 はそうならない。しかし、エントロピーが有限なメモリのない情報源では、理論上の上限が 1 となる。
※この「他の冗長性の表現」の解説は、「冗長性 (情報理論)」の解説の一部です。
「他の冗長性の表現」を含む「冗長性 (情報理論)」の記事については、「冗長性 (情報理論)」の概要を参照ください。
- 他の冗長性の表現のページへのリンク