離散時間非定常独立情報源のための固定レート可逆情報源符号化
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2019/11/13 23:47 UTC 版)
「シャノンの情報源符号化定理」の記事における「離散時間非定常独立情報源のための固定レート可逆情報源符号化」の解説
典型集合 Aεn を A n ε = { x 1 n : | − 1 n log p ( X 1 , ⋯ , X n ) − H n ¯ ( X ) | < ε } {\displaystyle A_{n}^{\varepsilon }=\left\{x_{1}^{n}\ :\ \left|-{\frac {1}{n}}\log p\left(X_{1},\cdots ,X_{n}\right)-{\overline {H_{n}}}(X)\right|<\varepsilon \right\}} と定義する。 次に、与えられた δ > 0 に対して、 n が十分に大きい場合、 Pr(Aεn) > 1 − δ である。あとは、典型集合の列をエンコードするだけであり。情報源符号化の通常の方法は、この集合の濃度が 2 n ( H n ¯ ( X ) + ε ) {\displaystyle 2^{n({\overline {H_{n}}}(X)+\varepsilon )}} であることを示す。従って、1 − δ より大きい確率で符号化するには、平均して Hn(X) + ε ビットで十分である。ここで、n を大きくすることによって、ε と δ を任意に小さくすることができる。
※この「離散時間非定常独立情報源のための固定レート可逆情報源符号化」の解説は、「シャノンの情報源符号化定理」の解説の一部です。
「離散時間非定常独立情報源のための固定レート可逆情報源符号化」を含む「シャノンの情報源符号化定理」の記事については、「シャノンの情報源符号化定理」の概要を参照ください。
- 離散時間非定常独立情報源のための固定レート可逆情報源符号化のページへのリンク
