選択情報量
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2020/10/30 01:45 UTC 版)
事象 E {\displaystyle E} が起こる確率を P ( E ) {\displaystyle P(E)} とするとき、事象 E {\displaystyle E} が起こったことを知らされたとき受け取る(選択)情報量 I ( E ) {\displaystyle I(E)} を I ( E ) = log 1 P ( E ) = − log P ( E ) {\displaystyle I(E)=\log {\frac {1}{P(E)}}=-\log P(E)} と定義する。 起こりにくい事象(=生起確率が低い事象)の情報量ほど、値が大きい。 上式中の対数 ( log {\displaystyle \log } ) の底として何を選んでも、情報量の値が定数倍変わるだけなので、本質的な差はないものの、底としては2を選ぶことが多い。 底が2の場合、 1 / 2 n {\displaystyle 1/2^{n}} の確率で起こる事象の情報量は n {\displaystyle n} である。
※この「選択情報量」の解説は、「情報量」の解説の一部です。
「選択情報量」を含む「情報量」の記事については、「情報量」の概要を参照ください。
- 選択情報量のページへのリンク