例：指数分布
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/07/13 02:03 UTC 版)
X {\displaystyle X} がパラメータ λ {\displaystyle \lambda } の指数分布に従う、つまり確率密度関数が f ( x ) = λ e − λ x for x ≥ 0 {\displaystyle f(x)=\lambda e^{-\lambda x}{\mbox{ for }}x\geq 0} であるとする。この微分エントロピーは h e ( X ) {\displaystyle h_{e}(X)\,} = − ∫ 0 ∞ λ e − λ x log ( λ e − λ x ) d x {\displaystyle =-\int _{0}^{\infty }\lambda e^{-\lambda x}\log(\lambda e^{-\lambda x})\,dx} = − ( ∫ 0 ∞ ( log λ ) λ e − λ x d x + ∫ 0 ∞ ( − λ x ) λ e − λ x d x ) {\displaystyle =-\left(\int _{0}^{\infty }(\log \lambda )\lambda e^{-\lambda x}\,dx+\int _{0}^{\infty }(-\lambda x)\lambda e^{-\lambda x}\,dx\right)} = − log λ ∫ 0 ∞ f ( x ) d x + λ E [ X ] {\displaystyle =-\log \lambda \int _{0}^{\infty }f(x)\,dx+\lambda E[X]} = − log λ + 1 {\displaystyle =-\log \lambda +1\,} ここで、計算の簡易化のため対数の底を e としていることを明示するため、 h ( X ) {\displaystyle h(X)} ではなく h e ( X ) {\displaystyle h_{e}(X)} と書いている。
※この「例：指数分布」の解説は、「微分エントロピー」の解説の一部です。
「例：指数分布」を含む「微分エントロピー」の記事については、「微分エントロピー」の概要を参照ください。
- 例：指数分布のページへのリンク
