交差エントロピー
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2023/07/17 05:16 UTC 版)
情報理論において、交差エントロピー(こうさエントロピー)またはクロスエントロピー(英: cross entropy)は、2つの確率分布の間に定義される尺度である。符号化方式が、真の確率分布 ではなく、ある所定の確率分布 に基づいている場合に、とりうる複数の事象の中からひとつの事象を特定するために必要となるビット数の平均値を表す。
- ^ Murphy, Kevin (2012). Machine Learning: A Probabilistic Perspective. MIT. ISBN 978-0262018029
- 1 交差エントロピーとは
- 2 交差エントロピーの概要
- 3 定義
- 4 対数尤度との関係
- 5 交差エントロピー最小化
- 6 関連項目
- 交差エントロピーのページへのリンク