インフォメーション・ゲインと 情報エントロピー
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/03/02 07:08 UTC 版)
「C4.5」の記事における「インフォメーション・ゲインと 情報エントロピー」の解説
それぞれの項目で更に説明されているが E n t r o p y ( S ) {\displaystyle Entropy(S)} はSの中でクラス分類がどれほどランダムなのかを示す尺度である。インフォメーション・ゲインはある属性’’a’’に付与された尺度である。属性’’a’’は’’S’’を部分集合 S a 1 , S a 2 , S a 3 , . . . , S a n {\displaystyle S_{a}1,S_{a}2,S_{a}3,...,S_{a}n} に分割することができ、そのインフォメーション・ゲインは E n t r o p y ( S ) − E n t r o p y ( S a 1 ) − E n t r o p y ( S a 2 ) − . . . − E n t r o p y ( S a n ) {\displaystyle Entropy(S)-Entropy(S_{a}1)-Entropy(S_{a}2)-...-Entropy(S_{a}n)} となる。インフォメーション・ゲインはそれぞれの属性値のエントロピーとその選択が持つ属性値の比率とを掛け合わせることで正規化される。
※この「インフォメーション・ゲインと 情報エントロピー」の解説は、「C4.5」の解説の一部です。
「インフォメーション・ゲインと 情報エントロピー」を含む「C4.5」の記事については、「C4.5」の概要を参照ください。
ウィキペディア小見出し辞書の「インフォメーション・ゲインと 情報エントロピー」の項目はプログラムで機械的に意味や本文を生成しているため、不適切な項目が含まれていることもあります。ご了承くださいませ。
お問い合わせ。
- インフォメーション・ゲインと 情報エントロピーのページへのリンク
