CBoWモデルとskip-gramモデル
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2022/05/03 09:24 UTC 版)
「Word2vec」の記事における「CBoWモデルとskip-gramモデル」の解説
Word2vecでは、CBoW(continuous bag-of-words)モデルおよびskip gramモデルという二つのモデル構造のいずれかを使用し、単語の分散表現を生成する。 CBoWモデルでは、周囲のコンテキスト単語から現在の単語を予測する。コンテキスト単語の順序は問わない。skip-gramモデルでは、現在の単語を使用して、周囲のコンテキスト単語を予測する。現在の単語に近ければ近いほど、コンテキスト単語の重みを大きくする。 著者のメモによれば、skip-gramモデルはCBOWモデルと比較すると低速ではあるが、頻度の低い単語に対しては有用である。
※この「CBoWモデルとskip-gramモデル」の解説は、「Word2vec」の解説の一部です。
「CBoWモデルとskip-gramモデル」を含む「Word2vec」の記事については、「Word2vec」の概要を参照ください。
- CBoWモデルとskip-gramモデルのページへのリンク