Copyingタスク
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2021/11/16 07:46 UTC 版)
「回帰型ニューラルネットワーク」の記事における「Copyingタスク」の解説
Copyingタスクは系列処理モデルの記憶力を評価するために「最初に提示された数字の並びを最後に思い出す」タスクである。 モデルにはまず { 1 , . . . , 8 } {\displaystyle \{1,\ ...,\ 8\}} からランダムサンプリングされた10個の入力が連続して渡され（記憶ステップ）、次にL個の 0 {\displaystyle 0} が渡され（保持ステップ）、最後に 9 {\displaystyle 9} が10連続で渡される（想起ステップ）。モデルは最初の10個の数字を覚え、Lステップ続く 0 {\displaystyle 0} の間それを覚えておき、 9 {\displaystyle 9} に応答して最初の10個の数字を順番通り出力しなければならない。下の擬似コードが入力と理想的な出力である。 # | memorize | hold | recall |i = [1,4,2,2,...,3, 0,0,...,0, 9,9,9,...,9]o = [0,0,0,.................0, 1,4,2,...,3] Copyingタスクは長期のタイムラグを跨いで記憶を保持するタスクであり、長期記憶を直接評価する標準的なタスクである。シンプルながら難しいことが知られており、エルマンネット等の単純RNNはこのタスクを解けず、LSTMもL=100を部分的にしか学習できないことが知られている。
※この「Copyingタスク」の解説は、「回帰型ニューラルネットワーク」の解説の一部です。
「Copyingタスク」を含む「回帰型ニューラルネットワーク」の記事については、「回帰型ニューラルネットワーク」の概要を参照ください。
- Copyingタスクのページへのリンク
