CPUによる並列化
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/06/04 07:58 UTC 版)
「バックプロパゲーション」の記事における「CPUによる並列化」の解説
CPUのメニーコアやSIMDを有効活用する簡単な方法は行列演算ライブラリを使用する方法である。行列演算ライブラリとしては、例えばインテルのCPU向けではIntel Math Kernel Libraryなどがある。 バックプロパゲーションは完了までに非常に時間のかかる反復処理である。マルチコアのコンピュータでマルチスレッド技法を使えば、収斂までにかかる時間を大幅に短縮することができる。バッチ学習を行う場合、マルチスレッドでバックプロパゲーションのアルゴリズムを実行するのが比較的簡単である。 訓練データをそれぞれのスレッド毎に同程度の大きさに分割して割り当てる。それぞれのスレッドで順方向と逆方向のプロパゲーションを行う。重みとしきい値のデルタをスレッド毎に合計していく。反復の周回毎に全スレッドを一時停止させて、重みとしきい値のデルタを合計し、ニューラルネットワークに適用する。これを反復毎に繰り返す。このようなバックプロパゲーションのマルチスレッド技法がEncog Neural Network Frameworkで使われている。
※この「CPUによる並列化」の解説は、「バックプロパゲーション」の解説の一部です。
「CPUによる並列化」を含む「バックプロパゲーション」の記事については、「バックプロパゲーション」の概要を参照ください。
ウィキペディア小見出し辞書の「CPUによる並列化」の項目はプログラムで機械的に意味や本文を生成しているため、不適切な項目が含まれていることもあります。ご了承くださいませ。
お問い合わせ。
- CPUによる並列化のページへのリンク
