ニューラルネットワーク

デジタル大辞泉

ニューラル‐ネットワーク【neural network】

読み方：にゅーらるねっとわーく

人間の脳神経系を抽象化し、情報の分散処理システムとしてとらえたモデル。ニューロネットワーク。神経回路網。

気象庁 予報用語

ニューラルネットワーク（ＮＲＮ）

分野：

ガイダンスに関する用語

意味：

ガイダンスの作成手法の一つで、人工ニューロンをネットワーク化し、その結合の強さを学習させて予測誤差を最小化する方法。

IT用語辞典バイナリ

ニューラルネットワーク

【英】neural network

ニューラルネットワークとは、情報処理の計算モデルのうち、人間の脳の働きを模倣して構築された計算モデルのことである。

ニューラルネットワークのシステムは、比較的単純な処理単位をニューロン（神経細胞）と定義し、多数のニューロンを情報の入出力伝達網で接続した脳の仕組みに似せて構築されている。

ニューラルネットワークは、ニューロコンピュータと呼ばれるコンピュータシステムの計算モデルとなっている。ニューロコンピュータは自己学習を実現することができる新世代の人口知能として、盛んに研究・開発が行われている。

産業・技術のほかの用語一覧

情報処理：

五心  交差比率  文字セット  ニューラルネットワーク  ニューロコンピュータ  ラップアラウンド  例示字形

>>情報処理カテゴリの他の用語

大車林

ニューラルネットワーク

英語 neural network

生物の神経系の高度な情報処理機構を工学的に模倣し、入力と出力を相互にきめ細かく関連づけて複雑な制御を行う情報処理技術のこと。例えばオートエアコンにこれを導入すると人の感覚に近い綴密な空調制御が可能となる。スイッチや各センサーなどから信号を送る入力層、その情報をもとに入力と出力の優先順位をはかりながら相互関係の調整を行う中間層、それらの総和をもとに必要な制御量を算出してオートエアコン・アンプリファイアに出力する出力層の3種のニューロン(神経細胞)モデルが複数絡み合って、ネットワークを構成している。

参照 オートエアコン

ニューラルネットワーク

英語 neural network

生物の神経系の情報処理を工学的に模倣したもので、人間の脳のように複雑な入力と出力の関係を、相互にきめ細かく関連づけて複雑な制御を行うシステム。トヨタ車のオートエアコンの制御に採用されており、外気温、室温、日射量を感知し、吹出し温度、風量を緻密に制御して乗員の感覚に合わせた、より快適な空調システムとしている。

※「大車林」の内容は、発行日である2004年時点の情報となっております。

OR事典

ニューラルネットワーク

読み方：にゅーらるねっとわーく
【英】：neural network

概要

(1)　生物体の神経回路網のこと.

(2)　神経回路の構造やニューロン(neuron)の作用を部分的に模倣した, コンピュータや電子回路を用いた人工的な「神経回路網」で, 記憶, 認識, 連想などの機能を実現する工学的なシステムのこと. ノイズに対する頑健性(robustness), 類似入力に対する汎化性(generalization), 学習が容易な高い適応性(adaptability), 並列処理への潜在的可能性をもつ.

詳説

　ニューラルネットワーク (neural network) は神経回路網のことであり, その機能をコンピュータや専用ハードウェアで模倣したものを人工ニューラルネットワーク (artificial neural network) という. ORなどの分野で単にニューラルネットワークという場合は, 多くは人工ニューラルネットワークのことを指し, 具体的には比較的単純な非線形信号処理ユニットを結合することで構成されるネットワークのことと考えることが多い. ニューラルネットワークは本質的に並列分散処理的であり, 自己組織的であるといった特徴を内包している.

　ニューラルネットワークの歴史を概観すると以下のようになる. 1943年にマッカロック（W. McCulloch）とピッツ（W. Pitts） [1] によるしきい値素子モデルが提案された. 1949年の心理学者D. Hebbの "The Organization of Behavior" [2] において示されたシナプス強化則とも言われる学習方法に関する考え方は, その後提案された多くのニューラルネットの学習方法の基礎となっている. 1962年, ローゼンブラット（F. Rosenblatt）によるパーセプトロン [3] (perceptron) が提案されたが, 1969年, ミンスキー（M. Minsky）とパパート（S. Papert）によるパーセプトロンの限界の呈示, 何人かの研究者による初期バージョンの後, 1986年にラメルハート（D. Rumelhart）, ヒントン（G. Hinton）, ウイリアムス（R. Williams）によりまとめられた階層型ニューラルネットワークの誤差逆伝播法 (back propagation) の定式化 [4] などを経て, 近年は, 脳の機能の実現を強く意識した研究も盛んに行われている.

　ニューラルネットワークは2つの側面から最適化と関係が深い. まず1つは, ニューラルネットワークの機能としての最適化, もう1つは, 何らかの機能を実現するためのニューラルネットワークの学習における最適化である.

　ホップフィールドネットワーク [5] (Hopfield network) は, 連想記憶を行ったり巡回セールスマン問題などの最適化問題を解くために考え出されたニューラルネットワークで, 1982年, ホップフィールド (J. J. Hopfield) により提案された. 記憶したいパターン情報は定係数の中に埋めこまれる. このモデルは1984年, 連続値モデルに拡張された. 離散および連続モデルを合わせてホップフィールドネットワークと呼ばれる. ホップフィールドとタンク(T. W. Tank)は1985年に, ホップフィールドネットワークを巡回セールスマン問題の解法に用いる方法を示し [6] , ニューラルネットワークの最適化への応用の道を開いた.

　ニューラルネットワークによる学習は, 教師あり学習, 教師なし学習に大別される. 教師あり学習とは, サンプルデータにおいて, 入力値に対して出力値が与えられ, 多数の入出力組の関係を同時に実現するようにモデルの中のパラメータを調整するモデルであり, その用途としては, 分類及び非線形回帰がある. この２つの本質的な違いは教師出力信号として2値信号を用いるか実数値を用いるかという点である. パーセプトロン, 階層型ネットワーク, RBF (radial basis function) ネットワークなどがあり, データのクラス判定や非線形関数近似を行うモデルを, 例 (examples) としてのデータから構築する. しきい値関数を使ったモデルでは, パーセプトロンなどのように, 誤り訂正学習が用いられる. また, ロジスティック (logistic) 関数などの微分可能関数を用いたモデルでは, 二乗誤差を最小化するような評価関数が学習に用いられる. 階層型ニューラルネットに二乗誤差最小化を取り入れると, 誤差逆伝播法が導かれる. 教師なし学習とは, 入力ベクトルだけがあるもので, 入力ベクトルに関する分布の情報を学習するものであり, 情報圧縮, 確率密度関数モデルを用いた推論などに応用される. コホネン（T. Kohonen）の自己組織化マップ (self organizing map), ガウス混合モデル (Gaussian mixture model), k-meansクラスタリングなどが代表的な例である.

　人工知能においては, 記号論理をベースにしたシンボリストモデル (symbolist model) に対し, ニューラルネットワークの相互結合をもじったコネクショニストモデル (connectionist model) は, 相互に対極にあるものとして対比されてきた. シンボリストモデルは論理的な説明に適しており, コネクショニストモデルは学習が容易であるという特長を持つ反面, 一般にシンボリストモデルは学習が困難であり, コネクショニストモデルは説明能力に欠けるということがいえる. コネクショニストモデルが説明能力に欠けるというのは, 入力空間を自在に切り分けることができるがゆえにその複雑な切り口を言語的に説明することが困難なためであり, 欠点というよりもそのモデルの持つ特質からくる特徴であって, 特に言語的な説明を要しない制御などの分野では明らかに優れた能力を発揮する. また, 日々の売上データから顧客の特徴を抽出したり, クレジットカードの入会審査を行ったりするデータマイニング（data mining）の分野においても有力な手法として注目されている.

---

参考文献

[1] W. W. McCulloch and W. Pitts, "A Logical Calculus of the Ideas Immanent in Nervous Activity," Bull. Math. Biophysics, 5 (1943), 115-133.

[2] A. O. Hebb, The Organization of Behavior, Wiley, 1949. 白井 訳, 『行動の機構』, 岩波書店, 1957.

[3] F. Rosenblatt, Principles of Neurodynamics, Spartan, 1962.

[4] D. E. Rumelhart, G. E. Hinton and R. J. Williams, "Learning Internal Representation by Error Propagation", in D. E. Rumelhart, J. L. McClelland and the PDP Research Group, Parallel Distributed Processing: Explorations in the Microstructure of Cognition, 1, Foundations, MIT Press, 1986. 甘利（監訳）, 『PDPモデル-認知科学とニューロン回路網の探索-』, 産業図書, 1989.

[5] J. J. Hopfield, "Neural Networks and Physical Systems with Emergent Collective Computational Abilities," in Proceedings of the National Academy of Sciences U.S.A., 79, 2554-2558, 1982.

[6] J. J. Hopfield and T. W. Tank, "Neural Computation of Decisions in Optimization Problems," Biological Cybernetics, 52 (1985), 141-152.

「OR事典」の他の用語

近似・知能・感覚的手法：

デンプスター・シェファーの証拠理論  データマイニング  ナップサック問題  ニューラルネットワーク  ニューラルネットワークによる学習  ファジィランダム変数  ファジィ推論

ウィキペディア

ニューラルネットワーク

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2024/09/14 03:18 UTC 版)

「ニューロ」はこの項目へ転送されています。 アメリカ企業については「ニューロ (企業)」をご覧ください。 日本のインターネットサービスプロバイダについては「NURO 光」をご覧ください。

機械学習および データマイニング
問題 分類 クラスタリング 回帰 異常検知 相関ルール（英語版） 強化学習 構造化予測（英語版） 特徴量設計（英語版） 表現学習（英語版） オンライン学習 半教師あり学習（英語版） 教師なし学習 ランキング学習（英語版） 文法獲得（英語版）
教師あり学習（分類 • 回帰） 決定木（英語版） アンサンブル （バギング、ブースティング、 ランダムフォレスト） k-NN 線形回帰 単純ベイズ ニューラルネットワーク ロジスティック回帰 パーセプトロン 関連ベクトルマシン (RVM)（英語版） サポートベクトルマシン (SVM)
クラスタリング BIRCH（英語版） 階層的（英語版） k平均法 期待値最大化法 (EM) DBSCAN OPTICS（英語版） 平均値シフト（英語版）
次元削減 因子分析 CCA ICA LDA（英語版） NMF（英語版） PCA t-SNE
構造化予測（英語版） グラフィカルモデル ベイジアンネットワーク CRF HMM
異常検知 k-NN 局所外れ値因子法
ニューラルネットワーク オートエンコーダ ディープラーニング DeepDream 多層パーセプトロン RNN LSTM GRU 制約ボルツマンマシン（英語版） SOM CNN
強化学習 TD学習 Q学習 SARSA
理論 偏りと分散のトレードオフ 計算論的学習理論（英語版） 経験損失最小化（英語版） オッカム学習（英語版） PAC学習 統計的学習（英語版） VC理論（英語版）
学会・論文誌等 NIPS（英語版） ICML（英語版） ML（英語版） JMLR（英語版） ArXiv:cs.LG
全般 統計学および機械学習の評価指標
Category:機械学習 Category:データマイニング
表 話 編 歴

（人工知能の分野で）ニューラルネットワーク（英: neural network; NN、神経網）は、生物の学習メカニズムを模倣した機械学習手法として広く知られているものであり^[1]、「ニューロン」と呼ばれる計算ユニットをもち、生物の神経系のメカニズムを模倣しているものである^[1]。人間の脳の神経網を模した数理モデル^[2]。模倣対象となった生物のニューラルネットワーク（神経網）とはっきり区別する場合は、人工ニューラルネットワーク (英: artificial neural network) と呼ばれる。

以下では説明の都合上^{[注釈 1]}、人工的なニューラルネットワークのほうは「人工ニューラルネットワーク」あるいは単に「ニューラルネットワーク」と呼び、生物のそれは「生物のニューラルネットワーク」あるいは「生物の神経網」、ヒトの頭脳のそれは「ヒトのニューラルネットワーク」あるいは「ヒトの神経網」と表記することにする。

概要

生物のニューロン

人工ニューラルネットワークを理解するには、そもそもそれがどのようなものを模倣しようとしているの知っておく必要があるので説明する。ヒトの神経系にはニューロンという細胞があり、ニューロン同士は互いに軸索 (axon) と樹状突起 (dendrite) を介して繋がっている。ニューロンは樹状突起で他の神経細胞から情報を受け取り、細胞内で情報処理してから、軸索で他のニューロンに情報を伝達する^[3]。そして、軸索と樹状突起が結合する部分をシナプス(synapse)という^[3][1]（右図も参照。クリックして拡大して見ていただきたい。紫色の部分がひとつのニューロンであり、Dendrite, Axonなどが示されている。）。　このシナプスの結合強度というのは、外的な刺激に反応してちょくちょく変化する。このシナプス結合強度の変化こそが生物における「学習」のメカニズムである^[1]。^{[注釈 2]}

人工ニューロン

ヒトの神経網を模した人工ニューラルネットワークでは、計算ユニットが《重み》を介して繋がり、この《重み》がヒトの神経網のシナプス結合の「強度」と似た役割を担っている^[1]。各ユニットへの入力は《重み》によって強さが変化するように作られており、ユニットにおける関数計算に影響を与える。ニューラルネットワークというのは、入力用ニューロンから出力用ニューロンへと向かって計算値を伝播させてゆくが、その過程で《重み》をパラメータとして利用し、入力の関 数を計算する。（ただし計算値が出力用ニューロンへと伝播されてゆくというだけでは入力パターンからある決まった出力パターンが出るだけなので、さほど有益というわけではない^[4]。）《重み》が変化することで「学習」が起きる^[1]（ここが重要なのである^[4]）。

（右図も参照のこと。右図で「weights」や、丸で囲まれた「w」が縦に並んでいるのが《重み》である。）

生物のニューラルネットワークに与えられる外的刺激に相当するものとして、人工ニューラルネットワークでは「訓練データ」が与えられる^[1]。いくつか方法があるが、たとえば訓練データとして入力データと出力ラベルが与えられ、たとえば何かの画像データとそれについての正しいラベルが与えられる（たとえばリンゴの画像データとappleというラベル、オレンジの画像データとorangeというラベルが与えられる）。ある入力に対して予測される出力が本当のラベルとどの程度一致するかを計算することで、ニューラルネットワークの《重み》についてフィードバックを得られ^[1]、ニューロン間の《重み》は誤差（予測誤差）に応じて、誤差が減少するように調整される^[1]。多数のニューロン間で《重み》の調整を繰り返し行うことで次第に計算関数が改善され、より正確な予測をできるようになる。（たとえばオレンジの画像データを提示されると「orange」と正しいラベルを答えられるようになる^[1]。） 《重み》の調整方法の代表的なものがバックプロパゲーションである^[4]。

なお、ヒトのニューロンを模したユニットは人工ニューロンあるいはノードと呼ばれる。

相互作用ニューラルネットワークモデルの一例

右図の、多数のユニットが結合しネットワークを構成している数理モデルは、ニューラルネットワークのほんの一例である。（実際にはニューロンの数もさまざまに設定可能であるし、結合のしかたもさまざまに設定可能である。右図はあくまで、とりあえず説明にとりかかるための "一例" と理解いただきたい。 ユニットの構成（例: 線形変換の次元、非線形変換の有無・種類）やネットワークの構造（例: ユニットの数・階層構造・相互結合、入出力の再帰）に関して様々な選択肢があり、様々なモデルが提唱されている。）

各ユニットは入力の線形変換を必ず含み、多くの場合それに後続する非線形変換を含む（${\displaystyle unit({\boldsymbol {x}})=\sigma ({\boldsymbol {w}}{\boldsymbol {x}})}$

多層パーセプトロンの模式図

RBFネットワーク

誤差逆伝播法に用いられる活性化関数に放射基底関数を用いたニューラルネットワーク

• RBFネットワーク（英語版）
• 一般回帰ニューラルネットワーク（英語版）（GRNN、General Regression Neural Network）- 正規化したRBFネットワーク

自己組織化写像

自己組織化写像はコホネンが1982年に提案した教師なし学習モデルであり、多次元データのクラスタリング、可視化などに用いられる。自己組織化マップ、コホネンマップとも呼ばれる。

• 自己組織化写像
• 学習ベクトル量子化（英語版）

畳み込みニューラルネットワーク

畳み込みニューラルネットワーク

畳み込みニューラルネットワークとは層間が全結合ではない順伝播型ニューラルネットワークの一種。

画像を対象とするために用いられることが多い。

再帰型ニューラルネットワーク（リカレントニューラルネット、フィードバックニューラルネット）

「回帰型ニューラルネットワーク」も参照

フィードフォワードニューラルネットと違い、双方向に信号が伝播するモデル。すべてのノードが他の全てのノードと結合を持っている場合、全結合リカレントニューラルネットと呼ぶ。シーケンシャルなデータに対して有効で、自然言語処理や音声、動画の解析などに利用される^[14]。

• ホップフィールド・ネットワーク

Transformer

「Transformer (機械学習モデル)」も参照

Self-Attention機構（自己注意機構）を利用したモデルである^[13]。再帰型ニューラルネットワークの代替として考案された^[13]。

従来の自然言語処理用モデルに比べ計算量が少なく構造も単純なため、自然言語処理に使われることが多い^[15]。

確率的ニューラルネット

乱数による確率的な動作を導入した人工ニューラルネットワークモデル。モンテカルロ法のような統計的標本抽出手法と考えることができる。

• ボルツマンマシン
• ベイジアンネットワーク

スパイキングニューラルネットワーク

ニューラルネットワークをより生物学的な脳の働きに近づけるため、活動電位（スパイク）を重視して作られた人工ニューラルネットワークモデル。スパイクが発生するタイミングを情報と考える。ディープラーニングよりも扱える問題の範囲が広い次世代技術と言われている。ニューラルネットワークの処理は逐次処理のノイマン型コンピュータでは処理効率が低く、活動電位まで模倣する場合には処理効率がさらに低下するため、実用する際には専用プロセッサとして実装される場合が多い。

2015年現在、スパイキングNN処理ユニットを積んだコンシューマー向けのチップとしては、QualcommのSnapdragon 820が登場する予定となっている^[16][17]。

複素ニューラルネットワーク

入出力信号やパラメータ（重み、閾値）が複素数値であるようなニューラルネットワークで活性化関数は必然的に複素関数になる^[18]。

利点

情報の表現

入力信号と出力信号が複素数（2次元）であるため、複素数で表現された信号はもとより、2次元情報を自然に表現可能^[18]。また特に波動情報（複素振幅）を扱うのに適した汎化能力（回転と拡大縮小）を持ち、エレクトロニクスや量子計算の分野に好適である。四元数ニューラルネットワークは3次元の回転の扱いに優れるなど、高次複素数ニューラルネットワークの利用も進む。

学習特性

階層型の複素ニューラルネットワークの学習速度は、実ニューラルネットワークに比べて2〜3倍速く、しかも必要とするパラメータ（重みと閾値）の総数が約半分で済む^{[注釈 5][18]}。学習結果は波動情報（複素振幅）を表現することに整合する汎化特性を示す^[19]。

生成モデル/統計モデル

生成モデル（統計モデルとも）は、データが母集団の確率分布に従って生成されると仮定しそのパラメータを学習するニューラルネットワークの総称である。統計的機械学習の一種といえる。モデル（＝母集団）からのサンプリングによりデータ生成が可能な点が特徴である（詳しくは推計統計学 § 統計モデル、機械学習 § 統計的機械学習）。

自己回帰型生成ネット

${\displaystyle series\sim p(x_{t},x_{t-1},...,t_{0})=\prod _{i=0}^{N}p(x_{t}|x_{<t})=\prod _{i=0}^{N}NeuralNetwork(x_{t}|x_{<t})}$

臨床
神経科学（英語版）

• 行動神経学（英語版）
• 臨床神経生理学（英語版）
• てんかん学（英語版）
• 神経心臓学（英語版）
• 神経疫学（英語版）
• 腸管神経系（英語版）
• 神経免疫学（英語版）
• 神経集中治療医学（英語版）
• 神経学
• 神経腫瘍学（英語版）
• 神経眼科学
• 神経病理学
• 神経薬理学（英語版）
• 神経機能代替（英語版）
• 神経精神医学
• 神経放射線学（英語版）
• 神経リハビリテーション（英語版）
• 脳神経外科学
• 神経耳科学（英語版）
• 神経ウイルス学（英語版）
• 栄養神経科学（英語版）
• 精神医学

認知
神経科学

• 感情神経科学（英語版）
• 行動神経科学（英語版）
• 時間生物学
• 分子細胞認知学（英語版）
• 運動制御（英語版）
• 神経言語学
• 神経心理学
• 感覚神経科学（英語版）
• 社会認知神経科学（英語版）

学際的
領域

• 脳科学
• 消費者神経科学（英語版）
• 文化神経科学（英語版）
• 教育神経科学（英語版）
• 進化神経科学（英語版）
• グローバル脳神経外科学（英語版）
• 神経人類学（英語版）
• 神経工学
• ニューロテクノロジー（英語版）
• 神経犯罪学
• 神経経済学
• 神経認識論（英語版）
• 神経美学（英語版）
• 脳神経倫理
• 神経動物行動学（英語版）
• 神経歴史学（英語版）
• 神経法学
• ニューロマーケティング（英語版）
• ニューロモルフィック・エンジニアリング
• 神経現象学（英語版）
• 神経哲学
• 神経政治学（英語版）
• ニューロロボティクス
• 神経神学（英語版）
• 古神経生物学（英語版）
• 社会神経科学

コンセプト

• ブレイン・マシン・インタフェース
• 神経系の発生（英語版）
• ヒトの神経系の発生（英語版）
• ニューラルネットワーク
• 神経回路（英語版）
• 信号検出理論（英語版）
• 術中神経生理学的モニタリング（英語版）
• ニューロチップ（英語版）
• 神経変性疾患
• 神経発達症
• ニューロダイバーシティ
• 神経形成
• 神経画像処理（英語版）
• 神経免疫系（英語版）
• ニューロマネジメント（英語版）
• ニューロモデュレーション（英語版）
• 神経可塑性（英語版）
• ニューロテクノロジー（英語版）
• 神経毒

• カテゴリ
• コモンズ

表 話 編 歴 新技術（英語版）
分野	神経科学 人工脳 ブレイン・マシン・インタフェース 脳波 精神転送 脳読解（英語版） ニューロインフォマティクス（英語版） ニューロプロステティクス（英語版） バイオニックアイ（英語版） 脳インプラント（英語版） 網膜インプラント（英語版） ニューロテクノロジー（英語版）
トピック	コリングリッジのジレンマ（英語版） 差別化技術開発（英語版） 破壊的技術 エフェメラリゼーション 技術倫理（英語版） 生命倫理学 サイバー倫理（英語版） 脳神経倫理 ロボット倫理学 探索的エンジニアリング（英語版） 架空の技術（英語版） プロアクション原則（英語版） 技術的変化 技術的失業 技術的収束 技術の進化（英語版） 技術的パラダイム（英語版） 技術予測（英語版） 収穫加速の法則 ホライズンスキャン（英語版） ムーアの法則 技術的特異点 技術スカウト（英語版） 技術成熟度レベル ロードマップ トランスヒューマニズム
ポータル 技術と産業 カテゴリ

典拠管理データベース: 国立図書館	ドイツ イスラエル アメリカ ラトビア 日本 チェコ