ニューラルネットワーク
ニューラルネットワークとは、情報処理の計算モデルのうち、人間の脳の働きを模倣して構築された計算モデルのことである。
ニューラルネットワークのシステムは、比較的単純な処理単位をニューロン(神経細胞)と定義し、多数のニューロンを情報の入出力伝達網で接続した脳の仕組みに似せて構築されている。
ニューラルネットワークは、ニューロコンピュータと呼ばれるコンピュータシステムの計算モデルとなっている。ニューロコンピュータは自己学習を実現することができる新世代の人口知能として、盛んに研究・開発が行われている。
ニューラルネットワーク
生物の神経系の高度な情報処理機構を工学的に模倣し、入力と出力を相互にきめ細かく関連づけて複雑な制御を行う情報処理技術のこと。例えばオートエアコンにこれを導入すると人の感覚に近い綴密な空調制御が可能となる。スイッチや各センサーなどから信号を送る入力層、その情報をもとに入力と出力の優先順位をはかりながら相互関係の調整を行う中間層、それらの総和をもとに必要な制御量を算出してオートエアコン・アンプリファイアに出力する出力層の3種のニューロン(神経細胞)モデルが複数絡み合って、ネットワークを構成している。
参照 オートエアコンニューラルネットワーク
生物の神経系の情報処理を工学的に模倣したもので、人間の脳のように複雑な入力と出力の関係を、相互にきめ細かく関連づけて複雑な制御を行うシステム。トヨタ車のオートエアコンの制御に採用されており、外気温、室温、日射量を感知し、吹出し温度、風量を緻密に制御して乗員の感覚に合わせた、より快適な空調システムとしている。
ニューラルネットワーク
【英】:neural network
概要
(2) 神経回路の構造やニューロン(neuron)の作用を部分的に模倣した, コンピュータや電子回路を用いた人工的な「神経回路網」で, 記憶, 認識, 連想などの機能を実現する工学的なシステムのこと. ノイズに対する頑健性(robustness), 類似入力に対する汎化性(generalization), 学習が容易な高い適応性(adaptability), 並列処理への潜在的可能性をもつ.
詳説
ニューラルネットワーク (neural network) は神経回路網のことであり, その機能をコンピュータや専用ハードウェアで模倣したものを人工ニューラルネットワーク (artificial neural network) という. ORなどの分野で単にニューラルネットワークという場合は, 多くは人工ニューラルネットワークのことを指し, 具体的には比較的単純な非線形信号処理ユニットを結合することで構成されるネットワークのことと考えることが多い. ニューラルネットワークは本質的に並列分散処理的であり, 自己組織的であるといった特徴を内包している.
ニューラルネットワークの歴史を概観すると以下のようになる. 1943年にマッカロック(W. McCulloch)とピッツ(W. Pitts) [1] によるしきい値素子モデルが提案された. 1949年の心理学者D. Hebbの "The Organization of Behavior" [2] において示されたシナプス強化則とも言われる学習方法に関する考え方は, その後提案された多くのニューラルネットの学習方法の基礎となっている. 1962年, ローゼンブラット(F. Rosenblatt)によるパーセプトロン [3] (perceptron) が提案されたが, 1969年, ミンスキー(M. Minsky)とパパート(S. Papert)によるパーセプトロンの限界の呈示, 何人かの研究者による初期バージョンの後, 1986年にラメルハート(D. Rumelhart), ヒントン(G. Hinton), ウイリアムス(R. Williams)によりまとめられた階層型ニューラルネットワークの誤差逆伝播法 (back propagation) の定式化 [4] などを経て, 近年は, 脳の機能の実現を強く意識した研究も盛んに行われている.
ニューラルネットワークは2つの側面から最適化と関係が深い. まず1つは, ニューラルネットワークの機能としての最適化, もう1つは, 何らかの機能を実現するためのニューラルネットワークの学習における最適化である.
ホップフィールドネットワーク [5] (Hopfield network) は, 連想記憶を行ったり巡回セールスマン問題などの最適化問題を解くために考え出されたニューラルネットワークで, 1982年, ホップフィールド (J. J. Hopfield) により提案された. 記憶したいパターン情報は定係数
の中に埋めこまれる. このモデルは1984年, 連続値モデルに拡張された. 離散および連続モデルを合わせてホップフィールドネットワークと呼ばれる. ホップフィールドとタンク(T. W. Tank)は1985年に, ホップフィールドネットワークを巡回セールスマン問題の解法に用いる方法を示し [6] , ニューラルネットワークの最適化への応用の道を開いた.
ニューラルネットワークによる学習は, 教師あり学習, 教師なし学習に大別される. 教師あり学習とは, サンプルデータにおいて, 入力値に対して出力値が与えられ, 多数の入出力組の関係を同時に実現するようにモデルの中のパラメータを調整するモデルであり, その用途としては, 分類及び非線形回帰がある. この2つの本質的な違いは教師出力信号として2値信号を用いるか実数値を用いるかという点である. パーセプトロン, 階層型ネットワーク, RBF (radial basis function) ネットワークなどがあり, データのクラス判定や非線形関数近似を行うモデルを, 例 (examples) としてのデータから構築する. しきい値関数を使ったモデルでは, パーセプトロンなどのように, 誤り訂正学習が用いられる. また, ロジスティック (logistic) 関数などの微分可能関数を用いたモデルでは, 二乗誤差を最小化するような評価関数が学習に用いられる. 階層型ニューラルネットに二乗誤差最小化を取り入れると, 誤差逆伝播法が導かれる. 教師なし学習とは, 入力ベクトルだけがあるもので, 入力ベクトルに関する分布の情報を学習するものであり, 情報圧縮, 確率密度関数モデルを用いた推論などに応用される. コホネン(T. Kohonen)の自己組織化マップ (self organizing map), ガウス混合モデル (Gaussian mixture model), k-meansクラスタリングなどが代表的な例である.
人工知能においては, 記号論理をベースにしたシンボリストモデル (symbolist model) に対し, ニューラルネットワークの相互結合をもじったコネクショニストモデル (connectionist model) は, 相互に対極にあるものとして対比されてきた. シンボリストモデルは論理的な説明に適しており, コネクショニストモデルは学習が容易であるという特長を持つ反面, 一般にシンボリストモデルは学習が困難であり, コネクショニストモデルは説明能力に欠けるということがいえる. コネクショニストモデルが説明能力に欠けるというのは, 入力空間を自在に切り分けることができるがゆえにその複雑な切り口を言語的に説明することが困難なためであり, 欠点というよりもそのモデルの持つ特質からくる特徴であって, 特に言語的な説明を要しない制御などの分野では明らかに優れた能力を発揮する. また, 日々の売上データから顧客の特徴を抽出したり, クレジットカードの入会審査を行ったりするデータマイニング(data mining)の分野においても有力な手法として注目されている.
[1] W. W. McCulloch and W. Pitts, "A Logical Calculus of the Ideas Immanent in Nervous Activity," Bull. Math. Biophysics, 5 (1943), 115-133.
[2] A. O. Hebb, The Organization of Behavior, Wiley, 1949. 白井 訳, 『行動の機構』, 岩波書店, 1957.
[3] F. Rosenblatt, Principles of Neurodynamics, Spartan, 1962.
[4] D. E. Rumelhart, G. E. Hinton and R. J. Williams, "Learning Internal Representation by Error Propagation", in D. E. Rumelhart, J. L. McClelland and the PDP Research Group, Parallel Distributed Processing: Explorations in the Microstructure of Cognition, 1, Foundations, MIT Press, 1986. 甘利(監訳), 『PDPモデル-認知科学とニューロン回路網の探索-』, 産業図書, 1989.
[5] J. J. Hopfield, "Neural Networks and Physical Systems with Emergent Collective Computational Abilities," in Proceedings of the National Academy of Sciences U.S.A., 79, 2554-2558, 1982.
[6] J. J. Hopfield and T. W. Tank, "Neural Computation of Decisions in Optimization Problems," Biological Cybernetics, 52 (1985), 141-152.
| 近似・知能・感覚的手法: | デンプスター・シェファーの証拠理論 データマイニング ナップサック問題 ニューラルネットワーク ニューラルネットワークによる学習 ファジィランダム変数 ファジィ推論 |
ニューラルネットワーク
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2026/09/18 08:08 UTC 版)
ニューラルネットワーク(英: neural network)とは、互いに信号を送り合うニューロンと呼ばれる相互接続された単位の集まりである。ニューロンは生物学的な細胞である場合もあれば、数理モデルである場合もある。個々のニューロンは単純であるが、多数のニューロンがネットワークをなすことで複雑な課題を遂行できる。ニューラルネットワークには大きく分けて二つの種類がある。
- 神経科学における生物学的ニューラルネットワークは、脳や複雑な神経系に見られる物理的構造であり、シナプスによって接続された神経細胞の集団である。
- 機械学習における人工ニューラルネットワークは、非線形関数を近似するために用いられる数理モデルである。人工ニューラルネットワークは人工知能の問題を解くために用いられる。
神経科学においては、行動と認知は分散した脳領域間の相互作用から生じる。計算機科学においては、人工ニューラルネットワークが現代の多くのAIシステムを支えているが、大規模なデータセットと相当な計算能力を必要とする。さらに、その内部表現は解釈が難しい。
生物学
生物学の文脈において、ニューラルネットワークとはシナプスによって化学的に相互接続された生物学的ニューロンの集団である。一個のニューロンは数十万ものシナプスに接続されうる[1]。 各ニューロンは、活動電位と呼ばれる電気化学的信号を、接続された隣接ニューロンへ送受信する。ニューロンは、受け取った信号を増幅して伝播させる興奮性の役割を担うこともあれば、逆に信号を抑制する抑制性の役割を担うこともある[1]。
ニューラルネットワークよりも小規模な相互接続ニューロンの集団は神経回路と呼ばれる。非常に大規模な相互接続ネットワークは脳の大規模ネットワークと呼ばれ、これらが多数集まって脳や神経系を形成する。
脳内のニューラルネットワークが生成した信号は、最終的に神経系を通り、神経筋接合部を越えて筋細胞へと伝わり、そこで収縮を引き起こして運動をもたらす[2]。
機械学習
機械学習において、ニューラルネットワークとは非線形関数を近似するために用いられる人工的な数理モデルである。初期の人工ニューラルネットワークは物理的な機械であったが[3]、今日ではほぼ常にソフトウェアとして実装されている。
人工ニューラルネットワークにおけるニューロンは通常、層状に配置され、情報は第一層(入力層)から一つ以上の中間層(隠れ層)を経て最終層(出力層)へと伝わる[4]。 各ニューロンへ入力される「信号」は数値であり、具体的には前層の接続されたニューロンの出力の線型結合である。各ニューロンが出力する信号は、その活性化関数に従ってこの数値から計算される。ネットワークの挙動は、ニューロン間の接続の強さ(重み)に依存する。ネットワークは、既存のデータセットに適合させるために、経験リスク最小化やバックプロパゲーションを通じてこれらの重みを修正することで訓練される[5]。
深層ニューラルネットワークという語は、3層を超える層をもつニューラルネットワーク、すなわち典型的には入力層と出力層に加えて少なくとも2つの隠れ層をもつものを指す。
人工ニューラルネットワークは内部表現の分析が難しいため、しばしば「ブラックボックス」モデルと呼ばれ、特に高リスクの応用分野において解釈可能性は活発な研究領域となっている[6]。
ニューラルネットワークは人工知能の問題を解くために用いられており、それによって予測モデリング、適応制御、顔認識、手書き文字認識、汎用ゲームプレイ、生成AIなど多くの分野で応用が見出されている。
歴史
現代のニューラルネットワークの理論的基礎は、1873年にアレクサンダー・ベインによって[7]、また1890年にウィリアム・ジェームズによって[8]、それぞれ独立に提唱された。両者はともに、人間の思考は脳内の多数のニューロン間の相互作用から生じると主張した。1949年、ドナルド・ヘッブはヘッブ学習、すなわち信号がシナプスを通るたびにそのシナプスが強化されることによって、ニューラルネットワークが時間とともに変化し学習しうるという考えを述べた[9]。1956年、スヴァエティチンは二次網膜細胞(水平細胞)の機能を発見し、これはニューラルネットワークの理解にとって基礎的なものとなった。
人工ニューラルネットワークはもともと、1930年代からコネクショニズムの手法のもとで生物学的ニューラルネットワークをモデル化するために用いられていた。しかし、1943年にウォーレン・マカロックとウォルター・ピッツが人工ニューロンの数理モデルを提唱し[10][11]、続いてフランク・ローゼンブラットがパーセプトロンを導入し1950年代末にそのハードウェア実装を行って以降[3]、人工ニューラルネットワークはむしろ機械学習の応用に用いられることが増え、生物学的な対応物との差異が次第に大きくなっていった。
1969年、マービン・ミンスキーとシーモア・パパートは著書『パーセプトロン』において単層パーセプトロンの限界を分析した。この批判は、一部の著者が「AIの冬」と呼ぶ、ニューラルネットワーク研究への資金と関心の減退をもたらした。
ニューラルネットワークの研究は、バックプロパゲーションによって訓練される多層ネットワークの開発と普及により1980年代に復活し、2000年代以降は大規模データセット、高速なハードウェア(とりわけGPU)、およびアルゴリズムの進歩の組み合わせがディープラーニングの台頭をもたらした[12]。
関連項目
出典
- 1 2 Shao, Feng; Shen, Zheng (January 9, 2022). “How can artificial neural networks approximate the brain?”. Front. Psychol. 13. doi:10.3389/fpsyg.2022.970214. PMC 9868316. PMID 36698593.
- ↑ Levitan, Irwin; Kaczmarek, Leonard (August 19, 2015). “Intercellular communication”. The Neuron: Cell and Molecular Biology (4th ed.). New York, NY: Oxford University Press. pp. 153–328. ISBN 978-0-19-977389-3
- 1 2 Rosenblatt, F. (1958). “The Perceptron: A Probabilistic Model For Information Storage And Organization In The Brain”. Psychological Review 65 (6): 386–408. doi:10.1037/h0042519. PMID 13602029.
- ↑ Bishop, Christopher M. (August 17, 2006) (English). Pattern Recognition and Machine Learning. New York: Springer. ISBN 978-0-387-31073-2
- ↑ Vapnik, Vladimir N.; Vapnik, Vladimir Naumovich (1998). The nature of statistical learning theory (Corrected 2nd print. ed.). New York Berlin Heidelberg: Springer. ISBN 978-0-387-94559-0
- ↑ Badam, Lalithareddy (2026-01-01). “Explainable AI in High-Stakes Domains: Improving Trust, Transparency, And Accountability in Automated Decision-Making”. European Journal of Computer Science and Information Technology 14 (2): 13–34. doi:10.37745/ejcsit.2013/vol14n21334. ISSN 2054-0957.
- ↑ Bain (1873). Mind and Body: The Theories of Their Relation. New York: D. Appleton and Company
- ↑ James (1890). The Principles of Psychology. New York: H. Holt and Company
- ↑ Hebb, D.O. (1949). The Organization of Behavior. New York: Wiley & Sons
- ↑ McCulloch, Warren; Pitts, Walter (2021-02-02), “A Logical Calculus of the Ideas Immanent in Nervous Activity (1943)”, Ideas That Created the Future, The MIT Press, pp. 79–88, ISBN 978-0-262-36317-4 2026年4月10日閲覧。
- ↑ McCulloch, W; Pitts, W (1943). “A Logical Calculus of Ideas Immanent in Nervous Activity”. Bulletin of Mathematical Biophysics 5 (4): 115–133. doi:10.1007/BF02478259. オリジナルのMay 17, 2024時点におけるアーカイブ。 2024年2月17日閲覧。.
- ↑ Heaton, Jeff (2017-10-29). “Ian Goodfellow, Yoshua Bengio, and Aaron Courville: Deep learning”. Genetic Programming and Evolvable Machines 19 (1-2): 305–307. doi:10.1007/s10710-017-9314-z. ISSN 1389-2576.
ニューラルネットワーク
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2022/06/04 00:57 UTC 版)
パターン認識に特化したアルゴリズムである。コネクショニズムとほぼ同義。
※この「ニューラルネットワーク」の解説は、「人工知能」の解説の一部です。
「ニューラルネットワーク」を含む「人工知能」の記事については、「人工知能」の概要を参照ください。
ニューラルネットワークと同じ種類の言葉
| 情報処理システムに関連する言葉 | ARTSJ EDPS NACCS ニューラルネットワーク |
固有名詞の分類
- ニューラルネットワークのページへのリンク