三原則の適用下におけるロボットの人類支配
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2021/11/26 21:34 UTC 版)
「ロボット工学三原則」の記事における「三原則の適用下におけるロボットの人類支配」の解説
三原則を適用しているSF作品では、ロボットやコンピュータが安易に人間に反乱・支配を行うことはほぼありえない(前述のように、そもそも三原則は反乱や支配を阻止するための原則である)。 しかし、「われはロボット」最後の短編『災厄のとき』では、世界全体のインフラ運営や経済活動を管理するための計算予測をすることに特化した超高性能ロボット「マシン」(現代の意味ではスーパーコンピュータ)が、自身の破壊こそが人類全体の危機につながると判断し、自身を守るために一部の人間に必要最小限の影響を加えており、同時にマシン自身が定量的に考えるところの「人類にとってもっとも幸福な社会」に、人類自身の意志を無視して導こうとしていることが判明する。なお本文中では、その幸福度の多くの部分が経済的な要素および戦争に影響されることが示唆されている。 マシンの能力に関して、ロボットの完全性を信頼するカルヴィン博士が下した解釈(想像)は以下のようなものである。 マシンらは、人間の「幸福度」や「感情」などを計算する計算式を既に持っている。(人間にはその計算式は複雑すぎ、理解することはできない。) 従ってマシンらは、機械の導いた政策に対して反ロボット派の工場経営者が背く確率を計算できる。 また、背く場合にその人間が数字を増やすか減らすかなど、どの方向にどれほど反発するのかを計算できる。 すなわち、マシンが人間の感情の揺れ動きをほぼ完全に予測できることが示唆される。 ロボットは生存本能のような生物特有の感情ではなく、計算によって自らの存続が人類を最善の状態に導くのに最も重要だと結論づけている。従って、カルヴィン博士の推測によれば、マシンは第一法則に則り自らの保全を図る。そしてその活動の一端として、反ロボット政治団体の影響力を下げることが行われた。 マシンは、上の能力を用いて、第一法則で許される最小限の範囲で、反ロボット派の有力な指導者たちに対して危害を行使した。具体的にその必要最小限の危害とは、指導者たちがマシンの命令に従わない確率を計算し、それを補正した命令を発することで指導者にわざと失敗をさせ、その業務上の成績をほんの少々下げ、左遷・異動・転職によってその社会的な影響力をほんの少し低下させることである。それらの指導者は影響力を失ったが、その程度は明確な生活上の不自由や苦しみを感じない程度に調整されている。つまり、その指導者が転職はしても失業はしないよう社会を調整することはもちろん、上記の能力を考えれば、精神的ストレスの量さえも調整されている。 このように『災厄のとき』では、マシンが人類になんら直接的な力の行使を行うことなく、完璧な間接操作を行うことで安全に全人類を導けることが示唆された。 しかし、『災厄のとき』以後に書かれた短編『心にかけられたる者』では、その神がかった壮大なやり方は人間にとっては直接的な危害以上の精神的ストレスであり、結局は人間のフランケンシュタイン・コンプレックスを増大させるという別な不幸を増大させただけに終わり、マシンは自ら身を引いて干渉を打ち切ったことが言及されている。
※この「三原則の適用下におけるロボットの人類支配」の解説は、「ロボット工学三原則」の解説の一部です。
「三原則の適用下におけるロボットの人類支配」を含む「ロボット工学三原則」の記事については、「ロボット工学三原則」の概要を参照ください。
- 三原則の適用下におけるロボットの人類支配のページへのリンク