設計における考慮
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/08/07 22:26 UTC 版)
ボストロムは、超知能がどのような価値観を持つよう設計されるべきかについての懸念を表明した。ボストロムは既存のいくつかの提案を以下のように比較している。 一貫推定意志（Coherent Extrapolated Volition、略称：CEV）の提案では、超知能は人類の総意であると推定される価値観を持つべきである。 道徳的正義（Moral Rightness、略称：MR) の提案では、超知能は道徳的な正義を評価・重視するべきである。 道徳的許容（Moral Permissibility、略称：MP）の提案では、超知能は道徳的な許容範囲内にとどまることを評価・重視するべきである。（その他の点ではCEVの価値観を持つこととなる） ボストロムに触発され、クリストファー・サントス＝ラングはAI開発者たちが多くの選択肢から、1種類の超知能のみを選んで開発を始める可能性への懸念を示した。
※この「設計における考慮」の解説は、「超知能」の解説の一部です。
「設計における考慮」を含む「超知能」の記事については、「超知能」の概要を参照ください。
ウィキペディア小見出し辞書の「設計における考慮」の項目はプログラムで機械的に意味や本文を生成しているため、不適切な項目が含まれていることもあります。ご了承くださいませ。
お問い合わせ。
- 設計における考慮のページへのリンク
