責任あるスケーリングポリシー
(RSP (AI) から転送)
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2026/03/27 15:57 UTC 版)
| 原題 | Responsible Scaling Policy |
|---|---|
| 略称 | RSP |
| 策定者 | Anthropic |
| 初版 | 2023年9月19日 |
| 最新版 | v3.0（2026年2月24日） |
責任あるスケーリングポリシー（せきにんあるスケーリングポリシー、英: Responsible Scaling Policy、略称：RSP）は、Anthropicが策定したフロンティアAIシステムに起因する壊滅的リスクを評価・緩和するための自主的リスクガバナンス枠組みである。2023年9月19日に初版（v1.0）が公開され、以降複数回にわたり改訂されてきた[1]。AnthropicはRSPを「壊滅的な害を引き起こしうるモデルを、リスクを許容可能な水準に保つ安全・セキュリティ対策なしには訓練・展開しない」という公的コミットメントと位置づけてきた[2]。
RSPはAIリスクガバナンスにおける先駆的な枠組みとして、業界各社や各国政府の政策立案に広く参照されている[3]。
背景と策定経緯
RSPの概念的枠組みは、非営利のAI安全研究機関であるARC Evals（現METR）が提唱したものに基づく。METR（旧ARC Evals）は責任あるスケーリングポリシーを、「AIの開発者が現在の保護措置のもとで安全に対処できるAI能力の水準、および保護措置が改善されるまで、AIシステムの展開やAI能力のスケールアップを継続することが危険になる条件を明示したもの」と定義している[4]。METRは2023年9月にARC Evalsから独立した非営利組織として発足した[5]。
Anthropicのバージョン1.0は、ポール・クリスティアーノとARC Evalsが発展させたRSPの概念枠組みおよびイギリス・EU・米国における政府の政策提案の精神に基づき設計されており、ARC Evalsが評価手続きの開発において助言と協力を提供した[1]。
AIセーフティレベル（ASL）基準
RSPの核心をなすのがAIセーフティレベル基準（AI Safety Level Standards、ASL Standards）である。これはフロンティアAIモデルを安全に訓練・展開するための技術的・運用的対策の段階的な枠組みであり、バイオセーフティーレベル（Biosafety Level）制度から着想を得ている[2]。
- ASL-1
- 壊滅的リスクをほとんど有さないシステム（チェスAIや2018年時点の大規模言語モデルなど）を指す。
- ASL-2
- 危険な能力の初期兆候を示すが、まだ壊滅的リスクには至らないシステムを指す。たとえば、生物兵器の製造方法に関する情報提供が可能であっても、その情報が実際の危険な行動を支援するほど有用でない段階が該当する[6]。
- ASL-3
- 化学兵器・生物兵器・放射線兵器・核兵器に関する大幅な支援能力、あるいは自律的な自己複製能力の初期兆候を持つシステムを指す。このレベルに達した場合、より厳格なセキュリティおよび展開基準の適用が義務づけられる[7]。
- ASL-4以上
- より高度な能力水準を持つシステムを対象とし、定義は段階的に精緻化されている[1]。
モデルの能力が増大するにつれてより強固な安全対策が求められるという「比例的保護」（proportional protection）の原則がASL基準の根幹をなす[2]。
バージョン履歴
v1.0（2023年9月）
Anthropicは2023年9月19日、「壊滅的な害をもたらしうるモデルを、リスクを許容可能な水準に保つ安全・セキュリティ対策なしには訓練・展開しない」という公的コミットメントとして初版RSPを発表した[1]。これはこの種のフロンティアAI安全枠組みとして業界初の公開事例である[3]。v1.0では、能力閾値の超過が確認された場合に訓練・展開を一時停止するという条件付きコミットメント（if-thenコミットメント）が明示されていた。また責任あるスケーリング担当官（Responsible Scaling Officer）の任命などの手続き的コミットメントも盛り込まれた[3]。
v2.0・v2.1・v2.2（2024年）
2024年10月15日、Anthropicはv2.0を公表し、1年間の実施経験から得た教訓を反映した大幅な改訂を行った[7]。改訂の主な内容は以下のとおりである。
- 能力閾値を示す「ケイパビリティ・スレッショルド」（Capability Thresholds）と「必要なセーフガード」（Required Safeguards）の概念の導入。 - 安全ケース（safety case）手法を取り入れた、モデル能力とセーフガードの妥当性を評価するプロセスの改良。 - 内部ガバナンスおよび外部入力に関する新たな措置の追加[2]。
Anthropicは改訂に際し、前バージョンとの不一致として、最新の評価が所定の3か月間隔から3日遅延したこと、および自律性評価のタスクを規定外の形で更新したことの2点を公表した[8]。
また同年、共同創業者・最高科学責任者のジャリッド・カプランが責任あるスケーリング担当官に就任した[2]。
v3.0（2026年2月）
2026年2月24日、Anthropicはv3.0を公開し、これまでで最大規模の改訂を実施した[9]。
v3.0の主な変更点は以下のとおりである。
- 自社コミットメントと業界推奨事項の分離
- Anthropicが競合他社の動向にかかわらず単独で実施するコミットメントと、業界全体に推奨する対策を明確に区別した[9]。
- フロンティア安全ロードマップ（Frontier Safety Roadmap）の導入
- AIセキュリティ・AIアライメント・セーフガード・政策の各領域にわたる具体的な安全目標を公表する義務を設けた[3]。
- リスクレポート（Risk Reports）の導入
- 3〜6か月ごとに公開するリスクレポートの枠組みを整備し、システムカードを超えた包括的なリスク評価を行う仕組みを導入した[3]。
Anthropicは変更の主な理由として、集合行為問題（collective action problem）を挙げている。Anthropicは、他の先端AI開発者が同等の対策を取らないなか、自社のみが厳格な一時停止コミットメントを維持することで競争上の不利を被れば、安全性の低いアクターが業界をリードする状況につながりかねないと主張した[9][3]。Anthropicの最高科学責任者ジャリッド・カプランはTIME誌に対し、「AIモデルの訓練を止めることが誰かの役に立つとは考えられなかった」と述べ、AIの急速な進歩を踏まえると単独のコミットメントを維持することには意味がないと判断したと説明した[10]。
理論的基盤
RSPは「条件付きコミットメント」（conditional commitment）の原則を基礎とする。特定の能力閾値（「モデルが生物兵器の製造を支援できる生物科学能力を超えた場合」など）を超えた場合に、より厳格な一連のセーフガード（モデルの悪用防止策や重みの盗難対策など）を導入するという論理構造をとる[9]。この枠組みは以下の4つの作用機序を想定している。
- 内部の強制力
RSPをモデル開発・展開の前提条件として機能させることで、安全対策への投資を組織全体に徹底させる。
- トップへの競争（Race to the top）
- RSPの公開によって他のAI企業が類似の方針を採用するよう促し、業界全体で安全基準の向上を図る。
- リスクに関するコンセンサスの形成
- 能力閾値を活用して、多国間の協調行動や規制当局への働きかけの根拠を提供する。
- 将来への備え
- 高度な能力水準のモデルがもたらしうるリスクに対し、政府との協調を通じた多国間的な対策を促進する[9]。
他社フレームワークへの影響
Anthropicがv1.0を公開した数か月後、OpenAIは「Preparedness Framework」（ベータ版）を、Google DeepMindは「Frontier Safety Framework」をそれぞれ発表した[9]。
2024年のAIソウルサミットにおいては、16社がフロンティアAI安全コミットメントへの署名を行い、類似の枠組みを公表することに合意した[11]。
2025年12月時点で、Anthropic・OpenAI・Google DeepMind・Magic・Naver・Meta・G42・Cohere・Microsoft・Amazon・xAI・NVIDIAの計12社がフロンティアAI安全方針を公表している[11]。
RSPに触発されたこれらの自主的な基準は、世界各地のAI政策形成にも影響を与えており、カリフォルニア州のSB-53法、ニューヨーク州のRAISE法、EU AI法のコーズ・オブ・プラクティスなどが参照枠組みとして採用している[3]。
各社フレームワークの比較においては、Anthropicのはカリキュラムのように段階的なASLレベルを採用するのに対し、OpenAIのPreparedness Frameworkは「高（High）」と「クリティカル（Critical）」の2段階の能力閾値を設定し、Google DeepMindのFrontier Safety Frameworkは「クリティカル能力レベル（CCL: Critical Capability Levels）」を導入している点で異なる[12]。
評価と批判
RSPに対してはAI安全コミュニティからさまざまな評価が寄せられている。
Anthropicの研究者エヴァン・ハビンジャーはRSPを「適切に設計された一時停止」（pauses done right）と評し、安全に関する具体的な政策提案として重要だと主張した[13]。ポール・クリスティアーノも概ね支持する立場をとり、RSPの実施が効果的な規制につながる可能性を高めるとの見方を示した[14]。
一方、批判的な見方も存在する。主な批判としては以下が挙げられる。
- RSPが規制当局からの圧力を緩和するための手段に過ぎず、実効的な政策ではなく単なる「善意の表明」にとどまるという指摘[6]。
- 安全性の立証責任が能力開発側から安全性を懸念する側へと転換されるという懸念[6]。
- v2.0以降、能力評価が事前に規定された基準ではなく内部の主観的判断に依拠するようになり、コミットメントとしての客観性が弱まったという批判[15]。
v3.0に対してはガバナンスAI（GovAI）が当初ネガティブな評価を示したが、その後の精査を踏まえてより肯定的な立場に転じた。同機関は一時停止コミットメントの削除には懸念を示しながらも、フロンティア安全ロードマップとリスクレポートが透明性の向上に資するとして評価している[3]。また、v3.0の改訂によって他の企業が自社のコミットメントを後退させる口実に利用する恐れがある点を懸念として指摘した[3]。
RSP準拠体制
AnthropicのRSPは以下の内部ガバナンス構造に基づいて運用されている。
- 責任あるスケーリング担当官（Responsible Scaling Officer）
- RSP遵守の監督を担う。v2.0発表時に、最高科学責任者のジャレッド・カプランが就任した[2]。
- 取締役会の承認
- RSPの改訂は取締役会の承認および長期便益信託（Long-Term Benefit Trust）との協議を経る[16]。
- 匿名通報チャンネル
- 従業員がRSP違反の可能性を匿名で報告できる仕組みを設ける[3]。
- 第三者による年次審査
- 主要な手続き的コミットメントへの準拠状況を外部機関が年次で審査する[3]。
脚注
- ^ a b c d “Anthropic’s Responsible Scaling Policy Version 1.0”. Anthropic (2023年9月19日). 2026年3月23日閲覧。
- ^ a b c d e f “Announcing our updated Responsible Scaling Policy”. Anthropic (2024年10月15日). 2026年3月23日閲覧。
- ^ a b c d e f g h i j k l Sophie Williams; Jonas Freund (2026年3月5日). “Anthropic’s RSP v3.0: How it Works, What’s Changed, and Some Reflections”. Centre for the Governance of AI. 2026年3月23日閲覧。
- ^ Beth Barnes (2023年9月26日). “Responsible Scaling Policies (RSPs)”. METR. 2026年3月23日閲覧。
- ^ “ARC Evals is now METR”. METR (2023年12月4日). 2026年3月23日閲覧。
- ^ a b c “What are Responsible Scaling Policies (RSPs)?”. EA Forum (2025年4月5日). 2026年3月23日閲覧。
- ^ a b “Responsible Scaling Policy Effective October 15, 2024”. Anthropic (2024年10月15日). 2026年3月23日閲覧。
- ^ “Anthropic’s Responsible Scaling Policy updates”. Anthropic. 2026年3月23日閲覧。
- ^ a b c d e f “Anthropic’s Responsible Scaling Policy: Version 3.0”. Anthropic (2026年2月24日). 2026年3月23日閲覧。
- ^ a b “Exclusive: Anthropic Drops Flagship Safety Pledge”. TIME (2026年2月24日). 2026年3月23日閲覧。
- ^ a b “Common Elements of Frontier AI Safety Policies”. METR (2025年12月1日). 2026年3月23日閲覧。
- ^ “Frontier Safety Frameworks: Comprehensive Guide & Key Comparisons”. Enkrypt AI (2025年7月17日). 2026年3月23日閲覧。
- ^ Evan Hubinger (2023年9月28日). “RSPs are pauses done right”. AI Alignment Forum. 2026年3月23日閲覧。
- ^ “On ‘Responsible Scaling Policies’ (RSPs)”. thezvi.substack.com (2023年12月5日). 2026年3月23日閲覧。
- ^ “Anthropic’s updated Responsible Scaling Policy”. LessWrong (2024年10月15日). 2026年3月23日閲覧。
- ^ “Anthropic’s Responsible Scaling Policy & Long-Term Benefit Trust”. LessWrong (2023年9月19日). 2026年3月23日閲覧。
外部リンク
- 責任あるスケーリングポリシーのページへのリンク
