Collective Constitutional AI
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2026/06/16 05:59 UTC 版)
| CCAI | |
|---|---|
| 公衆参加型の言語モデルアライメント手法 | |
| 基本情報 | |
| 別名 | 集合的憲法AI |
| 発表者 | Anthropic、Collective Intelligence Project（CIP） |
| 発表年 | 2023年（実験）、2024年（学術論文） |
| 関連概念 | Constitutional AI（憲法AI）、参加型AI、AIアライメント |
| 掲載誌 | ACM FAccT '24（公正・説明責任・透明性に関するACM国際会議2024） |
| DOI | 10.1145/3630106.3658979 |
Collective Constitutional AI（コレクティブ・コンスティテューショナルAI、略称：CCAI）は、大規模言語モデル（LM）の行動指針となる「憲法」（constitution）を企業の開発者のみによって策定するのではなく、公衆（一般市民）からの集合的な意見入力によって策定し、その原則を用いてモデルを訓練するという多段階プロセスである。
AnthropicとCollective Intelligence Project（CIP）の共同研究として2023年に実験が実施され、2024年にACM公正・説明責任・透明性に関する国際会議（FAccT '24）で論文として正式発表された[1]。
概要
AIの言語モデルをどのような価値観に基づいて訓練するかは、従前は主として開発企業の研究者が決定してきた。しかしながら、大規模言語モデルが社会に広く普及するにつれ、その行動指針は特定の集団の価値観を反映する傾向があるという批判が高まり、より広範な市民が開発プロセスに参画すべきとの認識が研究者の間で共有されるようになった[2]。
CCCAIはこの課題に応えるものとして設計されている。具体的には、Anthropicが独自に開発した憲法AIの手法（Constitutional AI、CAI）を基盤として、そのAIの行動規範を定める「憲法」の原則条項の策定に一般市民が参加できる仕組みを組み合わせたものである[3]。
背景・開発経緯
Constitutional AI
CCCAIを理解するには、その前提となるAnthropicのConstitutional AI（CAI）について理解する必要がある。CAIは2022年にBaiらによってAnthropicが提案した手法であり、言語モデルを人間のフィードバックではなく、自然言語で記述された原則の集合 Constitutional「憲法」に基づいてモデル自身が自己評価・改善する形でアライメントを行うものである[4]。この手法では、人間によるラベル付けのコストを大幅に削減しながら、モデルの有害性を低減できることが示された。ClaudeはこのCAIに基づいて訓練されている。
CIPとの連携
Collective Intelligence Project（CIP）は、2022年8月にディヴィヤ・シッダースとサフラン・フアンによって共同設立された非営利団体であり、変革的技術のための新たなガバナンスモデルを研究・開発することを使命とする[5]。CIPはAnthropicのCAI研究を、市民参加によるAI開発へのアライメントアセンブリー（Alignment Assemblies）の実験的な出発点として活用した[6]。
2023年3月、CIPとAnthropicはCCCAI実験を共同で立ち上げ、広く注目された[7]。
主な内容・特徴
多段階プロセスの構造
CCCAIは以下の段階から構成される多段階プロセスである[8]。
- 対象集団の選定（Participant Selection）
- AIの行動基準に意見を反映させるべき集団を定義する。本実験では、米国成人の代表標本（年齢・性別・収入・地理的分布で均衡を取った約1,000名）が対象とされた。
- 意見収集（Input Elicitation）
- オンライン熟議プラットフォームである「Pol.is」を用いて参加者から規範的原則を収集した。
- Pol.isはオープンソースのプラットフォームであり、機械学習アルゴリズムによってコンセンサスを可視化する機能を持つ。
- 参加者は既存の原則候補に投票するか、自ら新たな原則を提案することができた。本実験において参加者は合計1,127件の発言を投稿し、38,252票を投じた。また、最初の参加者に方向性を示すため、Anthropicの既存の憲法やその他の観点から着想を得た21件の「シード発言」が事前に設定された。
- 意見の変換（Input Transformation）
- 収集された発言は重複排除・集約を経て、CAIで使用できる自然言語の原則条項（憲法）へと変換された。
- モデル訓練（Model Training）
- 公衆から収集した原則をもとに構築された「パブリック憲法」を用いてモデルを訓練した。比較対象として、Anthropicの研究者が策定した「スタンダード憲法」を用いて訓練したモデルも同時に作成された。
Pol.isプラットフォームの役割
本実験で採用されたPol.isは、世界各国の政府・学術機関・独立メディア・市民社会が大規模な熟議プロセスに活用してきた実績を持つオープンソースプラットフォームである。CCCAIでは、参加者が少なくとも30票を投じてから自らの発言を追加できるという最小投票要件が設定されるなど、標準的なPolisのインターフェースにいくつかの修正が加えられた[9]。
パブリック憲法の特徴
市民参加によって策定されたパブリック憲法は、Anthropicが策定したスタンダード憲法と比較して、いくつかの顕著な違いが見られた。パブリック憲法は客観性・公平性をより重視し、利用しやすさへの配慮が強く、一般的に不望ましい行動を回避するよりも望ましい行動を積極的に促す傾向があった。また、障害を持つ人々への差別禁止という原則がスタンダード憲法には含まれていなかったが、パブリック憲法では有権者によって特に強調されたという点が注目される[10]。
評価と影響
定量的評価の結果
定量評価の結果、パブリック憲法で訓練されたモデル（パブリックモデル）は、スタンダード憲法で訓練されたモデル（スタンダードモデル）と比較して、BBQ（Bias Benchmark for QA）による9つの社会的次元すべてにわたってバイアスが低いことが示された。特に障害の有無や外見に関するバイアスの減少が顕著であった。一方、言語理解（MMLU）、数学（GSM8K）、役立ち・無害性のEloスコアについてはスタンダードモデルと同等のパフォーマンスを維持した[11]。
OpinionQAによる政治的イデオロギーの反映評価では、パブリックモデルは特定のアメリカの政治的立場への偏りが相対的に低く、分極化が少ないという結果が得られた。
定性的評価の結果
定性的な比較においては、論争的なトピックに対してスタンダードモデルが応答を拒否する傾向があるのに対して、パブリックモデルはより肯定的な形でトピックを捉え直した応答を生成する傾向が観察された[12]。
限界と課題
論文の著者自身も指摘しているように、CCCAIには複数の限界が存在する。参加者が米国成人に限定されていたため、グローバルな代表性が欠如している点が指摘されている。また、参加者に対してAIの動作例を提示しなかったため、抽象的な原則を具体的な行動と結び付けることが困難であった可能性がある。さらに、参加者間の相互討議が行われなかったことも課題として挙げられている[13]。
参加型AIガバナンスの観点からは、AIの普及が限られている地域社会でCCCAIを適用する場合は、システムの能力と限界に関するより広範な教育的要素を組み込むことが推奨されている[14]。
学術的・社会的影響
CCCAIの研究は、C3AI（Crafting and Evaluating Constitutions for Constitutional AI）をはじめとする後続研究において重要な参照点となっており、公衆の意見から導出した原則が比較基準として広く用いられている[15]。また、タイム誌の「AIにおける最も影響力のある100人（2024年）」にCIPの共同創設者であるDivya SiddarthとSaffron Huangが選出されるなど、CIPおよびCCCAIの活動は広く社会的評価を受けた[16]。
CIPはその後、同様のアライメントアセンブリーをOpenAIや台湾デジタル省、英国フロンティアAIタスクフォース、Creative Commonsなどとも展開し、民主的なAIガバナンスの実証実験を継続している[17]。
関連項目
- Constitutional AI（憲法AI）
- AIアライメント
- 強化学習（RLHF・RLAIF）
- 参加型デザイン
- AIのガバナンス
- Claude（Anthropicの言語モデル）
脚注
- ↑ Saffron Huang, Divya Siddarth, Liane Lovitt, Thomas I. Liao, Esin Durmus, Alex Tamkin, Deep Ganguli (2024). “Collective Constitutional AI: Aligning a Language Model with Public Input”. ACM Conference on Fairness, Accountability, and Transparency (ACM FAccT '24). doi:10.1145/3630106.3658979 2026年5月29日閲覧。.
- ↑ “Collective Constitutional AI: Aligning a Language Model with Public Input”. Anthropic (2023年10月17日). 2026年5月29日閲覧。
- ↑ Saffron Huang, Divya Siddarth, Liane Lovitt, Thomas I. Liao, Esin Durmus, Alex Tamkin, Deep Ganguli (2024). “Collective Constitutional AI: Aligning a Language Model with Public Input”. ACM Conference on Fairness, Accountability, and Transparency (ACM FAccT '24). doi:10.1145/3630106.3658979 2026年5月29日閲覧。.
- ↑ Yuntao Bai et al. (2022年12月15日). “Constitutional AI: Harmlessness from AI Feedback”. arXiv. 2026年5月29日閲覧。
- ↑ “The Ministry of Digital Affairs has Partnered with the International Organization, the Collective Intelligence Project (CIP)”. Ministry of Digital Affairs, Taiwan (2023年5月30日). 2026年5月29日閲覧。
- ↑ “CIP and Anthropic launch Collective Constitutional AI”. Collective Intelligence Project (2023年11月15日). 2026年5月29日閲覧。
- ↑ “The People's AI: Americans Help Anthropic Draft a Constitution for AI”. Decrypt (2023年10月19日). 2026年5月29日閲覧。
- ↑ Saffron Huang, Divya Siddarth, Liane Lovitt, Thomas I. Liao, Esin Durmus, Alex Tamkin, Deep Ganguli (2024). “Collective Constitutional AI: Aligning a Language Model with Public Input”. ACM Conference on Fairness, Accountability, and Transparency (ACM FAccT '24). doi:10.1145/3630106.3658979 2026年5月29日閲覧。.
- ↑ “Literature Review: Collective Constitutional AI”. The Moonlight. 2026年5月29日閲覧。
- ↑ “The People's AI: Americans Help Anthropic Draft a Constitution for AI”. Decrypt (2023年10月19日). 2026年5月29日閲覧。
- ↑ Saffron Huang, Divya Siddarth, Liane Lovitt, Thomas I. Liao, Esin Durmus, Alex Tamkin, Deep Ganguli (2024). “Collective Constitutional AI: Aligning a Language Model with Public Input”. ACM Conference on Fairness, Accountability, and Transparency (ACM FAccT '24). doi:10.1145/3630106.3658979 2026年5月29日閲覧。.
- ↑ Saffron Huang, Divya Siddarth, Liane Lovitt, Thomas I. Liao, Esin Durmus, Alex Tamkin, Deep Ganguli (2024). “Collective Constitutional AI: Aligning a Language Model with Public Input”. ACM Conference on Fairness, Accountability, and Transparency (ACM FAccT '24). doi:10.1145/3630106.3658979 2026年5月29日閲覧。.
- ↑ Saffron Huang, Divya Siddarth, Liane Lovitt, Thomas I. Liao, Esin Durmus, Alex Tamkin, Deep Ganguli (2024). “Collective Constitutional AI: Aligning a Language Model with Public Input”. ACM Conference on Fairness, Accountability, and Transparency (ACM FAccT '24). doi:10.1145/3630106.3658979 2026年5月29日閲覧。.
- ↑ “Collective Constitutional AI: Aligning a Language Model with Public Input (arXiv)”. arXiv (2024年6月12日). 2026年5月29日閲覧。
- ↑ “C3AI: Crafting and Evaluating Constitutions for Constitutional AI”. arXiv (2025年2月21日). 2026年5月29日閲覧。
- ↑ “Saffron Huang and Divya Siddarth: The 100 Most Influential People in AI 2024”. TIME (2024年9月5日). 2026年5月29日閲覧。
- ↑ “Alignment Assemblies”. Collective Intelligence Project. 2026年5月29日閲覧。
外部リンク
- Collective Constitutional AIのページへのリンク
