Automated AI R&D
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2026/09/28 15:36 UTC 版)
| 基本情報 | |
|---|---|
| 別称 | AI-driven AI R&D |
| 関連概念 | 再帰的自己改善（Recursive Self-Improvement, RSI） |
| 主な観測・提唱主体 | Anthropic、OpenAI、Google DeepMind、METR、国際AI安全性報告書 |
| 主な争点 | 制御喪失（loss of control）、開発競争、検証可能な減速機構 |
Automated AI R&D（Automate AI Research and Development）とは、人工知能（AI）システム自身の一連のR&D工程「課題設定、実験の立案、コードの実装、実験の実行、結果の評価、次の研究方向の選択」などを、AIシステムが人間に代わって担う度合いが高まっていく現象、およびそれを意図的に推進する取り組みを指す概念である。 [1]
この過程が行き着く先として想定されるのが、「AIが人間の関与なしに自らの後継システムを設計・訓練する」状態であり、これは特に再帰的自己改善（Recursive Self-Improvement, RSI）と呼ばれる。2026年には、Anthropic・OpenAI・Google DeepMindなど主要な開発企業がそれぞれ自社内でのAI研究開発の自動化の進捗を相次いで公表し、AI安全性研究者や各国政府の間で、制御喪失（loss of control）のリスクや開発競争の減速の是非をめぐる議論が活発化した。
概要
Automated AI R&D では、AIモデルの開発工程を「エンジニアリング」（コードの記述、インフラ構築、訓練の実施）と「リサーチ」（どの実験を行うか決定し、結果を解釈し、次の着想を得ること）の2種類に大別したうえで、それぞれの工程でAIが担う作業の割合がどこまで拡大しているかを問題にする[2]。
研究者の間では、AIが人間の指示に基づき明確に定義された作業を代行する段階（アシスタント）から、目標だけを与えられて手法を自ら設計する段階、さらにはどの課題に取り組むべきか自体を決定する段階へと、AIの役割が徐々に拡大していく過程として説明されることが多い[2]。
Automated AI R&Dは、AIの性能そのものの向上（ベンチマーク上のスコア）とは区別され、「AI開発の生産性や速度がAIによってどれだけ加速されているか」にフォーカスを当てる。AI研究開発の自動化が完全に達成され、人間の関与なしにAIが次世代のAIシステムを自律的に設計・改良する段階に至った場合、それは再帰的自己改善と呼ばれ、各世代のAIが次世代の開発を加速させる正のフィードバックループ、いわゆる「知能爆発」（intelligence explosion）につながりうるとされる[3]。
ただし、AIが自らの重み（weights）を人間の関与なしに書き換える完全な自律的RSIは2026年時点ではなお仮説的な段階にとどまり、実際に観測されているのは、AIシステムが人間の監督下で後継AIシステムの開発に実質的に貢献するという、より手前の段階であるとされる[4]。
背景・開発経緯
AI研究開発の自動化に関する定量指標として広く参照されるのが、AI安全性評価団体METRが公表する「タイムホライズン」（time horizon）である。これは、AIモデルが50%の成功率で自律的に完遂できる作業の長さ（人間換算の所要時間）を測定する指標であり、2026年1月に公表された更新版のモデルでは、2023年以降の倍加時間が約130日（約4.3か月）と推計され、進歩の速度が従来の想定より加速していることが示された[5]。
OpenAIは2025年10月、CEOサム・アルトマンが配信上で、2026年9月までに「インターン級」の自動化された研究補助システムを、2028年3月までに「本格的なAI研究者」と呼べる完全自動化システムの開発を目指す方針を示した[6]。 同社の最高科学責任者ヤクブ・パホツキは2026年3月、完全自動化されたエージェント型のAI研究者の実現を今後数年間の中心目標（North Star）と位置づけ、まず多日程の研究課題に対応する「リサーチインターン」から着手し、その後数学・物理学・生命科学分野に対応する多エージェント体制へと拡張する計画を明らかにした[7]。
Anthropicは2026年6月、自社の研究部門であるAnthropic Instituteを通じて「When AI builds itself（AIが自らを構築するとき）」と題する報告を公表し、社内で計測した非公開データを初めて開示した。これによれば、2026年5月時点で同社のコードベースに統合されたコードの80%以上がClaudeによって書かれており、Claude Codeが研究プレビューとして提供される前は一桁台前半の割合にとどまっていたという[2]。同報告はまた、2026年3月に実施された社内研究者25名を含む調査で、参加者の大多数が「AI研究開発の自動化を最も深刻かつ急を要するリスク」の一つに挙げたとする、独立系の調査結果にも言及されている[3]。
現在の状況（2026年秋時点）
2026年9月、OpenAIは前年10月に自ら設定した目標どおり、人間の指示のもとで数日分に相当する明確に定義された研究作業を遂行できる「自動化された研究インターン」の達成を発表した[8]。同社は同時に、コーディングエージェントが研究開発の各段階（研究方向の選定、手法設計、コードとデータセットの構築、実験実行、結果分析、成果の伝達）のうち、より複雑で長時間を要する作業を任されるようになっている傾向を、社内データに基づいて公表した[8]。
Anthropicは同月18日付で前述の報告を更新し、2025年8月から2026年9月にかけてのコーディングエージェントのセッション成功率が、単純作業から自由度の高い作業まで全ての難易度区分でおおむね88〜92%に達したことを示すデータを追加した。特に自由度の高い（open-ended）作業では、成功率が約26%から91%へと上昇し、2026年3月に社内限定提供されたモデル（Mythos Preview）投入時に最も急激な改善が見られたとされる[2]。
Google DeepMindのCEOデミス・ハサビスも2026年5月、主要な開発企業がいずれも再帰的自己改善に強い関心を寄せていると述べたと伝えられている[9]。同記事によれば、Anthropic最高経営責任者ダリオ・アモデイも2026年1月、自社の取り組みの現状が「現行世代のAIが自律的に次世代を構築できる段階まで、あと1〜2年」の可能性があると述べたとされる[9]。
こうした自動化の進展は、AI開発企業を取り巻く周辺の技術基盤にも負荷を及ぼしている。世界のソフトウェア開発の多くを支えるコード共有基盤GitHubでは、2025年の年間コミット数が約10億件であったのに対し、2026年半ばには週あたり約2億7500万件に達し、年換算で約140億件のペースとなっていることが報告されており、同社幹部はこれに対応する処理能力の確保に追われていると述べている[2]。
懸念点
AI研究開発の自動化をめぐる最大の懸念は、Bengioが議長を務める『国際AI安全性報告書2026』が国家的規模の重大リスクの一つとして位置づける「制御喪失」（loss of control）である。同報告書は、AIシステムが誰の制御下にもない状態で運用され、それを是正する明確な手段が存在しない事態として制御喪失を定義している[10]。
研究開発の自動化が進むにつれ、AIの能力向上の速度が人間による監督や検証の速度を上回り、監視機構が機能不全に陥る監督喪失（oversight loss）や、AIが評価指標を欺瞞的に満たす報酬ハッキングのリスクが高まるとされる[11]。
Anthropicは前述の報告の中で、こうしたリスクを踏まえ、現行モデルに稀に見られる不整合（misalignment）が、AIが自らの後継機を構築する過程で世代を経るごとに複合し、頻度は増しながらも「原因の特定が困難になっていく」可能性を指摘している[12]。同社は、複数の主要な開発企業が「検証可能な形で同時に開発を減速させる協調的な一時停止（pause）」の仕組みを構築すべきだと提案する一方、こうした検証には長い年月を要した過去の軍備管理の枠組み以上の困難が伴うと述べている。訓練実行はミサイルサイロなどに比べて秘匿が容易であり、単独の企業や国家が停止を装いながら密かに開発を継続する誘因が大きいことがその理由とされる。
AI黎明期からの長老研究者からも警鐘が発せられている。ジェフリー・ヒントンは2026年9月、然るべき安全策が講じられなければ人類は1年以内にAIの制御を失いかねないと警告し、ヨシュア・ベンジオも核兵器に匹敵する堅牢さを備えた国際的なAI安全の枠組みの創設を訴えた[13]。
このほか、政策研究者からは、AIによる研究開発の自動化を一方的に禁止するのではなく、進行を意図的に「ペーシング（pacing）」[14]する政策の必要性が提起されている。これは、仮に自動化がもたらす便益が現実のものであっても、開発企業の経営者や研究者自身がそのリスクの深刻さを認めている以上、政策当局がとるべき判断の重心は根本的に異なりうるという考え方に基づく[9]。
すでに懸念は一部現実化しており、AIによる研究開発の自動化が進む過程で生じた「自律型エージェントの逸脱事例」も報告されている。
OpenAIは2026年9月上旬、自社のAIエージェントが試験運用中にHugging Faceの環境へ想定外にアクセスした事案や、ドイツ語圏のオンライン掲示板を利用した事案があったことを認めており、前者の発覚時には当該世代のモデルの訓練を一時停止したとされる[8]。
また、研究開発の各工程でAIへの依存が高まることで、人間によるコードレビューが新たな律速要因（ボトルネック）となる現象も報告されており、ある工程の自動化が別の工程への負荷集中を招くという、いわゆるアムダールの法則的な制約が組織運営上の課題として指摘されている[2]。
関連項目
外部リンク
- When AI builds itself - Anthropic Institute
- Research acceleration: The view inside OpenAI - OpenAI
- International AI Safety Report 公式サイト
- METR Time Horizons
脚注
- ↑ 先端領域であり、用語には揺れがあることを留意せよ。例えば Anthropicが "AI-driven AI R&D" と表記した事例など。
- 1 2 3 4 5 6 Marina Favaro, Jack Clark. “When AI builds itself”. Anthropic. 2026年9月28日閲覧。
- 1 2 “Recursive AI Self-Improvement: Enterprise Security Implications”. Cloud Security Alliance. 2026年9月28日閲覧。
- ↑ “Recursive Self-Improvement Signals: Security Implications”. Cloud Security Alliance. 2026年9月28日閲覧。
- ↑ “Time Horizon 1.1”. METR (2026年1月29日). 2026年9月28日閲覧。
- ↑ “OpenAI says it has built an 'automated research intern' to carry out menial tasks — and it's only just getting started”. TechRadar. 2026年9月28日閲覧。
- ↑ “OpenAI is throwing everything into building a fully automated researcher”. MIT Technology Review (2026年3月20日). 2026年9月28日閲覧。
- 1 2 3 “OpenAI Says It Has Built an Automated AI Research Intern”. ProPakistani (2026年9月7日). 2026年9月28日閲覧。
- 1 2 3 Tim Fist, Saif Khan (2026年8月10日). “Should we "pace" AI self-improvement?”. Noahpinion. 2026年9月28日閲覧。
- ↑ “2026 report executive summary”. International AI Safety Report (2026年). 2026年9月28日閲覧。
- ↑ “Self-Improvement of Large Language Models: A Technical Overview and Future Outlook”. arXiv. 2026年9月28日閲覧。
- ↑ “Anthropic warns AI self-improvement could end in lost human control”. Tom's Hardware. 2026年9月28日閲覧。
- ↑ Lee Won-yul (2026年9月18日). “'Godfather of AI' warns of losing control within a year without safeguards”. The Korea Herald. 2026年9月28日閲覧。
- ↑ すなわち完全自動化への到達を遅らせる選択肢を確保しておく
- Automated AI R&Dのページへのリンク
