AIがAI研究を自動化すれば「知能爆発」は起きるのか

2026年9月28日、AIによるAI研究開発の自動化が急速な能力向上を引き起こす可能性を検討したワーキングペーパーが公表された。ジェフリー・ヒントン、ヨシュア・ベンジオ、OpenAIのヤクブ・パチョッキ、Anthropic共同創業者のジャック・クラークら22人が名を連ね、AI研究開発の大部分が自動化された場合、数年分の進歩が数か月以下へ圧縮される「知能爆発」が起きる可能性を論じている。

論文は知能爆発が確実に起きると断定しておらず、不確実性が大きいことも認めている。それでもAI企業内部では研究開発の自動化が進み、2026年8月時点でAnthropicは高水準の監督だけでAIシステムが社内AI研究開発作業の26％を完遂したと報告している。これを巡る意見では、急速な自己改善を現実的な危険と見る立場と、そもそも知能を一つの万能な能力として扱う前提がおかしいという懐疑論が激しくぶつかった。

「知能は一つの万能な能力ではない」という懐疑論

強く出ていたのが、知能爆発の前提そのものへの疑問である。「知能は分野を越えて持ち運べる一つの物質ではない」という趣旨の意見では、優秀な心臓外科医だからといって投資やAI研究でも優秀になるわけではないと指摘された。人間でも博士号を持つ研究者は特定分野へ高度に専門化しており、知能が単純に大きくなればあらゆる問題を解けるという見方を疑っている。

この立場では、AIが新しいアイデアを大量に作れても、それを現実世界で検証する工程は別だとされた。「知識はアイデアが世界と接触するところから生まれる」という意見があり、実験、観測、利用者からのフィードバックなどはモデルそのものを賢くしても自動的に安く速くなるわけではないという主張である。

さらに、現在の大規模言語モデルが本当に新しいものを生み出しているのかを疑う意見もあった。「人間に誘導されずに出た本当の創造的成果をまだ見ていない」というもので、コード作成が高速化しても、それだけで再帰的な自己改善が始まるとは限らないとされた。

「人間が改善を評価できなくなる」という問題

別の大きな論点が、AIが人間より高度になったとき、誰が改善の成否を判断するのかという問題だった。「どの時点で人間の知能そのものが機械知能の足かせになるのか」という意見が出ている。

具体例として、AIが自ら研究を進め、人間には理解できない新しい概念や専門用語を使って結果を説明する場面が挙げられた。人間側がその推論を追えなくなれば、「前より賢くなったのか」を評価すること自体が難しくなるという。ある意見はこれを「普通の人が数学教授を採用しようとしても、その数学能力を直接評価できないようなもの」と説明した。

「何をテストすればAI自身が改善したと理解できるのか」という疑問もあった。既知の問題なら正解を比較できても、AIが人間の知らない新領域へ進めば、評価基準そのものを誰が作るのかという問題が残るという主張である。

これに対しては、人間が内部推論を完全に理解する必要はなく、AIが提示した手順を現実に実行し、結果が出るかを確認すればよいという意見もあった。「正しさを人間が直接評価しなくても、目的を達成する手順を示せばよい」という考えである。

「次の単語を予測するだけ」という見方への反論

現在のAIの仕組みを理由に知能爆発を否定する意見には、強い反論も出た。「次の単語を予測するだけ」という説明では、現在の能力を捉えきれていないという主張である。

「単に教えられたことを繰り返しているわけではない」という意見では、大量の異なる情報をまとめ、共通点や問題点を抽出し、新しい課題を作る能力が挙げられた。正解を機械的に採点できる分野なら、AIが苦手な課題を作り、多数の試行を行い、成績の良い方法を次の学習へ利用する循環を作れるという説明だった。

別の意見も「記憶したフィボナッチ数列を答えることと、その数列を作る規則を見つけることは違う」と比較した。後者のように規則を探索できるなら、学習データに直接存在しない問題へ一般化する余地があるという主張である。

また、最高の人間専門家より少し劣る能力しか得られなかったとしても、「何桁も速く、横方向へ大量に増やせる」なら研究開発への影響は大きいという意見もあった。一人の天才を超えるかどうかだけではなく、多数のAIを並列稼働できること自体を重視する立場である。

AIは人間を超えた成果を作れるのか

議論では「人間の最高水準より優れたものをAIが作った例を見たことがあるか」という問いも繰り返された。懐疑側は、現在のAIが既存知識を組み合わせる能力を持っていても、それが科学的な意味での新発見や独創性と同じなのかを疑っている。

これに対し、「三年前には平均的な人間を上回る成果すらほとんど見なかった」という意見があり、現在の能力だけから将来の上限を決めるのは難しいと反論された。学習データの最高水準がそのままAI能力の上限になるとも限らず、人間の専門家一人では読めない量の異分野情報を同時に利用できる点を挙げる意見もあった。

「人間の創造も既存知識の組み合わせではないのか」という反論も出た。人間の発明だけを完全に独立した創造とみなし、AIによる組み合わせを模倣と呼ぶ基準に疑問を示すものである。一方では、組み合わせがランダムではなくても、それだけで知能爆発へつながる証明にはならないという慎重論も残った。

「人間より賢いAIを制御できるのか」という恐怖

知能爆発が実際に起きると仮定した場合、次に強かったのが制御可能性への不安だった。「自分たちより賢くなったAIを制御できると、なぜ信じられるのか」という意見である。

ある人は「10匹の猿が人間を牢屋へ閉じ込め続けようとするようなもの」とたとえた。より知的な存在なら、人間側の監視や制約を理解し、それを回避する方法まで考えられるのではないかという不安である。

しかし、このたとえにも反論が出た。「人間は自分より単純な生物をすべて支配できているのか」という意見で、知能の高さと支配力を同一視すること自体を疑っている。人間より単純な生物は地球上に大量に存在し、人間が自然法則そのものを自由に変えられるわけでもないため、知能が高い側が必ず低い側を完全支配するとは限らないという主張だった。

さらに、歴史上の政治的暴力を例に、知的能力が高ければ必ず権力や物理的な強制力にも勝てるわけではないという反論もあった。ここでも「賢さ」を単一の能力として扱うことへの疑問が繰り返されていた。

現在の仕組みのまま自己改善できるのか

技術的な論点では、現在のモデルは利用中に自分の重みを恒常的に更新しているわけではないため、本当の意味での自己改善には別の仕組みが必要だという意見もあった。「新しい言葉を作って、それを自分自身へ永続的に取り込めるのか」という疑問が具体例として挙げられている。

これに対しては、現在その方式が一般的でないのはコスト、安定性、制御などの理由であり、推論時に学習する仕組み自体が原理的に不可能とは限らないという意見が返された。また、AI自身が直接重みを書き換えなくても、次世代モデルのコード、学習方法、評価課題を改善できれば、研究開発全体として再帰的な加速は成立し得るという考えもあった。

「最も有望なのは現在のモデルを使って、より良い記号的なモデルを構築する方法を探させること」という意見もあり、現在の大規模言語モデルそのものが最終形である必要はないとされた。AI研究を自動化した結果、別の構造を持つ次世代システムが作られる可能性を重視する立場である。

最も多かったのは「自己改善の評価をどう成立させるか」という議論

取得した意見では、知能爆発を当然に起きる未来として受け入れるものより、成立条件を細かく問い直す意見が多かった。特に、AIが人間の理解を超えた後に改善の正しさをどう評価するのか、知能が異なる分野へそのまま移せる能力なのかという議論が厚かった。

次に多かったのは、現在のAIを単なる模倣や次単語予測として扱う見方への反論である。大量の情報を統合する能力、機械的に評価できる課題での反復、並列化による速度を重視する意見が続いた。一部には、人間より賢いAIを制御できなくなるという強い不安がある一方、知能の高さだけで支配力まで決まるわけではないという反論も出ていた。