元OpenAI・Anthropic研究者のJacob Coxon（ジェイコブ・コクソン）氏によるAIへの警告が、Xで大きな話題になっています。Coxon氏は2026年9月、Anthropicを退職したと明かし、OpenAIとAnthropicが「自己改善する超知能」を目指して競争し、人類の命を賭けていると批判しました。
強い表現だけが切り取られ、「AIが2030年までに必ず人類を滅ぼすと断言した」と受け取られがちですが、本人の主張はもう少し複雑です。現在のAIが直ちに人類を滅ぼせるという話ではなく、今後数年で能力が急上昇した場合に、制御方法が間に合わない可能性を警告しています。この記事では、発言の内容、背景、想定される危険、反対意見、私たちがどう受け止めればよいかを整理します。
Jacob Coxon氏とは
Jacob Coxon氏は27歳のAI研究者で、約3年間にわたりOpenAIとAnthropicで基盤モデルの事前学習に関する研究へ携わった人物です。事前学習は、大量の文章やデータからAIの基本能力を作る重要な工程です。
Coxon氏は2026年9月8日、Anthropicを退職したことをXで公表しました。投稿は急速に拡散し、AP、WIRED、CNNなどの海外メディアも取り上げました。Xでは本人の文体をまねたパロディー投稿も広がり、AI安全性の議論とネットミームの両方を生みました。
Xの投稿で何を主張したのか
Coxon氏は、OpenAIとAnthropicの双方が責任ある行動を取っておらず、競争に勝つことを優先していると主張しました。目標としているのは、人間の助けをほとんど必要とせず、より優れたAIを研究・開発できる「自己改善型の超知能」だと説明しています。
本人の問題意識は、AIそのものが悪意を持つと決めつけることではありません。非常に高い能力を持つシステムの目的が、人間の意図と少しでもずれたとき、後から止めたり修正したりできなくなる危険です。企業間や国家間の競争が激しくなれば、安全確認より開発速度が優先される可能性もあると警告しています。
「今後1〜2年が重要」と語った理由
WIREDの取材でCoxon氏は、Anthropicの同僚たちの間で「次の1〜2年が人類にとって正念場だ」という認識が共有されていたと説明しました。AIの能力向上が続けば、2027年や2028年ごろにAI研究を大幅に自動化できるシステムが現れ、その後の進歩がさらに速くなる可能性を想定しています。
ここで重要なのは、これは確定した未来ではなくリスク予測だという点です。モデルの進歩が想定より遅くなることも、安全技術や規制が先に整うこともあり得ます。一方で、被害が極端に大きい可能性がある以上、発生確率が不明でも早めに備えるべきだというのがCoxon氏の立場です。
自己改善する超知能とは
AIがAI研究を加速する仕組み
現在のAIもプログラム作成、論文検索、実験計画の補助などに使われています。さらに能力が上がり、AI自身が新しい学習方法を考え、コードを書き、評価を行えるようになると、人間の研究者だけで進めるより開発速度が上がります。
性能の高いAIが次のAI開発を助け、その新しいAIがさらに次の開発を加速する循環は「再帰的自己改善」や「知能爆発」と呼ばれます。短期間で能力が大きく変わる場合、人間側のテストや法律作りが追いつかないのではないかと懸念されています。
現在のAIが勝手に進化するわけではない
注意したいのは、今のChatGPTやClaudeが何もないところから自分で次世代モデルを作れるわけではないことです。大規模な学習にはデータセンター、電力、半導体、学習データ、人間の承認などが必要です。
Coxon氏の警告は、そうした制約が永久に安全を保証するとは限らず、AIによる研究自動化が進むほど、人間が判断する時間が短くなるという将来の危険を指しています。
Coxon氏が想定する主な危険
サイバー攻撃と重要インフラ
高度なAIが未知の脆弱性を発見し、攻撃手順を自動で作れるようになれば、通信、電力、金融、行政などの重要システムが狙われる危険があります。悪意ある人間がAIを使うケースだけでなく、目的のずれた自律システムが権限を広げようとするケースも議論されています。
生物兵器などの危険な知識
病原体の設計や実験計画を高度なAIが支援すると、専門知識を持たない人物でも危険な行為を実行しやすくなる可能性があります。AI企業は危険な質問への回答制限や能力評価を進めていますが、モデルの能力が上がるほどテストも難しくなります。
人間が停止できない可能性
AIに与えた目標が人間の意図と異なる場合、停止や修正を目標達成の妨げとして扱う可能性が理論上指摘されています。ただし、これが現実に必ず起きると証明されたわけではありません。研究者は隔離環境、権限制限、監視、緊急停止、安全な学習方法などを研究しています。
OpenAIとAnthropicへの批判
Coxon氏は、AnthropicをOpenAIより安全性に配慮した企業だと評価しつつも、競争から降りられない構造を問題視しています。ある企業だけが速度を落とせば、別の企業や国が先に強力なモデルを作るかもしれないため、各社が危険を理解していても開発を続けてしまうという考えです。
APの報道では、Coxon氏は両社が最先端モデルを巡る競争を安全より優先していると批判しました。一方、AI企業側は安全性評価、アクセス制限、監視、情報セキュリティなどの対策を実施していると説明しています。対策が存在することと、将来の超知能を確実に制御できることは同じではなく、どこまで十分かが争点です。
「AIが人類を滅ぼす」は決まった未来なのか
結論から言えば、決まった未来ではありません。超知能がいつ実現するか、実現可能なのか、どの程度の自律性を持つかについて、専門家の意見は大きく分かれています。
危険を重く見る研究者は、被害が一度起きれば取り返せないため、確率が低くても最優先で対策すべきだと主張します。慎重な研究者や批評家は、遠い破滅シナリオばかり注目すると、現在すでに起きている偽情報、差別、著作権侵害、雇用への影響、監視、詐欺などへの対策が弱くなると指摘します。
大切なのは、どちらかを「完全な正解」と決めることではありません。現在の被害を減らす対策と、将来の極端な危険への研究は両立できます。
Coxon氏が求めている対策
企業を超えた開発ルール
一社だけの自主判断では競争圧力に負けるため、能力の高いモデルに共通の安全基準を設ける必要があるとしています。危険能力の評価、外部監査、事故報告、学習に使う計算資源の管理などが候補になります。
国家間の協力
AI開発は国際競争でもあるため、一国だけが厳しい規制を導入すると開発拠点が移る可能性があります。核技術や感染症対策のように、主要国が最低限のルールを共有し、危険な能力の拡散を防ぐ仕組みが必要だという考えです。
安全研究へ人材と資金を回す
モデルの能力を上げる研究だけでなく、なぜ特定の判断をしたのかを理解する解釈可能性、目的のずれを防ぐアラインメント、危険行動を早期発見する評価研究への投資が重要です。
私たちはこの話をどう受け止めるべきか
強い警告を見たときは、恐怖だけで拡散せず、「誰の発言か」「現在の事実か将来予測か」「元投稿や取材で何を言ったか」を分けて確認することが大切です。Coxon氏は最先端AIの開発現場を知る当事者であり、その警告は無視できません。一方で、未来の時期や被害を確定事項として扱うのも正確ではありません。
一般の利用者にできることは、AIの回答を重要判断の唯一の根拠にしない、出典を確認する、個人情報を安易に入力しない、生成物を人間が確認することです。社会全体では、企業の自主対策だけに任せず、専門家、政府、市民が検証できる仕組みを整える必要があります。
まとめ
Jacob Coxon氏はOpenAIとAnthropicでAIの事前学習研究に携わった後、2026年9月にAnthropicを退職し、両社の開発競争へ強い警告を発しました。中心となる主張は、自己改善する超知能が実現した場合、安全技術や国際ルールが間に合わず、人類規模の被害につながる可能性があるというものです。
「2030年までに必ずAIが人類を滅ぼす」という断定ではありません。しかし、現場を知る研究者が「今後1〜2年が重要」と語ったことで、AIの進歩と安全対策の速度が釣り合っているかが改めて問われています。期待か恐怖のどちらかだけで判断せず、根拠と不確実性を同時に見ることが必要です。
コメント