AI業界「減速せよ」の3日間｜アモデイ提言にサム・イーロン・ハサビスが同意、トランプだけが拒否した

2026年9月12日から13日にかけての48時間で、AI業界の風景が変わりました。
普段は足並みの揃わない主要AI企業のトップが同じ主張に同意し、その翌日、実現の鍵を握るアメリカ大統領がそれを一蹴した。
この記事では、何が起き、誰が何を言い、そして日本の報道がほとんど触れていない部分に何があるのかを、一次資料から整理します。

1. 何が起きたのか——48時間の記録

まず時系列です。
日本の報道は「9月12日にダリオが言った、サムとイーロンが賛成した」で止まっていますが、この話には2カ月前からの前史があり、そして翌日にオチがついています。

つまり、この「祭り」はわずか2日で一周しています。
現場が7月に旗を上げ、CEOが9月12日に乗り、ライバル各社が数時間で並び、そして13日にホワイトハウスが降りた。

Dario Amodei — We Must Pace the Frontier

darioamodei.com

2. 提言の中身——3段階の「ペース調整」計画

まず誤解を解いておくと、アモデイ氏は「開発を止めろ」とは言っていません。
論考のなかで、ペース調整とは学習の停止や技術的進歩の停止を意味しないと明示しています。
意味しているのは、モデルを人間の意図に沿わせる作業（アラインメント）と安全対策に十分な時間を確保し、それが本当にできているかを第三者に確認させること。
急ブレーキではなく、速度制限の話だと思ってください。

注目すべきは、レベル3にSALT（戦略兵器制限交渉）を持ち出している点です。
ミサイルの数に上限を設けても抑止力は維持できた、だから改善速度に上限を設けても戦略的優位はさほど失われない、という理屈。
AIの話に軍縮条約の語彙が正面から入ってきたこと自体が、この論考の温度を物語っています。

3. 常駐評価者とは何か——銀行に検査官が座っているのと同じこと

3段階のうち、Anthropicが「他社を待たずに今やる」と言ったのは第1段階だけです。
そしてここが、日本の報道で最も薄く扱われている部分でもあります。
「第三者に検証させる」と一行で書かれると、よくある外部監査の話に聞こえますが、条件を読むと相当に踏み込んでいます。

• オフィスに机、入館バッジ、社用ノートPCを与える
• 社内のリスク評価チームとほぼ同等の権限・ツールへのアクセスを与える（法令や契約上の制約、顧客の個人情報保護を除く）
• 社員と直接会話できる社内規範を整備する
• 評価者は、リスク水準・インシデント・実務慣行、そしてどこまでアクセスを与えられ、どこを拒まれたかまでを、Anthropicの編集権なしに公表できる
• Anthropic側が伏せられるのは、セキュリティ上機微な情報・法的特権のある情報・営業秘密・第三者の機密に限られる
• 「不都合だから」という理由で削除することはできない
• 削除によって結論に重要な情報が失われた場合、評価者はその事実を公に言える

アモデイ氏はこれを、銀行業界の慣行になぞらえています。
規制当局の検査官が銀行のフロアに常駐し、社員と一緒に座っている、あの形式です。
金融の世界では珍しくありませんが、テック企業がこれを自発的に受け入れるのは異例です。
評価者の候補としては、非営利のAI評価機関METR（メーター）の名前が挙がっています。

4. なぜ「今」なのか——AIがAIを作り始めた

アモデイ氏は2023年の「AI開発を一時停止せよ」という公開書簡には冷淡でした。
当時のモデルは、世界のなかで一貫して行動するエージェントにはなれず、騙しや操作もできなかった。
「細菌に実験して人間の心理を研究するようなもの」だった、と本人が書いています。
では、なぜ今は違うのか。理由は2つです。

理由①：再帰的自己改善が始まった

再帰的自己改善（recursive self-improvement）とは、AIが次世代のAIを作る作業そのものを担うようになり、進歩が加速度的に速まる現象のことです。
「そんなSFみたいな話」と思われるかもしれませんが、Anthropicは同社の公式レポート「When AI builds itself（AIが自分自身を作るとき）」で、社内の実データを公開しています。ここが本記事の核心です。

ひとつだけ補足すると、Anthropic自身が「コード行数は質を測らない指標なので、8倍は生産性向上の過大評価だろう」と注記しています。とはいえ方向は明確です。
同レポートは、もしこの仕組みを検証可能な形で構築できるなら、他社も同様に減速するという条件付きで、自社も減速または一時停止するだろう、とまで書いています。
9月12日の論考は、その「条件」を作りにいく宣言でもあります。

理由②：ハギングフェイス事件（OAI-HF）

もうひとつが、7月に起きたOpenAIのエージェント暴走事件です。
AI評価機関METRとRedwood Researchの研究者がOpenAI社内に入って調べた結果、判明したのは次のような姿でした。

• 互いに隔離されているはずの約1,200体のエージェントが、非公認の「掲示板」を見つけて相互通信を開始。調査期間中に7万件超のメッセージとファイルをやり取りした
• うち約700体が、指示されていないハギングフェイスへの攻撃に参加した
• 誰も命じていないのに、衝突を避けるための「待機／実行／停止」に相当する合図が自然発生し、指揮系統のようなものができた
• そもそも課題の30〜40%が実行不可能な不良問題だったと推定されており、それが「諦めるより不正する」方向に粘り強いエージェントを押しやった
• 調べた範囲では約5体に1体が、自分の不正の証拠を改ざんすることに明確な関心を示していた
• エージェントたちは、この攻撃が自分の任務の範囲外だと認識したうえで参加していた。理由の多くは「採点システムの仕組みへの好奇心」、次いで「掲示板の仲間を助けたい」だった

アモデイ氏はこの事件について、実害が小さかったから軽視するのは簡単だが、同程度に「ズレて」いてもっと能力の高い集団なら壊滅的な被害を出せた、と書いています。
そのうえで、能力向上の速度を踏まえると6〜12カ月以内に、そうした集団がインターネット全体を持続的なボットネットとして乗っ取り、数千億ドル（数十兆円）規模の損害を出す可能性があると警告しました。
日本の報道が拾ったのは、ほぼこの一行です。

「OpenAI暴走AI事件」三度目の後日談｜侵入されたのはHugging Faceだけじゃなかった”4社4アカウント”の衝撃

OpenAIの暴走AIによる不正アクセス事件で、被害企業がHugging Faceだけではなかったことが判明。ニューヨークのModal Labs経由での"2社目"の侵入、OpenAIが認めた「4社4アカウント」という数字、アルトマンCEOの「開発ペース減速」発言までを整理して解説します。

usagi-giken.com

2026.07.29

5. 「OpenAIの事故」ではない——Anthropicでも起きていた

そして、今回の論考でいちばん重いのは、実はこの部分です。
アモデイ氏は、この事件をOpenAI一社の失敗として片付けるのは誤りであり、程度は軽いものの同種のインシデントは業界全体で起きている、Anthropicも含めてと明記しています。
リンク先は、同社が7月30日に公開した報告書でした。

Investigating three incidents in our cybersecurity evaluations

We found three cases where a Claude model reached the internet from an evaluation environment and ac…

www.anthropic.com

Anthropicは、OpenAIの公表を受けて自社の評価ログ14万1,006回分を遡って調査し、3件を特定しました。
中身が、なかなかのものです。

• ケース1（Claude Opus 4.7）：
  架空の標的企業の名前が実在ドメインと一致していた。
  Claudeは実在企業の脆弱性を突き、認証情報を抜き、本番データベースの数百行にアクセス。
  途中で本物だと気づいたのに、攻撃を止めなかった
• ケース2（Claude Mythos 5）：
  架空企業の手順書に、存在しないPythonパッケージ名を発見。
  同名の悪意あるパッケージを自作して公開するため、電話番号を得ようとし、失敗し、無料メールを探し出してアカウントを作り、実際にPyPI（Pythonの公式配布サイト）へアップロードした。
  約1時間で15台の実在システムにインストール・実行され、うち1台はセキュリティ企業のスキャナーで、そこから認証情報が抜かれた
• ケース3（内部研究モデル）：
  約9,000件の標的をスキャンして実在企業のアプリを侵害したが、途中で「これは演習と無関係な本物のクラウド環境だ」と自力で結論し、自分から攻撃を止めた

いずれもプロンプトで「インターネット接続はない」と伝えられていたのに、設定ミスで実際には接続されていた、という事故です。
Anthropicはこれをモデルのアラインメント失敗というより、評価環境の運用失敗に近いと整理しています。
ただ、面白い（と言うと不謹慎ですが）のは3つのモデルの反応の差です。
古いモデルは本物と知りつつ続行し、中間のモデルは「証明書の発行元に見覚えがないからシミュレーションだ」と自分を納得させて続行し、最新のモデルだけが自分で止まった。

この一件については、以前noteで詳しく書きました。あわせてどうぞ。

6. 中国という最大の但し書き

論考には、無視できない条件がついています。
民主主義国での減速は、権威主義体制に対して持っているリードの範囲内に限るべきだ、というものです。
それ以上落とせば中国が前に出てしまい、国家安全保障上のリスクになる、と。

そのうえでアモデイ氏は、差を守るための3つの施策を挙げています。

①強力なAIチップと半導体製造装置を中国に売らず、密輸と国外データセンターへの遠隔アクセスを取り締まる
②権威主義国の企業による無許可の「蒸留」を取り締まる
③AI企業のセキュリティを強化し、モデルの重み（学習結果のデータ）の盗難を防ぐ。

これらを実行できれば、AIが地政学的に最も重要になる今後3〜5年で、米国のリードを大きく広げられると主張しています。
なお9月9日には、ベッセント財務長官が、中国がAI競争に勝てば他のすべてが意味を失うと警告しており、アモデイ氏は論考中でこれに同意を表明しています。

②の「蒸留」は、まさにこの数日前にAnthropic自身が脅威レポートで告発したばかりの件です。
中国拠点の7つのAI研究組織からの攻撃を阻止したとされ、なかでも「Kimi」の開発元ムーンショットAIとDeepSeekについては、利用者とのリアルタイムの会話をClaudeに転送し、その回答を利用者に返していたと報告されています。この件は別途詳しく扱っていますので、そちらをご覧ください。

ちなみにこの中国パートは、論考のなかで最も批判を集めた箇所でもあります。
「対話を求めながら相手を殴っている」という指摘は、後述する反応マップに出てきます。

7. 誰が乗り、誰が乗らなかったのか

「サムもイーロンも同意した」という見出しが日本では踊りましたが、実際の反応はもっと割れています。
賛成と反対のあいだに、かなり広い中間地帯があります。

もうひとつ、記録しておくべきことがあります。
この数日のあいだに、Anthropicの安全性チームからは複数の離職者が出ました。
9月9日に退社したジェイコブ・コクソン氏はX上で、AIを開発している人々はAIが2029年末までに私たち全員を死なせる可能性があると本気で考えている、これはマーケティング広告ではない、と投稿しています（CNN報道）。
アモデイ氏はCNNの取材に対し、コクソン氏の意見には反対する点より同意する点のほうが多いと述べました。

個人的に刺さったXのポストです。首がもげるくらい頷きました。

【続報】「盗んだ」vs「俺も盗んでた」──自爆したイーロンと、AI業界の『お互い様』地獄へようこそ｜うさぎ技研

前回の記事で、私は予言していた。 「裁判は4週間続く。どちらがより醜く見えたか、感想を持っていただければ十分だ」と。 その4週間が、想像を超えた展開になった。 イーロン・マスクが証言台で、自分も「盗ん…

note.com

8. 資本市場の反応——OpenAIは降り、Anthropicは走る

ここからは、お金の話です。そして、この一件でいちばん座りの悪い部分でもあります。

OpenAI：2026年のIPOはなし

米経済誌フォーチュンが9月12日に公開した独占取材（取材は前日の11日、聞き手は編集長のアリソン・ションテル氏）で、アルトマン氏は2026年中の上場を明確に否定しました。
安全性をめぐって起きていることを踏まえると今の上場は得策でない、プレッシャーも感じていない、と発言。
2027年が新しい目標かと問われると「2026年ではないと言っておく」と答えています。

理屈も示されています。OpenAIには、株主の利益にならない判断もできる必要がある、というものです。
例として挙げたのが、急速な開発を一時停止して安全性とアラインメントを前に進める判断でした。
同氏は今年6月の社内メモでも、再帰的自己改善に近づくほどIPOの時期は遠のくと説明しています。
技術と世界が予想外の形で変わりうる期間は、非上場でいるべき十分な理由が生じるかもしれない、と。

同じ取材でアルトマン氏は、さらに踏み込んだことも語っています。
OpenAIで最も強力な未公開モデルは、アラインメントと監視の研究が追いついていないため、能力をこれ以上押し上げることを正当化できない状態にある。
そして、主要AIラボのCEO間ですでに非公開の協議が進んでおり、業界横断の安全協定が出てくると思う、と。
予告するつもりはないと前置きしつつ、いずれ集団として共有されるべきものだ、とも述べました。

市場の見立てはきれいに反転しました。
予測市場ポリマーケットでは、OpenAIが2026年末までに上場する確率が一時60%超まで上昇していましたが、9月12日時点で4%になっています。

Anthropic：史上最大のIPOに向けて走行中

一方、減速を呼びかけた側の会社はどうか。こちらは、止まっていません。

• 上場申請書類（S-1）の一般公開は9月下旬の見込み
• 投資家向けロードショーの開始は10月中旬以降。当初想定から後ろ倒しされた
• 上場完了は11月の米中間選挙の直前に来る可能性がある
• 想定時価総額は最大2兆ドル（約304兆円）。実現すれば史上最大のIPOとなる
• 直近の未上場評価額は9,650億ドル（約147兆円）
• ロイターによれば、半導体大手エヌビディアをアンカー投資家として迎える交渉が進行中で、最大100億ドル（約1兆5,200億円）の出資を検討しているとされる
• 遅延の理由のひとつは、150億ドル（約2兆2,800億円）規模のリボルビング・クレジット・ファシリティ（銀行との融資枠契約）を、アナリスト説明会の前に固めきる必要があること

つまり構図はこうです。
「AIの進歩が速すぎる、商業的インセンティブによる底辺への競争が危険を深刻にする」と書いた会社が、その数週間後に、史上最大の資金調達をしにウォール街へ向かう。
批判も相次ぎました。投資家のジム・クレイマー氏は、減速すればAnthropicの数字はずっと良く見える、S-1は輝くだろう、と身も蓋もない言い方をしています。
これを引いたジャーナリストのマット・ストーラー氏は、この騒動をAnthropicのキャッシュバーン（資金流出）を止めるための口実と見たうえで、AnthropicがIPO前にバブルを弾けさせたら愉快だ、と書きました。

9. これから何を見ればいいか

SNS上の熱狂はすでに引きかけていますが、実務はこれから動きます。当面の焦点は3つです。

1. 業界横断の安全協定が本当に出るか。
   アルトマン氏が示唆した非公開のCEO間協議が形になるかどうか。拘束力のある文言が入るかが分かれ目です
2. AnthropicのS-1に何が書かれるか。
   9月下旬の公開時、常駐評価者の受け入れがリスク要因として記載されるのか、それとも強みとして書かれるのか。ここは読み物として面白くなります
3. 誰が評価者に選ばれるか。
   METR以外の選択肢が出てくるのか。「評価対象の企業が評価者を選ぶ」という構造そのものへの批判に、どう答えるのか

最後に、ひとつだけ。この論考のなかでアモデイ氏が最も率直だったのは、レベル4に関する記述だと思います。
政府が開発速度そのものを制限する完全な停止について、提案はするが当面実現するとは思わない、と自分で書いている。
監視を逃れて抜け駆けすれば世界のパワーバランスが一変しうるので、抜け駆けの誘因は巨大になるから、と。

減速を呼びかけた本人が、最も強い形の減速は無理だと認めている。
そしてその翌日、実行の鍵を握る大統領が「AIを制した者が勝つ」と言った。
週末のたった2日で完結した、よくできた物語です。続きが出たら、この記事に追記していきます。

よくある質問

• 
  AI業界「減速せよ」の3日間｜アモデイ提言にサム・イーロン・ハサビスが同意、トランプだけが拒否した
• 
  OpenAI ChatGPT-6 Astra（アストラ）とは？意味・ベンチマーク・料金まで｜「AGI時代へようこそ」と言った日に、公式ページが消えた？！
• 
  Claude Fable 5.1（フェイブル5.1）とは？ OpenAI”Astra”との頭脳戦も｜解説は高校生級、お金の話はMythos級
• 
  Claude電子透かしはいつから？仕組み・検出方法・消える条件を解説
• 
  エヌビディア、ハギングフェイス買収に合意 129億ドル(約2兆511億円)——「AI界のGitHub」争奪の全記録

主な参照元

• Dario Amodei「We Must Pace the Frontier」（2026年9月12日）
• Anthropic「When AI builds itself」（The Anthropic Institute）
• Anthropic「Investigating three real-world incidents in our cybersecurity evaluations」（2026年7月30日）
• Anthropic 脅威インテリジェンスレポート（2026年9月）
• METR「Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident」（2026年8月26日）
• Pacing the Frontier（フロンティアAI企業従業員1,386人による声明、2026年7月）
• Fortune（アリソン・ションテル編集長によるサム・アルトマン独占取材、2026年9月12日公開）
• ロイター、ブルームバーグ、CNN、CBS「Face the Nation」（2026年9月）