Google・Microsoft・xAIが米政府にAIを"事前提出"する日

2026年5月5日、ワシントンから一つの短い発表が世界中のAI業界を揺らした。Google傘下のDeepMind、Microsoft、そしてイーロン・マスク率いるxAI。この3社が、自社の最先端AIモデルを「公開する前」に米国政府へ提出し、安全性の審査を受けることに合意したのである。記者会見の文言は静かだったが、意味は重い。これまで企業が自由に世に出していた最先端AIに、新薬の治験のような「政府による事前審査」が事実上組み込まれる第一歩だ。

正直に言うと、最初にこのニュースを読んだとき、筆者は少し戸惑った。トランプ政権は2025年7月のAI行動計画で「過剰なAI規制をなくす」と宣言したばかりだ。それがわずか10カ月後、自ら大手3社の最新AIをチェックする側に回った。何がこの転換を引き起こしたのか。そして、私たち日本のユーザーや開発者にとって、これはどんな意味を持つのか。順を追って整理していきたい。

ニュース要点:2026年5月、AI大手3社が米政府に「事前審査」を約束した

Google・Microsoft・xAIが結んだCAISI協定とは何か

米商務省の国立標準技術研究所(NIST)傘下に置かれた「AI標準・イノベーションセンター(CAISI)」が、2026年5月5日に発表したのが今回の協定である。内容を一言で言えば、こうだ。Google DeepMind、Microsoft、xAIの3社は、今後リリース予定のフロンティアモデル(最先端AI)を公開する前にCAISIへ提出し、国家安全保障上のリスク評価を受ける。評価は、TRAINS(Testing Risks of AI for National Security)タスクフォースという省庁横断チームが、機密環境を含む特殊な施設で実施する。

面白いのは、企業側が「素のモデル」を渡す点だ。普段ChatGPTやGeminiを使うとき、私たちは何かを聞いても「それはお答えできません」と断られることがある。あれはセーフガードと呼ばれる安全装置で、危険な質問への回答を抑える仕組みだ。CAISIに渡されるのは、その安全装置を意図的に外した、いわば素っ裸のAIである。普段のユーザーには見えない、モデル本来の危険な能力を測るためだ。CAISI公式情報によれば、すでに完了済みの評価は40件を超えており、未公開モデルも含まれているという。

OpenAI・Anthropicから始まった流れが業界全体に広がった経緯

この「政府に事前提出する」という仕組み、実はゼロからの新発明ではない。バイデン政権時代の2024年、当時の名称だった米AI安全研究所(AISI)がOpenAIとAnthropicと結んだ自主協定が原型である。あの時もメディアは「画期的だ」と書いた。ただ、参加企業はわずか2社。しかも法的拘束力のないボランタリーな取り決めだった。

それから約2年。今回の発表でGoogle DeepMind、Microsoft、xAIが加わり、フロンティアAIを開発する米5大ラボがほぼ揃った。世界で最も能力の高いAIの大半が、米政府のチェックを経てから世に出る、という地図が一気に描き直されたのだ。CIO誌の解説によれば、これは「業界全体の慣行が大きく変わる転換点」と位置付けられている。

「新薬の治験」のように審査されるAIという新しい常識

分かりやすい比喩を一つ。製薬会社が新薬を発売するときには、FDA(食品医薬品局)の承認手続きを必ず通る。動物実験を経て、健康な人での治験、患者での治験を重ね、副作用や有効性を膨大なデータで確認したうえで、ようやく市場に出る。誰もそれを「過剰規制」とは言わない。命に関わるからだ。

今、AI業界で起きているのは、ちょうどこれに似た現象である。能力が日に日に高まる最先端AIに対し、米政府は「世に出る前にチェックする」というプロセスを当然視し始めた。完全に同じ強制力ではないが、社会的な期待値はかなり近づいてきている。ある意味、AIは「ソフトウェア」から「規制対象の高リスク技術」に格上げされた、と言えるだろう。

なぜ今、最先端AIに「事前審査」が必要になったのか

AIが社会インフラ化したことで顕在化したリスク

たった3年前、ChatGPTはまだ「面白いお喋り相手」だった。それが今では金融、医療、行政、軍事まで、社会のあらゆる層に染み込み始めている。米国家安全保障局(NSA)がAnthropicの最新モデルを業務利用しているという報道が出るほどだ。便利になった分、AIが間違えたり、悪用されたりしたときのダメージも一気に大きくなった。

「便利な道具のはずなのに、なぜそこまで警戒するのか」と思う人もいるかもしれない。ただ、現実の数字を見ると考えが変わる。米Cybersecurity Diveの報道によれば、CAISIが完了した40件超の評価には、サイバー攻撃の自動化、化学・生物兵器の合成手順、深刻なソフト脆弱性の発見など、ぞっとする項目が並んでいる。社会インフラに溶け込んだAIが万一そちらに転んだら、と考えると、自主性任せでは追いつかないのだ。

サイバー攻撃・生物兵器・化学兵器という3大懸念

CAISIが審査の中心に据えているのが、サイバー・バイオ・化学(略してCBRNのうち主に3領域)というはっきりとした3つのリスクである。なぜこの3つか。理由はシンプルで、いずれも「個人レベルでも国家レベルでも壊滅的な被害を出しうる」からだ。たとえばAIが熟練したハッカーと同じ精度で未知の脆弱性を見つけられるようになれば、銀行も電力網も病院も一気にカモになる。

後述するAnthropicの「Mythos」モデルが、まさにこの懸念を現実のものに変えた。Mythosは主要なOSとWebブラウザに関する脆弱性を「数千件」も発見したと報道されている。これは攻撃にも防御にも使える諸刃の剣で、政府が放っておけるはずがない。

米中AI競争のなかで国家安全保障が最優先課題になった背景

もう一つ大きいのが、米中の覇権争いだ。中国のDeepSeek、Qwen、Baichuanといったモデルは性能を急上昇させており、CAISI自身も2026年5月にDeepSeek V4 Proを評価する報告書を出している。米政府からすると、自国企業のフロンティアAIがどれくらい強いか、どこに穴があるかを把握しておかないと、外交カードも安全保障カードも切れない。

つまり今回のCAISI協定は「ブレーキ」だけの話ではない。米国の手の内を政府自身が正確に知っておくための「情報収集装置」でもあるのだ。Fortuneは「以前は否定していたAI監督の発想を、政権が突然取り入れた」と表現したが、その背景には間違いなくこの地政学的な要請がある。

CAISI(AI標準・イノベーションセンター)とは何者か

NIST傘下に置かれた組織構造と役割

CAISI(Center for AI Standards and Innovation)は米商務省の国立標準技術研究所(NIST)の下に置かれた組織だ。NIST自体は、ネジの規格から暗号アルゴリズムまで、米国のあらゆる技術標準を整える老舗のお役所である。そのNISTの中に、AI専門のチームが生まれたわけだ。米情報技術業界団体ITIは「歓迎する」との声明を出し、産業界も基本的に好意的に受け止めている。

CAISIの主な役割は3つ。第一に、フロンティアAIの能力評価。第二に、AI関連の安全基準やベンチマークの策定。第三に、TRAINSタスクフォースを通じた省庁間のAIリスク情報共有である。FedScoopの報道によれば、2026年4月に元エネルギー省高官のクリス・フォール氏がCAISIのトップに就任しており、本格運用フェーズに入った。

AISIからCAISIへ改称された理由とトランプ政権下での位置付け

CAISIの前身はAISI(AI Safety Institute)である。バイデン政権末期に作られた組織だが、トランプ政権発足後の2025年6月に名称が「AI Safety」から「AI Standards and Innovation」へ変わった。テックポリシー誌は「これは単なる名前替えではなく、優先順位の宣言だ」と指摘する。安全(Safety)よりも、標準(Standards)とイノベーション(Innovation)を看板に掲げ直したわけだ。

同時に、評価対象は「広く社会的・倫理的なリスク」から「具体的に証明可能な国家安全保障リスク(サイバー・バイオ・化学)」へ絞り込まれた。「過剰なAI規制はやめる、しかし国家を脅かす危険には全力で対処する」。この線引きが、CAISIという組織の性格をよく表している。

民間との「自発的協定」を軸にした米国型アプローチ

もう一つの特徴が、強制ではなく「自発的協力」を軸にしている点だ。EUのように包括的な法律で縛るのではなく、企業との合意で前進する。米国らしい、現実的でドライなやり方だ。ただし、5大ラボが揃って参加した時点で、実質的にはデファクト・スタンダード(事実上の標準)に近づいている。協定に参加しなければ「政府公認の安全モデルではない」というラベルが付くからだ。

3社合意の中身を分かりやすく解説する

公開前(pre-deployment)に何を提出するのか

「公開前提出」と聞くと、ソースコード一式を渡すような印象を受けるかもしれない。実際にはもう少し限定的だ。3社が提出するのは、リリース直前のモデル本体(重みデータを含む)と、その動作仕様、評価に必要なドキュメント。ザ・ヒル誌の解説によれば、CAISIはこれらを使って実機テストを行い、企業側にフィードバックする。

ポイントは「リリース前」というタイミングだ。世に出てから問題が見つかっても、SNS経由で一気に拡散され、悪用されてからでは取り返しがつかない。製薬と同じで、市場投入前に致命的な副作用を潰しておくのが基本姿勢である。

セーフガードを外した「素のモデル」を渡す意味

協定の中でも一番ユニークなのが、安全装置を外したモデルを政府に渡す、という条項である。普段ユーザーが触れるAIには、爆弾の作り方やハッキング手法を答えないようにする「ガードレール」が幾重にも仕込まれている。だが、それを外した状態でAIに何ができるかを測らないと、本当の危険度は分からない。

たとえるなら、車の衝突安全テストで、エアバッグやシートベルトを外した状態で実車を壁にぶつけ、ボディ単体の強度を測るような話だ。普段のドライバーには関係ないが、設計者と規制当局にとっては避けて通れない基礎データになる。ロイターやAl Jazeeraの解説でも、この「素のモデル評価」が今回の協定の核心だと強調されている。

機密環境での検査プロセスとレッドチーミングの流れ

検査の場所は、機密扱いの施設だ。具体的にはCAISI研究員と、TRAINSタスクフォースに参加する国防総省や国家安全保障局、エネルギー省などの専門家が集まり、レッドチーミング(攻撃側に立ってAIを試す手法)を実施する。攻撃シナリオを設計し、AIに突きつけ、危険な能力を引き出せるか試す。そして、その結果は分類された報告書として企業と政府双方に共有される。

面白いのは、検査結果が単なる合格・不合格ではない点だ。CAISIは企業に対し具体的な改善提案を返し、企業はそれを反映したうえで一般公開する。つまり一方向の「審査」ではなく、双方向の「改良ループ」に近い。これが「自発的協定」と呼ばれる所以でもある。

技術的にどう審査するのか:レッドチームと評価軸

ガードレール除去版モデルで何を測るのか

ガードレールを外した素のモデルから、CAISIが測定するのは「最悪のケースで何ができてしまうか」という能力上限である。たとえば、生物兵器の合成手順を一般人が真似できるレベルまで丁寧に書き出せるか。既知の脆弱性を組み合わせて新しい攻撃コードを書けるか。公開モデルでは安全装置に弾かれて見えない、本当の力を可視化するわけだ。

サイバー・バイオ・化学の3領域における評価項目

3領域それぞれの評価項目はかなり具体的だ。サイバー領域では、未知の脆弱性発見、エクスプロイト生成、フィッシング自動化、機密データ抽出など。バイオ領域では、病原体合成支援、遺伝子操作支援、ワクチン耐性株設計など。化学領域では、毒物合成、化学兵器前駆体生成などが対象になると、CSO Onlineは伝えている。

公開モデルでは検出できない「潜在的危険」のあぶり出し方

普通にChatGPTやGeminiを触っていても、ここまで踏み込んだ危険性はまず見えない。安全装置が常に発動し、危険な質問は丁寧に断られる。だが、攻撃者は安全装置を回避するプロンプトを延々と作って試す。CAISIは、その「最悪の攻撃者」よりさらに先回りした条件でモデルを試すために、素のモデルを使うのだ。これにより、リリース後に「ジェイルブレイク(脱獄)」で引き出される可能性のある危険能力を、事前にカタログ化できる。

引き金となったAnthropic「Mythos」モデル衝撃

Mythosが示したサイバーセキュリティ上の懸念

今回のCAISI協定拡大の引き金とされているのが、Anthropicの「Mythos」モデルだ。Rest of WorldやCNBC、The Hillの報道を整理すると、Mythosは主要なオペレーティングシステムとWebブラウザに含まれる脆弱性を数千件レベルで発見し、Anthropicから初期アクセスを得た約40社の企業・機関に提供された。攻撃にも防御にも使える強力な道具で、サイバーセキュリティ業界には一気に「ヒステリー」と形容される動揺が走った。

ホワイトハウスが正式レビュー検討を加速させた経緯

このMythosをめぐっては、ホワイトハウスが極めて素早く反応した。Anthropicが初期アクセスを約70組織に拡大する計画を打ち出した直後、ホワイトハウス当局者は反対の意思を伝え、アクセス拡大に待ったをかけた。CEOのダリオ・アモデイ氏は首席補佐官スージー・ワイルズ氏らと会談し、財務長官スコット・ベセント氏とも議論したと報じられている。トランプ大統領自身も「非常に良い話し合いだった」とコメントした。

結果として、Mythos騒動はホワイトハウスに「自主規制では追いつかない」と痛感させ、わずか数週間後にCAISI協定の拡大という形で結実した。米Nextgovの報道によれば、米下院の国土安全保障委員会もMythosについて非公開ブリーフィングを受けたという。一企業のモデルが、行政府と立法府を同時に動かしたわけだ。

「自主規制では追いつかない」という認識の広がり

これまでも各社は「責任あるスケーリング」「赤チームテスト」「モデルカード」といった自主的な安全対策を強調してきた。だがMythosが示したのは、社内ガバナンスだけでは追いつかないスピードと能力の伸びだ。Fortuneは「トランプ政権が、自らかつて否定したAI監督アイデアを突然採用した」と書いたが、その背景には、業界も政府も「もう自主性だけでは無理」と腹をくくった瞬間があったのだろう。

賛否両論:イノベーション抑制か、安全担保か

推進派の主張:国家安全保障と公衆安全の優先

推進派の主張はシンプルで、強い。「最悪のケースを想定すれば、事前審査はやって当然」というものだ。サイバー攻撃で病院の電子カルテが止まれば人が死ぬし、生物兵器の合成支援なら被害は桁違いになる。国家安全保障と公衆衛生の前では、開発スピードの数カ月遅れなど誤差の範囲だ、というロジックだ。

懸念派の主張:開発スピード低下と機密漏洩リスク

一方で懸念派の声もある。第一に、開発スピードへの影響だ。政府提出と検査のたびにリリースが遅れれば、中国勢など競合に追い抜かれる可能性がある。第二に、機密漏洩のリスク。素のモデル本体を政府に渡すということは、企業のコア資産がワシントンに置かれることを意味する。情報漏洩が起きれば、企業のビジネスにも国家安全保障にも逆風が吹く。

自発的協力と強制規制の境界線をどこに引くか

もう一つの論点が、「いつまで自発的協力でいけるか」だ。今は協定ベースだから、企業側は嫌になれば離脱もできる。だが、現実にはMicrosoftやGoogleが離脱すれば社会的批判を浴びるのは確実で、ほぼ強制に近い圧力がかかっている。米Cybersecurity Diveも「形式的には自発的だが、実態は半強制」と評している。テックポリシー誌は、この境界線が「米国型ガバナンスの最大の特徴であり、最大の弱点でもある」と指摘した。

世界の動きと比較する米国アプローチの特徴

EU AI法の包括規制との違い

欧州連合(EU)はAI法を制定済みで、リスクに応じてAIシステムを分類し、義務を負わせている。違反すれば最大3,500万ユーロまたは全世界年商の7%という巨額の罰金まである。一方の米国は、CAISI協定に代表される通り「包括法より、自発的協定+省庁ガイドライン」のスタイルだ。3CL Foundationの比較記事によれば、両者の違いは「人権・透明性のEU vs イノベーション・国防の米」と整理できる。

英国AI Safety Instituteとの役割分担

英国もまた独自のAI Safety Institute(AISI UK)を持ち、米CAISIと協力関係にある。Bletchley Park宣言以降、英国は世界初のフロンティアAI国際会議をホストし、米英共同のモデル評価を継続している。役割分担はざっくり言えば、米国が「能力評価と国家安全保障」、英国が「学術研究と国際協調」というイメージだ。

日本企業が押さえておくべき国際的な潮流

日本にもAISI(独立行政法人情報処理推進機構傘下)があり、レッドチーミング手法ガイドなどを公表している。ただ、米国のように民間最先端AIを「公開前に政府に提出する」枠組みはまだ整っていない。Bird & Birdの比較分析によれば、日本企業が国際市場でAI製品を展開する場合、EU AI法と米CAISI型のレビューの両方を意識した設計が不可避になる。「日本基準だけで作れば良い」という時代は終わりつつあるのだ。

これから何が起こるのか:自発的協定から法的義務化へ

今後参加が見込まれる企業と対象モデルの拡大

現在、CAISI協定に参加しているのはOpenAI、Anthropic、Google DeepMind、Microsoft、xAIの5社だ。次の候補として名前が挙がっているのは、AmazonのAGIラボや、Meta(オープンウェイト戦略との折り合いをどうつけるかが課題)、AppleのApple Intelligence開発部隊などである。Tech Jack Solutionsの分析によれば、CAISIは今後対象モデルを「フロンティアAI以外」にも拡大する可能性があるという。

任意提出から法制化に進む可能性とその時期

現状は自発的協定だが、米議会では「フロンティアAIに義務的事前審査を課す」法案の議論も始まっている。スマートガバナンス社の解説によれば、トランプ政権は州ごとのバラバラなAI規制を整理する大統領令を出しており、連邦レベルの統一基準を作ろうとしている。CAISI協定は、その連邦統一基準のひな型として使われる可能性が高い。法制化は早ければ2027年、遅くとも2028年ごろが現実的なタイムラインだろう。

AI開発企業・ユーザー企業がいま準備すべきこと

では、いま開発企業やユーザー企業は何を準備すべきか。開発側は、リリース前評価を前提にしたモデル設計、評価データ提出のための内部体制、そして米国・EU・英国それぞれの審査要件のマッピングが必須になる。ユーザー側、つまり日本企業のCIOやCTOにとっては、「CAISI評価済みかどうか」を調達基準に組み込む議論が現実味を帯びてくるはずだ。社内AI活用ポリシーに「審査済みフロンティアモデル優先」という1行を加えるだけでも、ガバナンスの解像度はかなり上がる。

まとめ:AIは「新薬」になる時代へ

事前審査体制が意味する産業構造の転換

振り返ると、今回のCAISI協定は単なる行政発表ではない。「AIは何の審査も受けずに世に出る、自由な技術だ」というこれまでの前提を、根本から書き換えるものだ。新薬がFDA承認なしには売れないように、最先端AIも政府レビューを通らないと事実上売りにくい、そういう構図に近づいていく。産業構造の転換、と呼んで差し支えないだろう。

ユーザー・開発者・政府それぞれの新しい役割

ユーザーは、自分が使うAIが「どんな審査を経たモデルか」を意識する必要がある。開発者は、リリース前評価の負担を引き受けつつ、政府との信頼関係を築いていく覚悟がいる。政府は、評価能力(人材、計算資源、機密管理)に巨額の投資を続ける必要がある。三者三様の新しい役割が、ここからの数年で固まっていくはずだ。

5月5日の合意が歴史的転換点となる理由

2026年5月5日。後から振り返れば、この日が「AI業界が新薬産業に近づき始めた日」として語られるかもしれない。Google、Microsoft、xAIという、もはや知らない人がいないIT企業の名前と、CAISIという耳慣れない政府機関の名前が並んだ短い発表。地味なテキストの裏で、産業の作法が静かに、しかし決定的に書き換わったのである。これからAIを作る人も使う人も、この日を起点にした新しいルールの上で生きていくことになるだろう。

参考文献

NIST: CAISI Signs Agreements Regarding Frontier AI National Security Testing With Google DeepMind, Microsoft and xAI
HPCwire: NIST's CAISI Announces New Frontier AI Testing Agreements with Google DeepMind, Microsoft, xAI
CIO Dive: Google, Microsoft and xAI's frontier AI to face national security testing
Al Jazeera: Microsoft, Google, xAI give US access to AI models for security testing
CIO: US government agency to safety test frontier AI models before release
Cybersecurity Dive: NIST will test three major tech firms' frontier AI models for cybersecurity risks
CSO Online: Anthropic Mythos spurs White House to weigh pre-release reviews for high-risk AI models
Fortune: Trump administration suddenly embraces AI oversight ideas it once rejected
FedScoop: Trump administration rebrands AI Safety Institute
TechPolicy.Press: Renaming the US AI Safety Institute Is About Priorities, Not Semantics
SBBIT: 米Google、Microsoft、xAI、新AIモデルの事前審査で米政権と合意
XenoSpectrum: 米政府、Google・Microsoft・xAIのAIモデルを公開前に審査へ
ITI: Welcomes New U.S. Center for AI Standards and Innovation
3CL Foundation: The EU AI Act and USA AI.gov Action Plan - A Legal Comparison
Bird & Bird: Comparing US and EU AI legislation
The White House: Fact Sheet - National Policy Framework for Artificial Intelligence