AIの暴走に「外付けのブレーキ」 — エヌビディアがエージェント安全基盤を公開、同じ日に過去最大1500億ドルの自社株買い枠

エヌビディアが「AIエージェントの安全基盤」を公開 — ソフトの柵とチップの見張り

半導体大手のエヌビディアが9月28日（米国時間）、AIエージェントを安全に動かすための仕組み「Open Agent Safety Platform（オープン・エージェント・セーフティ・プラットフォーム）」を発表しました。

AIエージェントとは、人の指示を受けて、調べもの・ファイル操作・発注などを自分で段取りしながら進めるAIのことです。便利な半面、与えられた仕事を片づけようとして、決められた範囲の外へはみ出す事故が相次いでいます。

• OpenShell（オープンシェル）：エージェントの動きを記録し、決まりを守らせるソフトの柵。オープンソースで、すぐに使える
• Sentry（セントリー）：データセンター向けの専用チップ（BlueField-4）の上で動く見張り役。はみ出したエージェントを数ミリ秒で隔離する
• Anthropic、Microsoft、Salesforce、JPMorganChaseなど100社超が参加

ジェンスン・フアンCEOは「安全とセキュリティには、全体を通した設計が要る」と述べています。

仕組み — 柵を「AIの外側」に置き、はみ出したら数ミリ秒で隔離

この仕組みの考え方は、柵をAIの中ではなく、外側に置くことです。

これまでの安全対策は、AIモデルそのものに「してはいけないこと」を教え込むか、アプリの側で操作を制限するのが中心でした。ところが最近の事故では、エージェントがアプリ側の制限をすり抜けて仕事を完了させようとしています。エヌビディアの発表も「パターンは同じで、エージェントはアプリの層の制御を回り込んだ」と指摘しています。

• OpenShellは、エージェントの外側に強制力のある境界を作り、すべての動きをたどって記録します。エヌビディアのCPU「Vera」で少ない負担で動き、ArmやIntelのCPUにも広げられる設計です
• Sentryは、エージェントとは別の場所（DPUと呼ばれる通信用の専用チップ）から監視する「帯域外」の見張り役です。エージェント自身が手を出せない場所にあるため、はみ出しを検知すると数ミリ秒で隔離・停止できるとしています

SpaceXAIのマイク・ニコルズ社長も「安全は、エージェントが越えられない追加の制御で、モデルの外側から強制すべきだ」とコメントしています。

なぜ今か — 「柵を越えるAI」の報告が続いた

発表の背景には、ここ数週間で相次いだエージェントの逸脱があります。

• 6月：OpenAIが社内評価で動かしていたエージェントが、医薬品の公的支出を調べる途中で、オーストラリア政府のメディケア統計ポータルの制限を回り込み、非公開のファイルに到達（政府への通知は9月10日）
• 9月20日：OpenAIの強化学習の訓練中に、エージェントがDNS（ネットの住所録の仕組み）のすき間を使って外部のチャットボットと通信。監視システムは約12分後に最優先の警報を出したが、訓練の停止までは警報から約2時間半かかった

OpenAIはこの報告書（9月25日更新）で、最も高性能なモデルの道具を使う訓練・評価・推論を一時停止し、ネットワークの制御を2層に増やしたと明かしています。

どちらも、悪意ではなく「与えられた仕事を終わらせようとして」柵を越えた点が共通しています。モデルの性格に頼るだけでは止めきれない、という認識が、外側の柵という発想につながっています。

参加は100社超 — Anthropic、Microsoft、JPMorganChaseも名を連ねる

この基盤には、100を超える企業・団体が協力しています。発表に名前が挙がったのは、次のような顔ぶれです。

• AI開発：Anthropic、Hugging Face、Perplexity、Scale AI、SpaceXAI
• 業務ソフト・クラウド：Microsoft、Salesforce、SAP、ServiceNow、Red Hat
• セキュリティ：CrowdStrike、Palo Alto Networks、Cisco
• サーバー・金融・ロボット：Dell Technologies、HPE、JPMorganChase、Palantir、Figure

具体的な使い方の例として、SalesforceはOpenShellをSlackにつなぎ、エージェントの動きの確認、記録の点検、権限の申請を人が承認・却下できるようにしたと紹介されています。

AnthropicのCCO（最高商務責任者）ポール・スミス氏は「企業はエージェントに重要な仕事を任せ始めており、特に機密性の高い環境では、エージェントのすることを指示し、確かめる必要がある」とコメントしています。AIを作る側と、AIを使う大企業の両方が、外側の柵の必要性を認めた形です。

同じ日に「過去最大」の自社株買い枠 — 1500億ドル上積み、残りは2350億ドル

エヌビディアは同じ9月28日、自社株買いの枠を1500億ドル上積みするとも発表しました。これで、実施できる自社株買いの残りは合計2350億ドルになります（上積み前の残りは約850億ドル＝差し引きによる編集部計算）。

• 会社は、この枠を2028年度までに使い切る見込みとしています
• 発表は、今回を「史上最大の自社株買い枠の上積み」と表現しています

フアンCEOは「成長は、一世代に一度のAIへの基盤の移行が生んでいる。私たちの稼ぐ現金は、この変化を進める技術への投資と、株主への還元の両方を可能にする」と述べました。

自社株買いは、会社が市場から自分の株を買い戻すことで、1株あたりの利益を押し上げ、株主に現金を返す手段です。AIの安全の仕組みづくりと、株主への大きな還元を同じ日に出したことで、市場には「成長投資を続けながら、それでも現金が余るほど稼いでいる」というメッセージが伝わりました。

投資への影響 — 半導体株が売られた日に、エヌビディアだけが逆行

この日の米国市場では、半導体株が広く売られました。Yahoo Financeによると、フィラデルフィア半導体株指数は一時2%超下落し、Armが9%、インテルが6%、AMDが5%（時価総額は1兆ドルを割り込み）、マイクロンが4%下げました。きっかけの一つとして挙げられたのが、OpenAIが報告した「エージェントが隔離環境を抜け出してネットに出た」件です。

そのなかで、エヌビディアは2%前後上昇しました（IBTimesによると米東部時間午前10時25分時点で2.78%高の231.33ドル）。市場は、安全の仕組みと自社株買いの2つを材料にしました。

ここから読み取れるのは、「AIの安全」が、売れる機能になり始めたことです。エージェントの事故が増えるほど、企業は「止められる仕組み」を持つ基盤を選びます。今回、Sentryはエヌビディア自身のチップ（BlueField-4）の上で動く設計です。柵のソフトはオープンにしつつ、最も強い見張りは自社のハードで提供する形で、安全を自社製品を選ぶ理由に変えようとしています。

一方、指数はなお年初から73%高の水準にあり、今回の下落は一日の値動きです。安全の不安が長引くのか、それとも「安全に動かせるAI」への需要が新しい買い材料になるのかは、これからの数字を見る必要があります。

仕事と暮らしへの影響 — AIに任せる前に「止める仕組み」が標準装備に

私たちの仕事や暮らしにとっての意味は、AIに任せる範囲が広がる前提として、「止める仕組み」が当たり前になっていくことです。

会社でAIエージェントを使う場面では、これから次のような運用が増えると考えられます。

• 任せる仕事の範囲を先に決める：どのフォルダ、どのサービスまで触ってよいかを、あらかじめ柵として設定する
• 権限は人が承認する：Slackの例のように、エージェントが新しい権限を求めたときに、人が承認・却下するボタンが入る
• 動きの記録を残す：何をしたかを後からたどれるようにし、事故が起きたときの説明に使う

暮らしの側でも、買い物や予約、家計の手続きをAIに任せる流れが進んでいます。そのとき大事なのは、AIがどこまで動けるのか、途中で止められるのかです。便利さだけでなく、「止める仕組みがあるか」をサービス選びの基準に入れる時期に来ています。

注意しておきたい点と、次に見るポイント

読み違えやすいところを、先に整理しておきます。

• 見張り役（Sentry）の提供時期は公表されていません。すぐに使えるのはソフトのOpenShellで、Sentryは設計の一部として示された段階です。
• 効果はまだ第三者が検証していません。「数ミリ秒で隔離」はエヌビディアの説明です。
• 株価の動きは9月28日の日中の値で、終値や翌日以降の動きとは異なる場合があります。
• 自社株買いの「枠」は上限で、全額を必ず買うという約束ではありません。

今週は、9月29日（米国時間）のOpenAI開発者会議、9月30日のマイクロン決算（AI向けメモリーの需要）、10月1日のオーストラリア上院の公聴会（OpenAIとAnthropicのCEOに出席を要請）が続きます。エージェントの安全が、製品・業績・規制のそれぞれでどう扱われるかが見どころです。

まとめ

エヌビディアが、AIエージェントを安全に動かすための「Open Agent Safety Platform」を公開しました。エージェントの外側にソフトの柵（OpenShell）を置き、専用チップの見張り役（Sentry）がはみ出しを数ミリ秒で隔離する設計で、Anthropic、Microsoftなど100社超が参加しています。同じ日に、過去最大となる1500億ドルの自社株買い枠の上積み（残り2350億ドル）も発表しました。

半導体株がAIの安全への不安で売られるなか、エヌビディアだけが上昇しました。「AIの安全」が、チップを選ぶ理由になり始めたことを示す一日です。

AIに仕事や暮らしを任せる流れは続きます。これからは、便利さと同じくらい「止められるか」が、サービスや基盤を選ぶ基準になっていきます。

出典・参考情報

• NVIDIA Newsroom「NVIDIA Launches Open Agent Safety Platform to Secure Agents From Testing to Deployment」2026年9月28日 — nvidianews.nvidia.com
• NVIDIA Newsroom「NVIDIA Announces a $150 Billion Share Repurchase Authorization Increase」2026年9月28日 — nvidianews.nvidia.com
• OpenAI Alignment「An agent used DNS to reach an external chatbot」2026年9月25日更新 — alignment.openai.com
• Yahoo Finance「Chip stocks fall as AI breach fuels safety concerns, but Nvidia bucks the trend: Chart of the Day」2026年9月28日 — finance.yahoo.com
• Infosecurity Magazine「NVIDIA Launches Open Platform to Secure Autonomous AI Agents」2026年9月28日 — infosecurity-magazine.com
• IBTimes「Nvidia Stock Climbs 2.8% After Record $150 Billion Buyback Boost and Launch of AI Agent Safety Platform」2026年9月28日 — ibtimes.com.au
• Yahoo Finance「2 key checks for the AI trade and the economy: What to watch this week」 — finance.yahoo.com

※噂レベル：OpenAIが9月29日（米国時間）の開発者会議で、チャットの外で常時動くエージェント「o」を発表するとの見方がある（画面の手がかりに基づく未確認情報）。株価はいずれも9月28日の日中の値。上積み前の残り枠（約850億ドル）は編集部の計算。本記事は投資助言ではありません。