AT&T、AIコストを56%削減 品質低下は2% ─ ゴールドマンが説く「モデル最適化レイヤー」とGemma10億DL

「56%削減、品質低下2%」という数字が意味すること

米通信大手のAT&Tが、社内で使うAIのコストを大きく下げました。コーディングを含む一部の高度なタスクで、費用は最大56%減。そして品質の低下はわずか2%にとどまったといいます。米メディアThe Informationが8月20日に報じた数字です。

ここで重要なのは、AT&Tが新しいモデルを開発したわけでも、値切り交渉に成功したわけでもない、という点です。同社がやったのは「その仕事に見合ったモデルへ自動で振り分ける」という、それだけのことでした。

これまで企業がAIを選ぶときの問いは「どのモデルが一番賢いか」でした。しかしAT&Tの実測値は、その問いを「この仕事を確実にこなせる、いちばん安いモデルはどれか」へと置き換えてしまいました。半分近いコストが、質問の立て方ひとつで消えたことになります。

やったのは「振り分け」だけ

AT&Tの仕組みはシンプルです。社員が投げたAIへの質問を、その難易度に応じて自動的に別々のモデルへ流します。

• 文書やコードの要約など、比較的単純な仕事 → MetaのLlama、GoogleのGemmaといったオープンモデルへ
• 複雑なコード生成など、間違えられない仕事 → AnthropicやOpenAIの最先端モデルへ

AT&Tのバイスプレジデント、Mark Austin氏はThe Informationに対し、多くの仕事において、オープンモデルは、AnthropicやOpenAIが以前に販売していた旧世代モデルと「同等かそれ以上」だと語っています。そして「これは今後さらに良くなっていくと見ている」とも。

同じ仕事、違うモデル、違う原価。この三点セットが、企業のAI予算の形を変えつつあります。

数字を分解する — 1日450億トークン

規模感を押さえておきましょう。The Informationによれば、AT&Tが処理しているAIのトークン量は1日およそ450億トークン。そのうち約40%がすでにオープンモデルへ振り分けられており、同社はこれを60〜70%まで引き上げる想定だといいます。

つまり、いま出ている56%という削減率は、まだ「4割を振り分けた段階」の数字です。振り分け比率が6割から7割へ上がれば、削減幅はさらに動く余地があります。

そしてAT&Tは、オープンモデルの活用が進むことで、AIの総利用量が増えても、プレミアムなAIサービスへの支出は横ばいに保てると見ているとされています。使う量は増える、払う額は増えない。これが企業側の狙いです。

ゴールドマンの逆説 — 安いAIは巨大テックの敵ではない

この動きを、投資の側から読み解いた人物がいます。ゴールドマン・サックスで株式調査部門を率いるJim Covello氏です。

直感的には、オープンソースの安いモデルが普及すれば、高価なAIを売る企業の収益は削られ、巨大テックにとって逆風になりそうに思えます。ところがCovello氏の見方は逆でした。

「オープンソースモデルは、企業が組織の中でAIを採算に乗せて導入できる可能性を高める」（Jim Covello氏、ゴールドマン・サックス ウェルス・マネジメント投資戦略グループでの発言）

安くなれば、これまで採算が合わずに見送られていたAIの用途が、次々と実行可能になる。用途が増えれば、処理されるトークンは増え、その下にあるデータセンターと計算資源への需要も増える。だからCovello氏は「ハイパースケーラーにとって非常に良いことだ。積み増している能力を、採算の取れる形で埋められる可能性が高まるのだから」と述べています。

1件あたりの単価は下がる。しかし、実行するに値する仕事の総量は跳ね上がる。これがゴールドマンの立てた仮説であり、AT&Tはその仮説を実データで裏づけた最初の大企業の一つ、という構図です。

Gemma 10億ダウンロード — オープンは「実装量」で勝つ

AT&Tの報道と同じ週、Googleは自社のオープンモデル「Gemma」について、累計ダウンロードが10億回を突破したと公式ブログで発表しました（2026年8月20日、Google DeepMindのClement Farabet副社長とOlivier Lacombeプロダクトディレクターによる連名記事）。

• 累計ダウンロード：10億回超（約2年で）
• 開発者が公開した派生モデル：10万件超
• Kaggleの「Gemma Challenge」応募：1,600件超

用途も派手です。NASA、Satlyt、Starcloudの各チームはGemmaを軌道上の衛星で直接動かし、機上での画像解析や限られた通信帯域の最適化に使っています。地上では、インドの国家保健庁（NHA）がAndroid版だけで1億ダウンロードを超えるアプリ「Aarogya Setu 2.0」にGemma 4を統合し、複雑な医療レポートを標準的なデジタル形式へ変換する処理に充てています。

フロンティアモデルが「賢さの記録」を更新する一方で、オープンモデルは「どれだけの現場で実際に動いているか」という実装量で存在感を確立しつつある。AT&Tがコストを削れた土台には、この分厚い実装の蓄積があります。

新しい主戦場は「モデル最適化レイヤー」

Covello氏は、企業AIにおける技術的なボトルネックを「モデル最適化レイヤー（model optimization layer）」と名づけています。考え方は単純です。失敗したときの代償が大きいリクエストは高価なフロンティアモデルへ、日常的なリクエストは安いオープンモデルへ。

「それが、企業におけるAIの経済価値を解き放つ大きな鍵のひとつになる」（Jim Covello氏）

この層が機能し始めると、競争の形が変わります。企業は一社のモデルに大半のワークロードを預けるのではなく、複数のモデルを併用する。ルーターはコスト・品質・レイテンシ・タスクの難易度をもとに判断し、ルーティンな仕事においてAIモデルを「交換可能な計算資源」として扱うようになります。

ここで注意したいのは、AT&Tの「コスト-56%／品質-2%」という数字が、品質の劣化を測定できていたからこそ踏み切れたものだという点です。評価（eval）の仕組みがない組織は、そもそも怖くて安いモデルに切り替えられません。ルーターより先に必要なのは、ものさしのほうです。

投資への影響 — 削られる側と、回ってくる側

投資の観点では、この変化は二つの流れに分かれます。

圧力がかかる側：フロンティアAPI事業者。顧客がタスク単位で安いモデルへ逃がすようになれば、1件あたりの単価には下方圧力が働きます。AT&Tが「総利用量が増えてもプレミアムAIへの支出は横ばい」と見ているのは、まさにこの構図です。

追い風が吹く側：クラウド・半導体・電力といったインフラ層。安くなったぶん実行される仕事が増え、処理される総トークン量が膨らめば、その下の計算基盤への需要は増えます。Covello氏の主張はここに立っています。

もうひとつ、Covello氏は市場心理の変化にも触れています。「ごく最近まで、これらの企業が設備投資の増額を発表するたびに、市場はその企業を評価していた。しかしこの四半期あたりから、市場がそれをはるかに厳しく問い直す、明確な変化が見られる」。争点はもはや「十分なインフラを建てられるか」ではなく「建てたものを埋めるだけの、採算の取れる需要を生み出せるか」に移りました。安いモデルは、そのギャップを埋める候補として浮上している、というわけです。

※ 本記事は投資判断を推奨するものではありません。個別銘柄への影響は、各社の開示情報をご確認のうえご自身でご判断ください。

生活への影響 — AIが安くなると、身近で何が変わるか

推論コストが下がると、私たちの生活側では次のような形で表れます。

• 無料枠が広がる。1回あたりの処理が安くなれば、事業者は無料・低価格のプランに載せられる機能を増やせます。
• 行政・医療の手続きがAI化しやすくなる。インドのAarogya Setu 2.0は、1億ダウンロード規模のアプリで医療レポートの自動整形を回している実例です。予算の限られた公共サービスほど、安いモデルの恩恵は大きくなります。
• サービス価格に反映されうる。企業の運用原価が下がれば、その一部は競争を通じて価格に降りてきます。
• 手元の端末で動く。オープンモデルはノートPCやスマートフォン、エッジ機器でも動きます。通信が細い場所、データを外に出せない場面でもAIが使える、ということです。

普及を決めるのは「賢さ」ではなく「十分さ」。衛星の上でGemmaが動いているのは、それが最高性能だからではなく、その環境で動かせるからです。

まとめ

AT&Tの「コスト最大56%減、品質低下2%」は、新しいモデルが生んだ数字ではありません。仕事の難易度に応じてモデルを振り分ける、という設計判断が生んだ数字です。

そしてゴールドマン・サックスのJim Covello氏は、この動きを巨大テックへの脅威ではなく、需要を採算ラインまで押し下げる装置と見ています。同じ週にGoogleが公表したGemmaの10億ダウンロードは、その装置がすでに世界中で回っていることの傍証です。

企業がこれから問うべきは「どのモデルが最強か」ではありません。「この処理に、いくら払う価値があるか」です。そして、その問いに答えられる仕組み——評価とルーティング——を持っているかどうかが、これからのAI原価を決めます。

出典・参考情報

• Google「Inside the Gemmaverse: Celebrating one billion Gemma downloads」（2026年8月20日）
• Goldman Sachs「Understanding the AI investment landscape」（Jim Covello氏 出演／公開ディスカッション）
• The Information「AT&T is using open-source models to curb Anthropic bills」（2026年8月20日）
• Tech Startups「Goldman Sachs says open-source AI could be Big Tech's unexpected winner as AT&T cuts model costs by 56%」（2026年8月21日）
• Awesome Gemma リポジトリ（GitHub）

※ AT&Tの数値はThe Informationの取材に基づく報道値です。AT&Tバイスプレジデント Mark Austin氏の発言は同誌に対する実名コメント、Jim Covello氏の発言はゴールドマン・サックスの公開ディスカッションでの実名発言です。Gemmaの数値はGoogle公式ブログの公表値です。