自前GPUで推論を回すなら EC2 G7 をいつ選ぶか — GPUメモリ32GB・可用リージョン・コストで「マネージドに寄せる/自前で握る」を分ける
GAしたEC2 G7（Blackwell世代GPU）を、新世代の自慢ではなく自前GPUサービングのインスタンス選定肢として捉える。GPUメモリ32GB×GPU数のラダー、可用リージョン（東京なし）、稼働率コストの3軸で、自前で握るかマネージドに寄せるかを判断する型を整理します。
- #EC2
- #GPU
- #生成AI推論
- #コスト
- #インフラ選定
EC2 G7のGA（一般提供開始）は、見出しだけ追うと「速いGPUが出た」という性能の話に見えます。ただ、EC2上で自前のGPUサービング（モデルを自分のインスタンスで配信すること）を検討している人にとっては、注目すべきは速さそのものではありません。「いつG7を選び、いつマネージドに寄せるか」という選定の判断軸が更新された点です。本記事は、G7をGPUメモリ・可用リージョン・稼働率コストの3つの軸で読み解き、自前で握るかマネージド（Bedrock・SageMaker）に寄せるかを判断できるようにすることを目的とします。対象は推論ホスティングの選定で、学習用途やチューニングの設計は扱いません。
何が変わったか — Blackwell世代GPUと、性能比の読み方
G7は、NVIDIA RTX PRO 4500 Blackwell世代のGPUを1インスタンスあたり最大8基搭載します。GPUメモリは1基あたり32GBで、最大構成では合計256GBになります。CPUはcustom Intel Xeon 6、ネットワークは最大700Gbps EFA（Elastic Fabric Adapter＝GPU間や分散処理で使う高帯域ネットワーク）です。
性能は前世代のG6と比べてAI推論で最大4.6倍、グラフィックスで最大2.1倍とされています。ここは読み方に注意が必要です。これらは公式の「up to（最大）」表現で、比較したモデルや精度、バッチサイズといった前提は公開されていません。つまり倍率は固定の見積もり値ではなく、ワークロードによって変わる参考値です。選定では、この倍率を当てにせず、後述するGPUメモリと稼働率で判断します。
サイズ別の公式スペックは次のとおりです。同じ32GB/GPUでも、サイズによってGPUの数と帯域が変わります。
| サイズ | vCPU | システムメモリ | GPU数 | GPUメモリ合計 | ネットワーク | EBS帯域 |
|---|---|---|---|---|---|---|
| g7.2xlarge | 8 | 32 GiB | 1 | 32 GB | 最大60 Gbps | 最大8 Gbps |
| g7.4xlarge | 16 | 64 GiB | 1 | 32 GB | 最大100 Gbps | 8 Gbps |
| g7.8xlarge | 32 | 128 GiB | 1 | 32 GB | 最大100 Gbps | 16 Gbps |
| g7.12xlarge | 48 | 192 GiB | 2 | 64 GB | 175 Gbps | 20 Gbps |
| g7.24xlarge | 96 | 384 GiB | 4 | 128 GB | 350 Gbps | 40 Gbps |
| g7.48xlarge | 192 | 768 GiB | 8 | 256 GB | 700 Gbps | 80 Gbps |
| g7.metal | 192 | 768 GiB | 8 | 256 GB | 700 Gbps | 80 Gbps |
最小はg7.2xlargeで、その下のサイズはありません。g7.metalは提供予定（Coming soon）です。最新の構成・提供状況は公式のインスタンスタイプページでご確認ください。
自前GPU選定の第一の軸 — GPUメモリ予算で逆算する
自前でモデルを配信するとき、最初にぶつかる制約はGPUメモリです。GPU上には少なくとも次の3つが同時に載ります。
- モデルの重み：パラメータ本体。量子化（数値の精度を落としてサイズを縮める手法）でも大きく変わります。
- KVキャッシュ：生成中の文脈を保持する領域で、入力・出力が長いほど、同時実行が多いほど膨らみます。
- 同時実行バッチの作業領域：同時に何リクエストを処理するかで増減します。
この3つの合計が、1基あたり32GBに収まるかどうかが出発点です。ここで「何Bのモデルが載る」と固有の数値で断定するのは避けます。収容できる規模は量子化やランタイム、文脈長、同時実行で変わるためです。代わりに、必要量を見積もってから器を選ぶ「メモリ予算で逆算する型」で考えます。
逆算の分岐は、32GBという1基の枠に対して2方向に分かれます。
必要量が32GBに収まるなら、単一GPUのg7.2xlarge〜8xlargeが候補です。この範囲はGPU数が1で同じ32GBのため、選定軸はvCPUやネットワーク帯域など周辺リソースになります。収まらないなら、複数GPUに分散します。g7.12xlargeで2基64GB、g7.24xlargeで4基128GB、g7.48xlargeで8基256GBと、GPU数とともにメモリの器が広がります。分散時はGPU間の通信が効いてくるため、帯域も選定軸に入ります。前掲の表のとおり、700Gbps EFAはg7.48xlargeなど最大サイズに限られ、小さいサイズほど帯域は下がります。大きなモデルを複数GPUに分けて回すほど、この帯域差が効いてきます。
第二の軸 — 可用リージョン（東京は現時点で未提供）
選定で見落としやすいのが、提供リージョンです。G7は現時点でus-east-2（米国東部・オハイオ）とus-west-2（米国西部・オレゴン）の2リージョンのみで提供されています。東京を含む他リージョンの記載はありません。
これは設計上の明確な制約になります。データの所在地、エンドユーザーまでのレイテンシ（応答にかかる時間）、国内の規制対応といった日本リージョン要件を持つワークロードでは、G7を自前サービングの選択肢から外さざるを得ません。リージョンの拡大は今後あり得ますが、現時点では公式のアナウンスを待つ段階で、提供時期を前提に設計するのは避けます。日本要件があるなら、東京で利用できるマネージド（Bedrock・SageMaker）へ寄せるのが現実的な判断になります。最新の提供リージョンは公式の表で確認しましょう。
第三の軸 — コストは稼働率で決まる
G7の購入オプションはOn-Demand、Savings Plans、Spotがあり、単価そのものは下げる余地があります。ただし、自前GPUの経済性を最終的に決めるのは単価ではなく稼働率です。GPUは確保している間ずっと課金され、リクエストが来ていないidle（待機）のGPUはそのまま純損になります。
つまりコストは「稼働率 × 単価」の構造で捉える必要があります。トラフィックに波があり稼働率が読めないワークロードでは、専有のGPUを抱えるより、トークンやリクエスト単位の従量で払えるマネージドのほうが見合うことがあります。逆に、常時高いスループットで稼働率を高く保てるなら、自前の専有が効いてきます。なお具体的な時間単価はリージョンやサイズ、購入オプションで変わり、変動もするため本文では金額を示しません。最新の単価は公式のEC2料金ページでご確認ください。マネージド側の単価をどう下げるかという観点は Bedrock推論のコスト最適化 が、自前で抱えたGPUの稼働率やスループットを監視指標（SLI）に落とす設計は 推論エンドポイントのSLO設計 が参考になります。
自前で握るか、マネージドに寄せるか — 3つの軸を束ねる
ここまでの3軸を束ねると、判断はひとつの分岐に収れんします。
判断の問いは3つです。第一に、モデルの規模と稼働率が読めるか。読めれば自前の器とコストを設計できますが、波が大きいとidleの純損が膨らみます。第二に、モデルやランタイムの制御が要るか。Bedrockに無いモデルや独自の最適化が必要なら自前に寄ります。第三に、東京リージョンが不要か。日本要件があれば、現時点でG7は選べません。
この3つがすべて揃うなら、自前のEC2 G7が候補になります。ひとつでも欠けるなら、マネージドへ寄せるほうが無理がありません。これは新しい判断ではなく、実行基盤を自作するかマネージドに任せるかという 実行基盤の build と managed の判断を、推論サービングに当てはめたものです。注意したいのは、自前を選んだ場合に運用責任（キャパシティ管理・スケーリング・可観測性）をすべて自分で負う点です。G7が速いことは、この分岐の答えを「常に自前」に変えるわけではありません。
まとめ — 自分のワークロードに当てはめる
EC2 G7の選定は、次の3点を自分のワークロードに当てて棚卸しすることから始まります。
- GPUメモリ予算：重み＋KVキャッシュ＋同時実行を見積もり、32GBに収めるか複数GPUに分散するかを決める。
- 可用リージョン：東京要件があるかを確認する。あれば現時点でG7は外れ、マネージドが現実解になる。
- 稼働率：トラフィックの波を見て、専有が見合うか従量が見合うかを判断する。
この3軸で「自前で握る/マネージドに寄せる」の当たりをつけられれば、G7のGAという出来事を、性能の話ではなく自分の設計判断に変換できます。どの軸で自前を選び、どこを監視し、どこで運用責任を引き受けるかを自分で説明できることが、この領域での専門性そのものになります。
AI・LLM推論の基盤設計は、AWSの専門領域のなかでも高単価帯にあたる分野です。こうしたGPU選定や自前サービングの運用設計を担えるスキルを案件で活かしたい場合は、AWSの高単価（専門特化）案件を見る・相談することができます。
出典
- AWS What’s New「Amazon EC2 G7 instances are now generally available」(2026-06-18) https://aws.amazon.com/about-aws/whats-new/2026/06/amazon-ec2-g7-generally-available
- Amazon EC2 G7 instance types（サイズ別スペックの典拠） https://aws.amazon.com/ec2/instance-types/g7/
- Amazon EC2 pricing（料金は公式に時点確認） https://aws.amazon.com/ec2/pricing/