RTX 5090 対 RTX 4090 の推論コスト実測比較：料金が 40％増加しても、その価値はあるのか？

TL;DR：即答版：純粋な推論用途（7B～13Bクラスのモデル）向けRTX 4090 のコストパフォーマンスは、依然として RTX 5090 を圧倒しています——5090 は 4090 より約 30～40％高速だが、レンタル料金は 40～60％高くなるため、1,000 token 当たりの実コストはむしろ上昇。5090 を選ぶべきケースは以下の2つだけ：① 32GB VRAM が必須（13B FP16、70B INT4）；② パフォーマンステストや本番リリース直前の検証など、時間優先の作業。

パラメータの理論値

• RTX 4090：24GB GDDR6X、メモリ帯域幅1.0TB/s、FP16演算性能は約83 TFLOPS
• RTX 5090：32GB GDDR7、メモリ帯域幅1.8TB/s、FP16／FP8演算性能が大幅向上

推論はVRAM帯域幅に強く依存する処理であり、RTX 5090 の帯域幅向上（80％）は実測値として確実ですが、トークンスループットへの実際の影響は、7Bモデルの場合、デコード段階で帯域幅がボトルネックになる前に他の要因（例：計算能力やレイテンシ）に制限されるため、実測で約30％～40％の向上に留まります。

1,000トークンあたりのコストはどのように計算されますか？

計算式は非常にシンプルです：1時間あたりのレンタル料 ÷ 1時間あたりの生成トークン数。例として 7B モデルの vLLM デプロイを想定すると、4090 のスループットは約 2000～3000 token/s、5090 は約 2800～4000 token/s。リアルタイムのレンタル単価を代入すると：

現行価格で概算すると：RTX 4090 では100万トークンあたりのコストが約 ¥0.2～¥0.35、RTX 5090 では約 ¥0.28～¥0.45 です。経済性のみで比較すると、RTX 4090が優勢。

RTX 5090の方が逆に安くなるケース

• 13B FP16 推論：モデルサイズが26GB以上の場合、RTX 4090の24GB VRAMでは収まりません。精度を犠牲にして量子化するか、より高価なA100をレンタルする必要があります。一方、RTX 5090の32GB VRAMなら余裕を持って収容でき、結果として最もコスト効率の良い実行解となります。
• 70B INT4 量子化：40GB前後では搭載不可ですが、Q2／Q3における極限量子化なら30GB以内での実行が可能——これは32GB VRAM搭載GPUのみが可能な領域です。
• 期間間限定タスク：顧客へのデモ開始2時間前に再評価が必要と気づき、急いで再実行するケースでは、RTX 5090が40％高速であることが、単純に40％の時間短縮につながります。この場面では、時間コストがレンタル料金よりも重要です。

結論

個人ユーザーおよび中小チームによる7B/8Bモデルの推論実行：迷わず RTX 4090。モデルサイズが VRAM 24GB の壁を超える場合にのみ、5090 の導入を検討してください。両者の価格はリアルタイムで変動していますので、ご注文前に上部のリアルタイム価格表（毎時更新）をご確認のうえ、より安い方を選んでご利用ください。一部リンクにはアフィリエイト報酬が含まれていますが、ランキング順位には影響しません。