學生黨跑 7B 模型該租什麼卡？2026 最新省錢實測

TL;DR 直接答案：跑 7B 模型（Qwen2.5-7B、Llama-3-8B 這一檔），推理選 RTX 3090 或 RTX 4090（24GB）就夠，LoRA 微調建議 24GB 起步；按量租 ¥1.3~2.5/時，一天跑 4 小時成本不到 ¥10。別碰 A100——那是給 70B 模型準備的，你多花 5 倍錢用不滿。

先搞清你要幹嘛：推理還是微調

這是選卡的第一分叉口，搞錯了要麼跑不動、要麼白花錢：

• 純推理（載入現成模型問答/寫程式碼）：7B 模型 FP16 約 15GB 視訊記憶體，INT8 量化後約 9GB，INT4 只要 5GB 左右。一張 24GB 消費卡綽綽有餘，甚至 16GB 的 4080 也能跑量化版。
• LoRA 微調：模型本體 + 最佳化器狀態 + 梯度，7B 全量微調要 60GB+，但 LoRA/QLoRA 只訓練 1% 引數，24GB 能跑 QLoRA（4bit 載入），32GB 以上更穩。
• 全量微調/預訓練：學生黨基本不需要，真要做直接看 A100/H100 頁面。

三個檔位，對號入座

① 極致省錢檔（¥1.3/時上下）：RTX 3090。24GB 視訊記憶體，推理 7B 飛快，QLoRA 微調也能跑。缺點是老卡功耗高、部分新框架最佳化少。學生作業、課程設計、論文復現首選。

② 均衡檔（¥2/時上下）：RTX 4090。比 3090 快 60%~80%，跑推理每分鐘能多出近一倍 token。趕 deadline 就選它，省下的時間比多花的那幾毛錢值錢。

③ 視訊記憶體焦慮檔（¥3~5/時）：RTX 5090 32GB。模型想跑 FP16 不量化、或者 batch 開大點刷吞吐量，32GB 給你安全感。

當前各平臺實時價格

算一筆賬：跑一次課程作業多少錢

假設你的任務是「用 Qwen-7B 微調一個課程問答機器人」：環境安裝 20 分鐘 + 資料處理 30 分鐘 + QLoRA 訓練 2 小時 + 除錯推理 1 小時 ≈ 4 小時。按 3090 約 ¥1.4/時算，總成本 ¥5.6，一杯蜜雪冰城的錢。用競價/閒時例項還能再砍 30%。

避坑三條

• 先選「按量」別包月：學生任務都是脈衝式的，包月機器 90% 時間在空轉。跑完立刻釋放例項。
• 資料先傳網盤/OSS：例項釋放後系統盤清空，資料集和 checkpoint 一定存到平臺雲盤或物件儲存。
• 競價例項要會 checkpoint：閒時價最低但可能被回收，訓練指令碼里加定期儲存，被踢了重開接著練。

還不知道選哪張？用本站免費選型工具：選任務型別，自動推薦卡型和當日最低價平臺。價格每小時自動更新，部分連結含推廣返傭，不影響排序。