🌐 ▾簡中繁中EN日本語한국어

微調 7B 模型需要多大視訊記憶體?LoRA / QLoRA / 全引數一張表看懂

模型微調 · 視訊記憶體 · 2026-09-28 · 資料更新:2026-10-31

微調視訊記憶體需求取決於三件事:引數精度、訓練方式、batch 設定。直接給答案:

7B 模型微調視訊記憶體速查

· LoRA(只訓適配層):16~24GB,RTX 4090 是舒適區;
· QLoRA(4bit 量化基座):12~16GB,3090/4090 都能跑;
· 全引數微調:約 80GB(權重+梯度+最佳化器狀態 ≈ 8 倍引數量),必須 A100 80G 級或多卡 ZeRO。

租卡建議

90% 的個人微調場景(LoRA/QLoRA 7B~13B),一張 RTX 4090(24GB) 就是最優解:

平臺價格 ⇅24小時庫存計費說明
Vast.ai(美國)全球地板價北美
穩定性 100·A
¥0.87/時▼40.4%當前監測較低價實時競價 ¥21/天 充足 Vast.ai 實時競價最低價折算(RTX 4090,USD×7.2),隨時變動 去租用
Salad(美國)批次地板價北美
穩定性 74·C
¥1.15/時實時競價 ¥28/天 充足 Salad 分散式雲最低優先順序檔 $0.160/hr 折算(24G,共4檔,高檔更穩定) 去租用
PPIO 派歐雲國內Spot低價中國
穩定性 71·C
¥1.16/時實時競價 ¥28/天 充足 PPIO 派歐雲 GPU Spot 價 ¥1.16/小時(4090,預設1小時保護期,提前1小時中斷通知) 去租用
算家雲當前低價中國
穩定性 100·A
¥1.24/時實時按量 ¥30/天 充足 算家雲官網標價 ¥1.24/小時(原價 ¥2.08,長期租用另有折上折) 去租用
晨澗雲長租划算中國
穩定性 100·A
¥1.38/時實時按量 ¥33/天 充足 晨澗雲官網包日價 ¥33.01/天 ÷24 折算(NVIDIA GeForce RTX 4090 24G),按量小時價可能略高 去租用
智星雲中國
資料積累中 5/30天
¥1.65/時實時按量 ¥40/天 充足 智星雲 AI Galaxy(中國)低價專區掛牌按量價 ¥1.65/小時(RTX 4090 24G) 去租用
優雲智算現金返利中國
穩定性 100·A
¥1.92/時實時按量 ¥46/天 充足 優雲智算按量計費最低配置 ¥1.92/小時(包日/包月/搶佔式更低價見官網,高校企業95折) 去租用
AutoDL生態最全中國
穩定性 98·A
¥1.98/時實時按量 ¥48/天 充足 AutoDL 按量計費最低價 ¥1.98/時(官網市場 RTX 4090,空閒卡 73) 去租用
矩池雲標價競爭力中國
穩定性 100·A
¥2.20/時實時按量 ¥53/天 充足 矩池雲按分鐘計費 ¥2.20/小時(11 區,官網明碼標價) 去租用
RunPod(美國)海外人氣王北美
穩定性 73·C
¥2.45/時實時競價 ¥59/天 充足 RunPod 社群雲最低價 $0.34/hr 折算(NVIDIA GeForce RTX 4090;Secure Cloud $0.89/hr) 去租用
Cloudrift(美國)結構化明碼價北美
資料積累中 2/30天
¥2.81/時實時按量 ¥67/天 充足 Cloudrift 官網 JSON-LD RTX 4090 的 On-Demand Hourly Rate $0.39/hr 折算 去租用
並行智算雲3090低價中國
資料積累中 1/30天
¥3.60/時實時按量 ¥86/天 充足 並行智算雲按量實時價 ¥3.60/時 去租用
藍耘中國
人工維護
¥2.00/時參考價·待核實按量 ¥48/天 充足 實測穩定性較好,響應較快
⚠ 口徑提示:官網價格由前端介面動態載入,暫無公開可抓取來源,本站每季度人工複核一次
去租用
TensorDock(美國)全球低價北美
人工維護
¥2.52/時參考價·待核實按量 ¥60/天 充足 官方起價 $0.35×7.2(2026-10核實);低價機$0.25起但常斷貨;第三方機房
⚠ 口徑提示:本站價格取自官方「8 卡起租」報價口徑,與其餘平臺的單卡按量價不完全可比,僅供參考
去租用

需要全引數微調再上 A100 80G:

平臺價格 ⇅24小時庫存計費說明
Paperspace(美國)上手最快北美
資料積累中 12/30天
¥5.47/時當前監測較低價實時按量 ¥131/天 充足 Paperspace(美國,DigitalOcean 旗下)按需 $0.76/小時折算(A100 80GB,按小時計費) 去租用
Jarvislabs(印度)南亞優選亞太
資料積累中 5/30天
¥6.41/時實時競價 ¥154/天 充足 Jarvislabs(印度)競價 $0.89/GPU·hr 折算(NVIDIA A100 80GB,按分鐘計費) 去租用
Thunder Compute(美國)按分鐘計費北美
穩定性 71·C
¥7.85/時實時按量 ¥188/天 充足 Thunder Compute(美國)按分鐘計費 $1.09/hr 折算(A100 80GB,儲存可定製) 去租用
Verda(芬蘭)歐洲價效比歐洲
穩定性 74·C
¥8.09/時實時競價 ¥194/天 充足 Verda(芬蘭,原 DataCrunch)Spot $1.124/hr 折算,按需 $2.248/hr(1x A100 SXM4 80GB) 去租用
RunPod(美國)海外人氣王北美
穩定性 73·C
¥8.57/時實時競價 ¥206/天 充足 RunPod 社群雲最低價 $1.19/hr 折算(NVIDIA A100 80GB PCIe;Secure Cloud $1.79/hr) 去租用
Massed Compute(美國)高階卡透明價北美
資料積累中 2/30天
¥9.72/時實時按量 ¥233/天 充足 Massed Compute 官網 A100 (80GB) 整機 $1.35/hr ÷ 1 卡 = $1.35/卡/hr 折算 去租用
算家雲當前低價中國
穩定性 100·A
¥9.80/時實時按量 ¥235/天 充足 算家雲官網標價 ¥9.80/小時(原價 ¥12.00,長期租用另有折上折) 去租用
Gcore(盧森堡)歐洲邊緣雲歐洲
穩定性 71·C
¥10.61/時實時按量 ¥255/天 充足 Gcore(盧森堡,全球邊緣雲)按需 €1.36/小時起折算(A100) 去租用
Jarvislabs(印度)南亞優選亞太
資料積累中 5/30天
¥10.73/時▲67.4%實時按量 ¥258/天 充足 Jarvislabs(印度)按需 $1.49/GPU·hr 折算(NVIDIA A100 80GB,按分鐘計費、可暫停不計費) 去租用
優雲智算現金返利中國
穩定性 100·A
¥10.75/時實時按量 ¥258/天 充足 優雲智算按量計費最低配置 ¥10.75/小時(包日/包月/搶佔式更低價見官網,高校企業95折) 去租用
Hyperstack(英國)英榜常客歐洲
穩定性 74·C
¥11.52/時實時按量 ¥276/天 充足 Hyperstack(英國)按需 $1.60/小時折算(NVIDIA A100 SXM,80G 視訊記憶體) 去租用
Crusoe(美國)清潔能源北美
穩定性 71·C
¥14.40/時實時按量 ¥346/天 充足 Crusoe(美國,清潔能源)按需 $2.00/GPU·hr 折算(NVIDIA A100 80GB) 去租用
並行智算雲3090低價中國
資料積累中 1/30天
¥16.16/時實時按量 ¥388/天 充足 並行智算雲按量實時價 ¥16.16/時 去租用
Lambda(美國)老牌整機北美
資料積累中 12/30天
¥20.09/時實時按量 ¥482/天 充足 Lambda(美國)官方掛牌按需價 $2.79/GPU·小時折算(NVIDIA A100 SXM 80GB,按分鐘計費、無出網流量費) 去租用
TensorDock(美國)全球低價北美
人工維護
¥10.80/時參考價·待核實按量 ¥259/天 充足 PCIe $1.50×7.2;SXM $1.80
⚠ 口徑提示:本站價格取自官方「8 卡起租」報價口徑,與其餘平臺的單卡按量價不完全可比,僅供參考
去租用

兩個視訊記憶體不夠時的補救

① 開梯度檢查點(gradient checkpointing):省 30~40% 視訊記憶體,代價是慢 20%;② 換 4bit 量化基座(QLoRA 思路):13B 也能塞進 24GB。遇到 OOM 先調這兩個,比換卡便宜。

繼續閱讀

每日快報

10月31日 GPU 比價快報:4090 低至 ¥0.87/時

10月31日各平臺 GPU 租用最低價一覽:4090 低至 ¥0.87/時;含較昨日漲跌與選購建議。
2026-10-31
每日快報

10月30日 GPU 比價快報:4090 低至 ¥0.87/時

10月30日各平臺 GPU 租用最低價一覽:4090 低至 ¥0.87/時;含較昨日漲跌與選購建議。
2026-10-30
每日快報

10月29日 GPU 比價快報:4090 低至 ¥0.87/時

10月29日各平臺 GPU 租用最低價一覽:4090 低至 ¥0.87/時;含較昨日漲跌與選購建議。
2026-10-29
🐆 小豹 · AI 客服由通義千問驅動
你好呀,我是小豹~想了解哪張卡的價格、怎麼租划算、Pro 會員有啥用,都可以問我。