学生党跑 7B 模型该租什么卡？2026 最新省钱实测

TL;DR 直接答案：跑 7B 模型（Qwen2.5-7B、Llama-3-8B 这一档），推理选 RTX 3090 或 RTX 4090（24GB）就够，LoRA 微调建议 24GB 起步；按量租 ¥1.3~2.5/时，一天跑 4 小时成本不到 ¥10。别碰 A100——那是给 70B 模型准备的，你多花 5 倍钱用不满。

先搞清你要干嘛：推理还是微调

这是选卡的第一分叉口，搞错了要么跑不动、要么白花钱：

• 纯推理（加载现成模型问答/写代码）：7B 模型 FP16 约 15GB 显存，INT8 量化后约 9GB，INT4 只要 5GB 左右。一张 24GB 消费卡绰绰有余，甚至 16GB 的 4080 也能跑量化版。
• LoRA 微调：模型本体 + 优化器状态 + 梯度，7B 全量微调要 60GB+，但 LoRA/QLoRA 只训练 1% 参数，24GB 能跑 QLoRA（4bit 加载），32GB 以上更稳。
• 全量微调/预训练：学生党基本不需要，真要做直接看 A100/H100 页面。

三个档位，对号入座

① 极致省钱档（¥1.3/时上下）：RTX 3090。24GB 显存，推理 7B 飞快，QLoRA 微调也能跑。缺点是老卡功耗高、部分新框架优化少。学生作业、课程设计、论文复现首选。

② 均衡档（¥2/时上下）：RTX 4090。比 3090 快 60%~80%，跑推理每分钟能多出近一倍 token。赶 deadline 就选它，省下的时间比多花的那几毛钱值钱。

③ 显存焦虑档（¥3~5/时）：RTX 5090 32GB。模型想跑 FP16 不量化、或者 batch 开大点刷吞吐量，32GB 给你安全感。

当前各平台实时价格

算一笔账：跑一次课程作业多少钱

假设你的任务是「用 Qwen-7B 微调一个课程问答机器人」：环境安装 20 分钟 + 数据处理 30 分钟 + QLoRA 训练 2 小时 + 调试推理 1 小时 ≈ 4 小时。按 3090 约 ¥1.4/时算，总成本 ¥5.6，一杯蜜雪冰城的钱。用竞价/闲时实例还能再砍 30%。

避坑三条

• 先选「按量」别包月：学生任务都是脉冲式的，包月机器 90% 时间在空转。跑完立刻释放实例。
• 数据先传网盘/OSS：实例释放后系统盘清空，数据集和 checkpoint 一定存到平台云盘或对象存储。
• 竞价实例要会 checkpoint：闲时价最低但可能被回收，训练脚本里加定期保存，被踢了重开接着练。

还不知道选哪张？用本站免费选型工具：选任务类型，自动推荐卡型和当日最低价平台。价格每小时自动更新，部分链接含推广返佣，不影响排序。