使用流程
1
小模型 / 微调
RTX 4090（24GB）—— 运行 LoRA 及约 13B 以内模型性价比最高。
2
中到大规模训练
A100 40/80GB —— 支持 NVLink、大显存，适合 30B–70B 级别的训练。
3
最快 / 前沿
H100 80GB SXM —— 搭载 FP8 Transformer Engine，提供当前最快的大模型训练速度。
推荐 GPU
NVIDIA H100 80GB SXM
80GB 显存 · $2.99/小时 · Hopper architecture with the FP8 Transformer Engine — the fastest LLM training GPU available.
常见问题
H100 相比 A100 值得吗？
对于大型 Transformer 训练，得益于 FP8 和更高带宽，H100 明显更快。对于受显存限制或预算有限的任务，A100 80GB 性价比极佳。
可以用 RTX 4090 训练吗？
可以 —— RTX 4090 非常适合微调和较小的模型，而且 $0.69/小时是最便宜的选择。
相关指南
几秒即可开始
充值满 $1000 送 $50。立即启动 H100，或先免费体验 AI 工具。