GPU服务器租用 · 训练与大规模任务 · GR-A100
锐算 A100 显卡租用 · 80GB 显存
80 GB HBM2e 显存与很高的显存带宽:大模型量化推理、70B 级 QLoRA 微调,以及中小模型的完整训练。
要点
锐算 A100 80G 的配置与价格
安云主机 锐算 A100 显卡租用(GR-A100)配备 NVIDIA A100 80GB,单卡显存 80 GB,搭配 32 vCPU 与 256 GB 内存,含 2000 GB 数据盘。按小时计费 $1.85/小时,仅提供时租,从预付余额扣除,关机不计算力费用。购买无需实名认证,支持 USDT 等加密货币充值,预装 PyTorch 与 CUDA 深度学习环境。80 GB HBM2e 显存与很高的显存带宽:大模型量化推理、70B 级 QLoRA 微调,以及中小模型的完整训练。
显存能放下什么
80GB 显存能放下多大的模型
- 70B 模型 4-bit 量化推理 —— 权重约 42 GB,长上下文也有余量
- 70B 模型 8-bit 量化推理 —— 权重约 70 GB,上下文长度需要节制
- 32B 模型 FP16 推理 —— 权重约 64 GB,其余留给上下文缓存
- 70B 模型 QLoRA 微调 —— 4-bit 底座约 42 GB
- 3B 级模型全参数微调 —— 每参数约 16 字节,合计约 48 GB
- 中小模型的预训练与继续训练
技术规格
- 显卡型号
- NVIDIA A100 80GB
- 显卡数量
- 1 张
- 单卡显存
- 80 GB
- 卡间互联
- 单卡,不适用
- vCPU
- 32 核
- 内存
- 256 GB
- 系统盘
- 200 GB NVMe
- 数据盘
- 2000 GB NVMe
- 端口速率
- 10 Gbps
- 型号
- GR-A100
已知限制
这张卡在推理、微调与训练上的边界
- 单卡价格高,纯推理任务用它不划算 —— 推理请优先考虑 4090 或 L40S。
- 按小时计费,不提供长期月租:这类卡的库存需要保持流动。
- 本配置是单卡,不存在卡间互联:跨卡张量并行需要多卡拓扑,本页配置不提供。
- 80 GB 装不下 30B 级模型的全参数微调:混合精度加 Adam 约每参数 16 字节,30B 需要约 480 GB。这一档要么改用 QLoRA,要么上多机多卡。
可选机房
算力节点 · 1 个机房
| 机房 | 最佳回程 | 延迟 |
|---|---|---|
| 法兰克福 FRA | AS4837 普通线路 | 255 ms |
GPU 任务对延迟不敏感 —— 训练与推理都在机房内完成,延迟只影响你连接终端与传输数据的体验。
预装镜像
常见问题
关于 锐算 A100 租用与计费
锐算 A100 80G 适合做什么?
80 GB HBM2e 显存与很高的显存带宽:大模型量化推理、70B 级 QLoRA 微调,以及中小模型的完整训练。 具体可以跑:70B 模型 4-bit 量化推理 —— 权重约 42 GB,长上下文也有余量、70B 模型 8-bit 量化推理 —— 权重约 70 GB,上下文长度需要节制、32B 模型 FP16 推理 —— 权重约 64 GB,其余留给上下文缓存、70B 模型 QLoRA 微调 —— 4-bit 底座约 42 GB、3B 级模型全参数微调 —— 每参数约 16 字节,合计约 48 GB、中小模型的预训练与继续训练。
锐算 A100 80G 有什么限制?
单卡价格高,纯推理任务用它不划算 —— 推理请优先考虑 4090 或 L40S。 按小时计费,不提供长期月租:这类卡的库存需要保持流动。 本配置是单卡,不存在卡间互联:跨卡张量并行需要多卡拓扑,本页配置不提供。 80 GB 装不下 30B 级模型的全参数微调:混合精度加 Adam 约每参数 16 字节,30B 需要约 480 GB。这一档要么改用 QLoRA,要么上多机多卡。
锐算 A100 80G 一次任务大概多少钱?
按 $1.85/小时计:跑通一个 Demo 约 1 小时 $1.85,一次 LoRA 微调约 4 小时 $7.40,一整个工作日 8 小时 $14.80。按小时取整,不足一小时按一小时计,关机后不再收取算力费用。
开通需要多久?需要实名吗?
充值到账后即可创建实例,通常一到两分钟内可以连接。不需要实名认证,一个可收信的邮箱即可,充值使用加密货币。
余额用完数据会丢吗?
余额归零时实例自动关机并保留 72 小时,数据不删除。72 小时内充值即可原样开机。