新上8卡RTX 5090 限时特惠 Read more

带宽计费 95 值怎么算:推理 API 和出图业务的流量模型完全不同 - 云数方舟

带宽计费 95 值怎么算:推理 API 和出图业务的流量模型完全不同

GPU 机器带宽选”100M 不限流量”还是”10G 端口 95 计费”,不是比单价,是看你的流量模型。推理 API 和出图业务,计费方式选错,月底账单能差 5 倍。

两种极端模型

推理 API:每次请求回传几百到几千 Token(约 1-5KB),用户多但单次回传小。峰值出现在整点脉冲,持续 1-2 分钟就回落。95 计费里这 1 分钟被抹掉,按第 95 百分位算几乎等于均值。

出图/视频/数字人:单次回传 2-10MB,并发低但单次大。如果批量出图集中在某小时,峰值持续 5-10 分钟,95 值直接被拉高,按端口计费反而更省。

算笔账

  • 推理 API:日均 50 万请求 × 2KB 回传 = 1GB/天出向 ≈ 100Kbps 均值。95 值约 1-2Mbps。100M 端口 95 计费月租约 800-1200 元,不限流量约 2000-3000 元。选 95 计费省一半。
  • 出图业务:日均 5 万张 × 5MB = 250GB/天出向 ≈ 25Mbps 均值。批量任务集中在 2 小时,峰值 200Mbps。95 值约 50-80Mbps。不限流量包月约 3000-5000 元,95 计费按 80Mbps 算约 4000-6000 元。选不限流量更稳。

混合业务怎么选

如果一台机器既跑推理又出图,拆端口:推理走小口 95 计费,出图走大口不限流量。达拉斯/洛杉矶节点支持多 IP + 多端口绑定,业务分流比升级单口划算。

95 值怎么自己估

# 跑 7 天采集实际出向流量
vnstat -i eth0 -h  # 看每小时均值和峰值
# 取第 95 百分位 ≈ 去掉最高 5% 的 5 分钟采样点
# 如果峰值只持续几分钟,95 值 ≈ 均值 × 1.2-1.5

别信”10G 口肯定够”——没说计费方式。95 计费下你可以用满 10G 但只能偶尔用,持续跑满月底账单吓人。

美国/欧洲 GPU 节点带宽方案:云数方舟 GPU 服务器带宽选型

云数方舟
  • contact@globaldc.cn