Image 3 Image 3 Image 3

算力租赁一周观察:GPU价格没涨,但你的账单为什么变贵了?

频道:行业资讯 日期: 浏览:25

问:本周GPU服务器租赁的刊例价明明没动,为什么我的项目预算超了8%?
答:这是本周最典型的认知差。以A100-80G为例,主流平台(如阿里云竞价、优刻得、算力互联)的裸金属租用价维持在每小时18-22元区间,但“可用算力”的隐含成本在涨。7月22日起,华东某头部IDC机房对高密度机柜(单柜功率≥12kW)执行新的散热冗余费率,导致托管型算力租赁商被迫上调了“含电含网”套餐的价格,涨幅约5%-7%。换句话说,你看到的“算力单价”没变,但“算力+机柜+带宽”的打包价悄悄动了。

问:听说带宽费用本周出现分化,具体是什么情况?
答:确实。本周三大运营商针对AI训练场景的“南北互通”专线带宽报价出现两极化:一线城市(北上广深)的BGP带宽因机房扩容施工,临时性溢价约3%,但二线城市(如贵阳、乌兰察布)的IDC为了吸引AI客户,推出了“包年送100M独享”的促销。如果你跑的是分布式训练(需要跨地域拉流),本周账单会难看;如果只是推理服务(单点部署),反而可能捡到便宜。建议:本周新签合同,务必让平台方明确写出“跨域流量结算单价”,避免按“峰值95计费”被二次加价。

问:AI词元(Token)相关的算力租赁,价格有变化吗?
答:这周有个容易被忽略的信号——推理引擎的“词元吞吐”成为新的计价维度。部分平台(如硅基流动、潞晨云)开始把“每千词元生成成本”作为报价单位,而不是单纯按GPU卡时。受Llama-3.1新模型发布影响,长文本(8K+上下文)的KV Cache显存占用增加,导致同等卡数下,单卡每秒可生成的词元数下降约12%。因此,部分平台对“长对话场景”的租赁价暗调了0.5分/千词元。如果你做Agent应用,本周续费前建议跑一次压测,对比新旧计费公式。

问:IDC行业新规对租赁平台有什么直接影响?
答:本周最值得关注的是工信部关于“数据中心PUE(能效比)考核加严”的征求意见稿。部分老旧IDC机房(PUE≥1.5)被要求限期改造,这导致两家二线平台(某云、某速)将部分老旧区段的机器转为“仅限离线训练”出售,价格下调20%以快速清仓。但注意:这类机器网络质量差,不适合实时推理。如果你只是跑数据清洗或模型微调,可以捡漏;如果是线上服务,千万别碰。

问:下周价格会怎么走?要不要锁价?
答:综合本周讯息,短期看平,中期看涨。由于NVIDIA H20的批量到货,8月初部分平台的H800现货可能降价促销(预计降3%-5%)。但另一方面,随着国产算力(昇腾、寒武纪)在政务云项目中的强制适配,民用市场的国产卡供给会收紧,昇腾910B的租赁价本周已微涨1.2%。建议:如果你的业务依赖CUDA生态,可等到8月第一周再签H系列;如果涉及信创合规,现在就该锁住国产卡的当前价格。

0 留言

评论

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。
验证码