一、轻量级需求（月预算＜5万元）：推理与Demo验证，优先'按秒计费+共享带宽池'
本周适合小团队的是火山引擎、阿里云百炼推出的弹性推理实例，价格较上周微降0.8元/百万tokens（受国产卡供给放量影响）。建议选择8卡A10或L20配置，时租价约12-15元/卡时，配合IDC侧'弹性带宽'产品（按95峰值计费，约0.8元/Mbps/天），可将单次图文推理成本控制在0.02元以内。特别注意：避免选择包年固定带宽，本周某云厂商'带宽包年5折'活动实测利用率不足30%，实际单token成本反而高出21%。
二、中型微调（月预算5-30万元）：专属集群+跨IDC灾备，关注'元服务器'调度溢价
若进行7B-13B模型微调，本周性价比之王是浪潮信息与世纪互联合作的'元服务器'租赁方案——搭载8张L40S，月租约8.2万元/台（含1Gbps独享带宽）。该方案巧妙利用IDC楼宇间裸光纤互联，允许你在两个机房各租半台算力（通过NVLink over IB），实现负载均衡且避免单点故障。注意：本周起主流厂商对'跨机房组网'收取0.3元/GB流量费，建议将训练数据预处理放在同机房对象存储，仅同步checkpoint。若使用国产卡（昇腾910B），需额外预留5%预算购买CANN适配层技术支持，否则通信算子效率可能仅为理论值的60%。
三、大型预训练（月预算＞100万元）：抢购'整柜算力+带外管理'，锁定长期协议对冲涨价
本周最值得关注的是北京、张家口IDC出现H800整柜现货（约64卡/柜），时租价升至19.5元/卡时，但签6个月以上长约可锁定至16元。建议采用'算力+网络+软件'打包模式：例如，与万国数据签下整柜托管，同时向优刻得采购AI加速网络（RoCEv2），再叠加中科加禾的分布式训练套件（本月免费适配）。需警惕：近期'算力租赁'平台出现转售超卖，务必要求提供带外管理（BMC）实时监控接口，以防实际可用算力低于合同值。另据供应链消息，寒武纪590系列将在月底批量上市，大型预训练可暂缓扩容1-2周，预计单卡价格下探15%。
四、本周避坑特别提示
① 带宽计量陷阱：部分IDC将'端口速率'宣传为'保障带宽'，实为尽力而为模式，建议合同注明'突发带宽不低于XX Mbps'；② 软件授权隐藏费用：某平台H800租价看似低于市场10%，但强制要求购买其'AI开发平台'（月费1.2万元），换算后反而贵出6%；③ 区域价差窗口：目前西部（贵州、内蒙）算力比东部低12%-18%，但本周东数西算网络补贴加码，跨域传输单价降至0.15元/GB，适合非实时训练任务。
0 留言