Q1：本周IDC圈都说“GPU供应缓解了”，为什么我订的服务器还在排产？
缓解是结构性的，不是全局的。本周国内头部IDC（如润泽、数据港）反馈，风冷机架的常规训练卡（如L40S）备货周期已从12周缩短至6-8周，但液冷高密度机架中的H800/A800仍然受限于上游CoWoS封装产能。更关键的是，本周部分云厂商开始将“AI词元服务器”（即预装vLLM/TensorRT-LLM的推理优化机型）优先供给自家大模型API业务，导致第三方渠道拿到的整机配额反而减少了约15%。
结论：如果你要的是推理型词元服务器，等待时间没有缩短，反而因厂商自用而变长。
Q2：云厂商宣传的“按秒计费GPU实例”到底能不能信？为什么我开通后性能不稳定？
本周一家二线云厂商在金融客户群里承认：其按秒计费的实例实际是“突发型”共享卡（基于MIG切片），并非物理独占。IDC机房层面，由于本周部分园区网络带宽升级（从25Gbps切换至100Gbps）导致交换机配置回滚，这些共享实例的跨节点通信延迟增加了30%-40%。
建议：在云控制台查看实例规格，若含“burst”或“shared”字样，请务必要求提供同一物理机上的邻居负载数据。真正稳定的独占卡，本周报价比共享卡贵68%，但交付SLA仍承诺99.9%。
Q3：听说新的“软件定义带宽”能解决GPU集群的通信瓶颈，这是真的吗？
本周，某头部云厂商发布了基于RoCEv2的弹性带宽池，理论上能让GPU间的AllReduce速度提升2倍。但IDC实际测试显示：该方案只在<1公里内的同园区机房有效。一旦跨园区（哪怕只有3公里光纤距离），由于现有网络软件（如Cilium）的隧道封装开销，实际吞吐反而下降11%。
真相：软件优化解决的是“分配效率”，不是“物理距离”。如果你的训练任务需要跨AZ（可用区），建议直接采购物理裸机+专线，而不是依赖新的带宽软件。
Q4：现在下单新GPU服务器，最快多久能拿到？有什么本周新变化？
本周最实际的交付路径是：现货翻新机。由于部分中小IDC因资金链问题释放了去年囤积的A100 40G（非80G）整机，价格比新卡低40%，且本周可发货。但请注意：这些机器可能已运行超1万小时，风扇和NVLink桥接器存在老化风险。
若坚持新机：8卡H800整机本周报价较上周上涨3%（因汇率和散热材料短缺），标准交付周期仍为9-11周，但如果你愿意接受“不带NVSwitch的简化版”（即8张卡通过PCIe直连），可以压缩到6周。
本周避坑提示：所有“现货即发”的广告，务必确认是否包含原厂保修——本周已有两起翻新机被拒保的投诉案例。
0 留言