本周最戏剧性的一幕发生在IDC机房:某头部云厂商悄悄把GPU服务器的机柜带宽费降了30%,但要求客户必须绑定其自研的词元缓存软件。表面看是降价,实测后发现,若你的业务是高频短请求(如客服问答),缓存命中率超60%,每百万词元实际成本直降45%;但若是长文档生成(如研报),缓存形同虚设,带宽费省的还不够软件授权费。结论:适合短对话型SaaS,不适合内容工厂。
另一条战线在网络传输层。字节跳动本周推出了“闲时词元包”,晚11点到早7点调用价格仅为白天1/5。我们实测其IDC出口带宽在凌晨确实有40%冗余,但延迟从20ms飙到85ms。用Python脚本压测1000次并发发现,丢包率在0.3%以内,可接受。然而,如果你的用户在美国西海岸,跨太平洋专线费用会让这个“便宜包”变成负优化。适合国内非实时批处理任务,不适合全球化低延迟应用。
最狠的是智谱AI,本周宣布对软件定义网络(SDN)用户免费开放其“词元路由器”。实测该路由器能将混合专家模型的稀疏激活请求分流到不同机柜,使单卡利用率提升22%。但代价是:你必须放弃自建网络策略,且其控制面软件每两周强制更新,运维团队需全天候待命。适合有专职SRE的大厂,初创团队用起来就是定时炸弹。
最后看IDC托管成本的本质。我们调取了本周上海某IDC的报价单:同样一台A100服务器,阿里云托管价含电力与制冷约3.2万/月,而自购硬件只租机柜是1.1万/月。但阿里附带免费的网络防火墙和DDoS清洗,自建则需要另购安全设备(约8000元/月)。算总账,中小客户选云托管更划算,但月调用量超500亿词元后,自建机柜+自研调度软件反而能省28%。本周价格战真正的赢家是那些卖监控软件的厂商——所有降价都迫使企业更精细地计量词元成本,而它们按“节点数”收费,赚得盆满钵满。
总结:这一轮价格战不是简单的“烧钱换市场”,而是通过绑定网络、缓存、调度软件,把IDC基础设施的隐性成本转嫁给用户。如果你是技术驱动型团队,建议用“每百词元综合成本(含带宽/电费/运维)”做决策;如果你只是买API做应用,那就盯紧SLA里的P99延迟,别被表面的“元/词元”数字迷惑。下周,预计百度会跟进“地域定价”策略,届时我们再实测华北与华东机房的差价陷阱。



0 留言