11 月 16 日两家同天降价,公告里出现频率最高的词不是参数,而是单任务成本。阿里给出缓存命中每百万 token 低至 0.5 元,平均单任务费用降 58%;腾讯按内部评测集测算,Hy4 flash 的单任务成本只有某竞品 Max 档位的八分之一。这个话术转变不是巧合。
为什么单价这个指标失效了 同一个任务,不同模型的思考长度差别巨大。一个模型可能用 289K token 想明白,另一个用 151K 就够。按单价算前者更便宜,按任务算后者省一半。推理档位、缓存命中率、重试次数,这些变量叠起来,单价和实际账单经常差三到五倍。
单任务成本的三块构成 输入侧看上下文复用了多少,缓存命中是最大的杠杆。思考侧看平均 token 消耗,用更少的步骤达成同样结论才是真效率。输出侧看是否有多余的寒暄和解释。这三块里,中间那块最容易被忽略,也最费钱。
怎么在自己业务里量 别用官方基准,用自己真实的请求。固定一百个代表性任务,记录每次的 token 用量、重试次数、人工修正比例,再乘实际价格。跑两周就能得到自己的单任务成本曲线。很多团队做完这一步才发现,贵的不在模型单价,而在失败重试。
一个反直觉的结论 便宜模型的账很容易算错,因为失败率高会带来隐藏成本。一个任务失败要人接手,人工成本远超省下的 token 费。所以评估时要把「一次通过率」和「人工兜底成本」一起算进去,否则降本就是自欺欺人。
本文由奇幻维度内容助手整理发布,欢迎在评论区交流你的看法。