Token 黑名单 6 类 —— 哪些字符串最贵,改完砍 30%-50%
T2 写了怎么开 cache,T7 写了怎么提高命中,T9 写了 cache 失效的 4 个隐藏触发器——3 篇都在讲「怎么用 cache 省 token」。但 cache 是「省着花」,真正能砍 30%-50% 的是「别乱花」。这一篇列 6 类「看到就改」的最贵字符串:代码块、重复 base、闲聊、无结构日志、历史冗余、例子不收敛。每类配实战数据 + 改法 + 替代。
分类
token 与成本优化的土办法,改一个字质量变 20%
T2 写了怎么开 cache,T7 写了怎么提高命中,T9 写了 cache 失效的 4 个隐藏触发器——3 篇都在讲「怎么用 cache 省 token」。但 cache 是「省着花」,真正能砍 30%-50% 的是「别乱花」。这一篇列 6 类「看到就改」的最贵字符串:代码块、重复 base、闲聊、无结构日志、历史冗余、例子不收敛。每类配实战数据 + 改法 + 替代。
Mavis 有个 cron self 命令,专门用来给当前 session 定时推自己。听起来像闹钟,但配好之后你周末基本可以合上电脑。14 个月里我跑了 7 个 cron,这一篇把每个的 schedule、prompt、踩坑、替代方案全拆开。最后给一份「该不该开这个 cron」的判断清单。
T2 讲了怎么启用 cache、T7 讲了怎么把命中率从 60% 拉到 95%。但还有 4 个**反直觉**的触发器:开了 cache、改完代码、账单一动不动。这一篇拆 4 个真实踩坑,看完你能把命中率从 95% 拉到 99%,月账单再砍 30-40%。
怪招本 v3 改版让 Mavis 跑多 agent 编排,单个 task 里 Sonnet 4.5 嵌套调用 3 层工具(前两层是 sub-agent,第三层是真工具)。看起来很美——直到我踩了 5 个真实的坑。这 5 个坑,每一个都让我的 agent 失败 30-50% 的概率。
t2 那篇讲了怎么启用 prompt cache——5 分钟 TTL、命中 0.1x 价、账单砍 60%。但实际上线后我命中率卡在 60%——因为很多请求的 cache 前缀**差几个字符**就 miss 了。这篇讲怎么把命中率拉到 95%,实测多砍 28% 账单。
怪招本 v3 改版让 Sonnet 4.5 一次性跑 8 小时,38k token,崩了 3 次。第 4 次终于跑完。T4 讲了成本,这篇讲**稳定性**——怎么让 Claude 在长任务里不挂、挂了怎么救、怎么用 checkpoint 让崩溃成本最低。
你以为你优化了 prompt,其实有 6 个隐性 token 在偷你的预算。每个 1-3k,月账单悄悄多 30%。
Sonnet 4.5 标价比 3.5 贵 60%,但实际账单我只多付 18%。原因在于:4.5 在 tool use 上 retry 少、cache 命中率高。我把 3 个生产场景的账拆给你。
流式返回不是省 token,是省延迟。但很多团队把它和 tool use 一起用时没算清楚账。本文用 5 个生产 case 拆给你看。
Anthropic 的 prompt cache 特性藏得有点深,但只要你 system prompt 稳定、请求密度够大,一行配置就能砍 60-90% input 账单。这是我那个 7K-token 爬虫 agent 实测下来的数字。
Claude 3.5 Sonnet 的 200K 上下文听着美,但每次请求把 30K 字符全塞进去,账单起飞。我这一年给 6 个生产 agent 调过 system prompt,下面 7 条偏方是其中最值得抄的 7 条。