max_context 是用户自定义的用量线,不是模型真实窗口:回合内 In 峰值到了,就在 下一发请求之前切成压缩回合,摘要落库后清零,支持连续压缩。 回合起点用上一发上游实报的 prompt_tokens 播种峰值,否则新回合第一发的判据永远是 0,历史早就超线也会整段再打一次(实测 123903 ≥ 120000 那发就是白打的)。
max_context 是用户自定义的用量线,不是模型真实窗口:回合内 In 峰值到了,就在 下一发请求之前切成压缩回合,摘要落库后清零,支持连续压缩。 回合起点用上一发上游实报的 prompt_tokens 播种峰值,否则新回合第一发的判据永远是 0,历史早就超线也会整段再打一次(实测 123903 ≥ 120000 那发就是白打的)。