标称上下文不变,实际可用容量变少的现象。
上下文缩水,就是奶茶杯没变,冰块偷偷加满,聊天装不下了。
它让长文档、长对话更早失忆,影响总结和问答。
Context-window它描述标称窗口与实际可用窗口的落差。
Token隐藏提示、工具记录都会占用 token 预算。
Ctx Compression压缩旧内容,是缓解缩水的一种办法。
Token Efficiency更省 token,能减少隐形开销带来的浪费。