用更少 token 完成同等任务的能力。
令牌效率像出门只带一个登机箱:袜子带上,华夫饼机留下,旅行照样完整。
用于提示优化和长文处理,省钱省时,也省上下文。
Token令牌效率衡量每个 Token 是否花得值。
Ctx Compression上下文压缩是提升令牌效率的常见办法。
Token Tax令牌效率越低,额外的 Token 税越高。
Prompt-engineering好提示能让模型少绕路、少消耗。