衡量单次 AI 服务成本与收益是否划算的方法。
算这个,像食堂承包窗口:打饭的人再挤,每份都倒贴两块,阿姨手抡出残影,也只是越忙越亏。
常用来评估客服、代码助手等 AI 服务,判断能否规模化赚钱。
Cost-aware AI
先把单次账算明白,系统优化才知道该省哪儿。
Tokens per second
生成速度越高,单位时间能服务更多请求。
Continuous batching
它通过减少空转,直接改善单次服务成本。
AI monetization
变现讲的是怎么收费,它讲的是收了还赚不赚。