用量与成本管理
具体模型价格与账户可查看的用量记录,以 Fenno 控制台 为准。本页解释成本核算方法,不维护静态价格表,也不承诺某项控制台功能一定存在。
先分清计费单位
| 场景 | 需要关注 |
|---|---|
| 文本生成 | 输入、输出 token,以及每次重复发送的历史 |
| 推理模型 | 推理用量及其是否已经计入输出总量 |
| 提示缓存 | 缓存读写与输入 token 总数之间的关系 |
| 向量化 | 建索引及之后查询产生的向量化 token |
| 图像 | 当前模型适用的按张或其他用量单位、尺寸和质量 |
| 工具工作流 | 每一轮模型调用及外部工具本身的费用 |
响应中的 token 用量与货币账单不是同一份记录。不能只凭 total_tokens 推算费用,也不要重复计算已计入总数的缓存或推理 token。
估算业务成本
不单独区分缓存价格的简单文本请求,可以先这样估算:
estimated_cost = input_tokens / 1,000,000 * input_rate
+ output_tokens / 1,000,000 * output_rate费率必须使用相同币种和计费单位。缓存等项目单独定价时,应先按账单定义拆分相应类别。使用真实代表性业务测量,不要只按可见字符数估算。
安全记录用量
记录应用自己的关联 ID、时间、模型、端点、耗时、完成状态和可用的 usage。账户控制允许时,按环境或应用区分 Key。不要记录密钥、认证 Header 或完整私有请求体。
流式 usage 可能在结尾才到达,也可能缺失;缺少 usage 不能证明请求免费。超时或取消时,上游可能已消耗资源,应与可用账单记录核对。
在应用层控制支出
- 按协议和模型设置适当的输出上限。
- 限制并发、队列长度、重试次数、工具轮数和任务总耗时。
- 检索相关上下文,而不是每轮重发整个仓库或知识库。
- 用自己的质量标准测试低成本模型,再决定是否切换生产流量。
- 设置应用预算与告警,不要假设 API Key 自带期望的项目预算约束。
- 模型上下文窗口是上限,不是每次应填满的目标。
发现费用不一致时,可向支持渠道 提供脱敏时间、模型、可用请求 ID 与观测用量。不要在公开 Issue 中附上密钥或客户提示词。