使用场景 · 关注成本的团队与个人开发者

别再为每一次 Agent 请求都付顶级模型的价钱

编程 Agent 的请求量很大,其中大多数都是例行操作。AutoJev 把这些请求交给更便宜的模型,把强模型留给真正需要它的轮次,并清楚展示预估费用花在了哪里。

  • 「成本优先」选出满足能力要求的最便宜模型
  • 成本基准:逐次估算节省金额
  • 按 Agent、模型、服务商统计用量和费用
  • 用你自己的 Key 和服务商,AutoJev 不加价

用量

请求数

9,412

输入 Token

142.8M

预估费用

$38.20

缓存命中率

61%

每日 Token · 近 14 天

Agent 的钱都漏在哪儿

一个模型包打天下

Agent 只配了一个默认模型。改个变量名和重新设计一个模块,按同样的价格计费。

看不到按 Agent 的账

服务商后台只按 Key 统计总额,看不出是哪个 Agent、哪类工作在推高账单。

切换成本太高

想试试更便宜的模型,就得挨个改 Agent 配置,所以基本没人去试。

中间商要赚差价

托管路由服务用着方便,但有的会在服务商价格上加收费用,或者要求先充值。

AutoJev 如何控制成本

AutoJev 在 Agent 和服务商之间放了一个本地路由器。你为每个模型填写每百万 Token 的输入、输出和缓存价格,Agent 可以直接以 <provider>/<model_id> 调用某个便宜模型,也可以交给路由决定由哪个模型处理请求:在多个低价模型之间按权重负载均衡,或者用智能选择的「成本优先」:AutoJev 先估算任务需要的质量等级(配置了 Jev 时会参考 Jev 的判断),再在满足能力要求和该等级的候选中,确定性地选出预估费用最低的模型。价格未知的模型只作兜底。

按成本路由不等于在任务中途来回换模型。会话粘性会让一段对话留在原模型上;在「成本优先」下,除非切换能带来超过 20% 的确定节省(已计入预估的缓存复用),否则 AutoJev 会保留当前会话的模型。每次请求都会在本地记录 Token 和预估费用,效果如何,你可以自己核对。

配置步骤:一条按成本选模型的默认路由

  1. 1

    填写真实价格

    在「模型」页面为每个模型填写每百万 Token 的输入、输出、缓存价格(美元),以及等级和能力标记。预估费用和「成本优先」都依赖这些数据。

  2. 2

    创建成本优先路由

    新建一条智能选择路由,偏好设为「成本优先」,候选中既有低价模型也有强模型。工具、视觉、推理和上下文窗口是硬性约束,不支持工具的便宜模型不会被分配到需要工具的请求。

    text
    Route: autojev/cheap Strategy: Intelligent selection Preference: Lower cost Candidates: deepseek/deepseek-chat, openrouter/qwen/qwen3-coder-flash, openrouter/anthropic/claude-sonnet-4
  3. 3

    设置成本基准

    在路由设置中选一个成本基准模型,通常就是你原本什么都用它的那个模型。AutoJev 会对同一次请求比较基准模型与实际选中模型的预估费用,以此估算节省。它不影响选模,也不影响实际计费。

  4. 4

    让请求量最大的 Agent 用上它

    把产生大量例行请求的 Agent 连接到 `autojev/cheap`,另留一条 `autojev/quality` 路由用于代码审查和高难度重构。

  5. 5

    每周看一次用量

    「用量」页面展示请求数、输入/输出 Token、缓存读写、缓存命中率、预估费用、成功率和平均耗时,提供每日 Token 图表,并按 Agent、模型、服务商拆分。

按 Agent 和模型查看花费

汇总数据、每日 Token 图表和分项统计,全部基于本地请求日志计算。

用量

请求数

9,412

输入 Token

142.8M

预估费用

$38.20

缓存命中率

61%

每日 Token · 近 14 天

AutoJev 中的成本杠杆

手段效果
成本优先在满足任务能力和等级要求的候选中,选预估费用最低的模型
加权负载均衡在优先级分组内按权重,把大部分流量分给低价模型
按 Agent 选模型高频 Agent 用便宜路由,关键 Agent 用强模型
优先使用本地模型等级相同时使用 Ollama,没有按 Token 计费的服务商费用
缓存价格与命中率费用估算计入缓存,并能看到缓存复用情况
成本基准估算相对于原本所用模型节省了多少

这是估算,不是账单

AutoJev 中的费用是根据你配置的价格和服务商返回的用量估算的。缺少用量或所需价格时,费用会显示为未知。实际金额以服务商账单为准。

常见问题

AutoJev 收费吗?会加价吗?

不收费,也不加价。AutoJev 免费开源,你用自己的服务商 Key,请求直连服务商。

「成本优先」是怎么选模型的?

先按所需能力和上下文筛选候选,估算任务需要的等级(配置了 Jev 时会参考它的判断),再根据你配置的价格选预估费用最低的那个。价格未知的模型只作兜底。同一会话内,只有节省超过 20% 才会切换。

成本基准是什么?

你选定的一个对照模型。每次请求时,AutoJev 比较基准模型和实际选中模型的预估费用,只用于估算节省金额,不影响路由和计费。

能按 Agent 查看费用吗?

能。「用量」按 Agent、模型、服务商拆分请求数、Token 和预估费用,「日志」也可以按 Agent 筛选。

换成便宜模型会不会让 Agent 的工具调用出问题?

在智能选择中,工具、视觉、推理和上下文窗口都是硬性约束,未标记支持工具的模型不会被分配到需要工具的请求。请如实设置能力标记。

继续了解

更新于 2026-10-14

给每个智能体,配上合适的模型。

安装 AutoJev,添加你已有的模型服务商,一键接入智能体。所有数据都留在你的电脑上。

免费开源 · macOS · Windows · Linux