功能 · 智能路由

为编程智能体打造的 AI 模型路由

给每个 Agent 一个模型 ID——比如 autojev/fast——由 AutoJev 决定每个请求真正交给哪个模型：按权重负载均衡，或按决策偏好智能选择。想固定用某个模型，直接调用 <provider>/<model_id> 即可。

路由以 autojev/<route-id> 形式暴露
负载均衡或智能选择
低成本、高质量、低延迟或均衡
发给 Jev 的只有路由元数据

下载 AutoJev GitHub 上查看

路由

创建可复用的路由，并把智能体绑定到路由 ID。

+ 添加路由

fast

autojev/fast

quality

autojev/quality

cheap

autojev/cheap

balanced

autojev/balanced

autojev/lb

为什么 Agent 的模型路由应该放在本地

一个编程 Agent 一次会话就会发出成百上千个请求：有的只是改个变量名，有的是横跨二十个文件的安全审查。全部交给顶级模型，账单吃不消；全部交给便宜模型，又耽误进度。

AutoJev 作为本地网关运行在 http://127.0.0.1:9527/v1，位于 Agent 和模型服务商之间。Agent 不再填写某家服务商的模型名，而是请求 autojev/fast、autojev/quality、autojev/cheap 这样的路由。具体由哪个模型处理，由路由决定；之后想调整，只需在 AutoJev 里改，不用再动 Agent 的配置。

三种选模型方式

直连单个模型

这不是一种路由策略：让 Agent 直接使用 <provider>/<model_id> 形式的单个模型 ID，或建一条只有一个候选的负载均衡路由。所有请求都走这个模型，照样记录日志、估算费用。

负载均衡

为多个候选模型设置优先级和权重。最高优先级的一组先承接流量，组内按权重分配；请求失败时自动尝试剩余候选。

智能选择

AutoJev 识别最新一轮任务，按能力筛选候选，再根据决策偏好挑选模型——速度看本地实测，成本看本地估价（配置了 Jev 时由它判断所需等级），质量和均衡交给 Jev 决策模型判断。

四种决策偏好

每条智能路由都有自己的偏好，所以 autojev/cheap 和 autojev/quality 面对同一个模型池时，可以做出完全不同的选择。

偏好	怎么选	是否调用 Jev
兼顾质量、成本和速度	由 Jev 综合任务特征、候选价格、等级和实测性能做判断。	是
更低成本	在满足能力和等级要求的候选中，比较单次请求的预估费用，选最便宜的；价格未知的模型只作兜底。	可选：Jev 可参与判断所需等级，价格比较在本地完成
更高质量	Jev 会优先为当前任务挑选能力最强的合适模型。	是
更低延迟	根据测速得到的首字延迟、输出速度和成功率排序。	否，本地决策

一个路由 ID，任何 Agent 都能用

路由在网关上就是普通的模型 ID，任何兼容 OpenAI 的客户端都能直接调用。下面就是 AutoJev「连接参数」对话框生成的请求。

通过本地网关调用路由

curl http://127.0.0.1:9527/v1/chat/completions \
  -H 'Content-Type: application/json' \
  -H 'Authorization: Bearer autojev-local-byok' \
  -d '{"model":"autojev/fast","messages":[{"role":"user","content":"Hello"}]}'

Jev 能看到什么，看不到什么

智能选择使用 OpenRouter 的 Jev 决策模型，需要你自己的 OpenRouter Key，在「设置 → 网关与路由 → 决策模型」中配置一次即可。AutoJev 发送的是路由元数据，不是对话内容。

任务特征：接口类型、预估上下文 Token 数、是否需要工具或图片、复杂度评分及相关信号
每个候选模型的名称、配置价格、等级、工具/视觉/推理标记、上下文窗口和近期测速数据
本次请求的预估费用，以及你选择的决策偏好
从不发送：提示词原文、文件内容、工具结果和 API Key

让路由结果可预期的几道保险

置信度兜底

Jev 会返回一个候选和 0 到 1 之间的置信度。低于 0.5，或者 Jev 不可用、未配置、返回了不存在的候选时，AutoJev 会回退到本地选择，在可用候选间做负载均衡，并在日志里写明原因。

会话保持

一个会话选定模型后，只要该模型仍然可用，后续轮次都留在它上面；新会话才使用最新的决策结果，Agent 不会在任务中途来回换模型。

优先本地模型

勾选「优先本地模型」后，当 Ollama 模型与云端候选在能力和质量等级上相当时，AutoJev 会优先选本地模型。

费用基线

选一个基线模型，AutoJev 会把它在同一请求下的预估费用与实际选中模型对比，估算节省金额。基线只用于统计，不影响选择，也不影响计费。

配置第一条智能路由

1
添加服务商和模型
在「服务商」中填写 API 地址和 Key，再添加模型，设置上游 API 类型、价格和等级。
2
创建路由
在「路由」中设置路由 ID（如 fast），选择负载均衡或智能选择，再确定模型范围：全部已启用模型，或手动指定。
3
配置 Jev（可选）
如需均衡或高质量偏好，在「设置 → 网关与路由 → 决策模型」中填入 OpenRouter Key，点击「测试 Jev」。
4
让 Agent 使用路由
在「Agent」页面选择 autojev/fast 并连接，或在任意客户端里把它填为模型 ID。到「日志」里就能看到是哪个模型响应的、为什么选它。

常见问题

什么是 AI 模型路由？

模型路由负责决定每个请求由哪个大模型处理。AutoJev 在本地完成这件事：Agent 请求一个路由 ID，路由按加权负载均衡或智能选择，从你配置的模型中挑一个。想固定用某个模型，可以让 Agent 直接调用 <provider>/<model_id>。

智能选择会把我的提示词发给 OpenRouter 吗？

不会。Jev 只收到任务特征和候选模型的元数据，比如价格、等级和能力标记，不包含对话原文。真正的模型请求从你的电脑直接发往你选择的服务商。

用路由功能必须有 OpenRouter Key 吗？

不是必须的。负载均衡、直接调用单个模型和「更低延迟」偏好从不调用 Jev；「更低成本」可能请 Jev 判断所需等级，但价格比较在本地完成。没配置 Jev 时，智能路由会回退到本地选择，而不是直接报错。

Agent 会在任务中途换模型吗？

只要选中的模型仍然可用就不会。会话保持让同一会话固定在一个模型上；故障转移也只在请求失败且尚未开始输出时才会切换。

可以在本地模型和云端模型之间路由吗？

可以。Ollama 模型和云端模型在同一个候选池里。开启「优先本地模型」后，在能力和质量等级相当时会优先选择 Ollama。

继续了解

功能模型测速在你自己的网络下定时实测首字延迟和每秒输出 Token，并据此为低延迟请求选择模型。功能故障转移与负载均衡权重分配、优先级分组和会话保持，遇到 429、5xx 自动切换备用模型，冷却时间遵循 Retry-After。使用场景控制 Agent 成本日常请求交给便宜模型，设置成本基准，按 Agent 和模型查看预估花费。不加价。功能一键接入 Agent一键连接 Codex、Claude Code、Gemini CLI、OpenCode 等 Agent，直接修改原生配置，自动备份，断开即恢复。对比AutoJev 与 OpenRouter 对比跨所有服务商的本地路由器，对比提供数百个模型的托管 API。OpenRouter 可作为 AutoJev 的服务商。

更新于 2026-10-14

给每个智能体，配上合适的模型。

安装 AutoJev，添加你已有的模型服务商，一键接入智能体。所有数据都留在你的电脑上。