服务商集成

在任意编程 Agent 中运行 Ollama 本地模型

把 AutoJev 指向你的 Ollama 服务，已连接的 Agent 就能通过和云端模型相同的网关使用本地模型。只要本地模型够用，路由还可以优先选它。

内置预设：http://127.0.0.1:11434，无需 API Key
路由选项「优先使用本地模型」
本地与云端模型混用，支持故障转移
网关和日志都留在本机

下载 AutoJev GitHub 上查看

服务商

+ 服务商

OpenRouter

https://openrouter.ai/api

DeepSeek

https://api.deepseek.com

OpenAI

https://api.openai.com/v1

Ollama

http://127.0.0.1:11434

用上本地模型，不必逐个配置 Agent

用 Ollama 在本地跑模型很简单，麻烦的是让每个编程 Agent 都用上它：Codex 需要 Responses 端点，Claude Code 需要 Anthropic Messages，而且每个 Agent 的配置格式都不一样。AutoJev 把两件事一起解决：所有 Agent 统一接到本机网关，请求再被转换成 Ollama 提供的 Chat Completions 接口。

AutoJev 网关只监听 localhost，请求日志只记录元数据。Agent 发往本地 Ollama 模型的请求，全程不会离开你的电脑。

添加 Ollama

1
确认 Ollama 已启动
启动 Ollama 并拉取需要的模型。记下 `ollama list` 输出的完整模型名，后面要作为模型 ID 填写。
bash
ollama pull qwen3-coder:30b ollama list
2
创建服务商
「服务商」→「添加服务商」→ Ollama。接口地址预设为 http://127.0.0.1:11434，不需要 API Key。如果 Ollama 跑在其他端口或其他机器上，改成对应地址即可。
text
Provider type: Ollama Provider name: ollama Base URL: http://127.0.0.1:11434 API type: OpenAI Chat Completions API key: (not required)
3
测试并添加模型
用一个本地模型名测试，请求会发往 http://127.0.0.1:11434/v1/chat/completions。然后逐个添加模型，设置等级、能力标记和上下文窗口。只想统计 Token 的话，价格可以填 0。Agent 看到的是 `ollama/qwen3-coder:30b`。
4
跑一次测速
在「模型」页面运行测速。AutoJev 会对每个模型发送三次简短的流式请求，记录首字延迟和输出速度（tokens/s），让你直观对比本机硬件和云端模型的速度。

与本地模型相关的路由选项

设置	作用
直连单个模型	直接以 <provider>/<model_id> 调用某个 Ollama 模型，或建一条只有一个 Ollama 候选的负载均衡路由。
负载均衡	按权重在本地和云端模型之间分配流量，支持优先级分组（数字越大越优先）。
智能选择 + 优先使用本地模型	当能力和质量等级与云端候选相同时，优先选择 Ollama。
智能选择 + 速度优先	按实测速度选择。此时不显示本地优先选项，因为由测速数据决定。
故障转移	候选模型在开始输出前出现连接错误或 401/402/403/408/429/5xx 时，自动尝试下一个。

本地优先路由的实际用法

创建一条名为 `local` 的路由，Ollama 模型设为较高优先级，云端模型作为备用，然后像调用普通模型一样调用它。

调用本地优先路由

curl http://127.0.0.1:9527/v1/chat/completions \
  -H 'Content-Type: application/json' \
  -H 'Authorization: Bearer autojev-local-terminal' \
  -d '{"model": "autojev/local", "messages": [{"role": "user", "content": "Write a unit test for parseDate"}]}'

你可以期待什么

所有 Agent，同一套模型

Codex、Claude Code、Gemini CLI、OpenCode、Hermes 等各连接一次，就都能看到你的 Ollama 模型。

如实标注能力

按模型实际情况设置工具、视觉、推理标记。协议转换无法给本地模型补上它本来没有的能力。

用量一目了然

「日志」和「用量」页面把本地请求和云端请求放在一起，按 Agent、模型、服务商拆分。

本地硬件有上限

编程 Agent 会发送很长的上下文和大量工具调用。请按 Ollama 实际运行的上下文长度填写上下文窗口，并在路由里保留一个云端模型，兜住本地模型处理不了的请求。

常见问题

在 AutoJev 中使用 Ollama 需要 API Key 吗？

不需要。Ollama 类型的服务商无需 API Key，AutoJev 直接调用你的 Ollama 服务。

Codex 或 Claude Code 能通过 AutoJev 使用 Ollama 模型吗？

能。Codex 向网关发送 Responses，Claude Code 发送 Anthropic Messages，AutoJev 都会转换成 Chat Completions 发给 Ollama，再把流式结果转回来。

「优先使用本地模型」具体做什么？

在智能选择路由中，当 Ollama 模型的能力和质量等级与其他候选相同时，AutoJev 优先选择它。「速度优先」偏好下不显示此选项，因为完全按实测速度排序。

用 Ollama 时，提示词会离开我的电脑吗？

经由 AutoJev 不会：网关只监听 localhost，请求发往你的 Ollama 服务，日志只存元数据。如果你在「均衡」或「质量优先」路由中启用了 Jev，发送给 OpenRouter 的是路由特征，不是对话内容。

Ollama 跑在另一台机器上可以吗？

可以。把接口地址改成那台机器的地址和端口即可，测速结果会包含网络延迟。

继续了解

使用场景本地优先开发者优先使用 Ollama 本地模型，必要时故障转移到云端。网关只监听本机，日志只存元数据，无需账号。功能智能模型路由用 autojev/fast 这样的路由接入所有 Agent，可负载均衡，也可交给 Jev 按成本、质量、速度或均衡智能选模型。功能模型测速在你自己的网络下定时实测首字延迟和每秒输出 Token，并据此为低延迟请求选择模型。功能故障转移与负载均衡权重分配、优先级分组和会话保持，遇到 429、5xx 自动切换备用模型，冷却时间遵循 Retry-After。集成

OpenAI 兼容接口Kimi、通义千问、硅基流动、MiniMax、vLLM、LM Studio 等任意 OpenAI 兼容接口，所有 Agent 都能用。

更新于 2026-10-14

给每个智能体，配上合适的模型。

安装 AutoJev，添加你已有的模型服务商，一键接入智能体。所有数据都留在你的电脑上。