对比

AutoJev 与 LiteLLM 对比

LiteLLM 是一个开源 AI 网关，通常部署在服务器上供团队使用；AutoJev 是桌面应用，在你自己的电脑上为你自己的智能体运行网关。两者解决的是相邻的问题，也可以串联使用。

LiteLLM：服务端代理，提供虚拟密钥和预算
AutoJev：在本机一键接入智能体，按请求路由
AutoJev 可以把 LiteLLM 代理当作 OpenAI 兼容服务商
LiteLLM 信息核对自其 README 与文档（2026 年 10 月）

下载 AutoJev GitHub 上查看

为每次请求选择合适的模型。

接入智能体

Codex

Claude Code

Gemini CLI

AutoJev

autojev/quality

openrouter/anthropic/claude-sonnet

deepseek/deepseek-chat

ollama/qwen3:14b

服务商

模型

路由

智能体

今日请求

1,284

今日 Token

18.6M

处在不同的层

LiteLLM 自我介绍为“开源 AI 网关，用统一接口调用 100+ 家 LLM 服务商”。它可以当 Python SDK 用，也可以通过 pip、Docker 或 Terraform 部署代理服务。代理面向平台团队：按用户 / 团队 / 项目发放虚拟密钥，每个密钥有预算和限流，带花费统计、护栏、负载均衡、回退以及管理后台。

AutoJev 是给单个开发者用的桌面应用。它在 http://127.0.0.1:9527/v1 运行网关，自动检测本机的编程智能体并替你写好配置——Codex、Claude Code、Gemini CLI、OpenCode、Hermes 等。每个请求按你定义的路由分配模型，并在 Chat Completions、Responses、Anthropic Messages 之间做协议转换。

简单说：LiteLLM 管的是一个组织如何访问模型，AutoJev 管的是你电脑上的智能体如何访问模型。

功能对比

LiteLLM 的信息来自其 GitHub README 与代理文档（截至 2026 年 10 月），以对方文档为准。

能力	AutoJev	LiteLLM
部署方式	桌面应用；网关只监听 localhost	Python SDK，或通过 pip/uv、Docker、Terraform 部署代理服务
主要用户	个人开发者及其本地智能体	共享同一网关的团队和平台
界面	原生应用：服务商、模型、路由、智能体、调试、日志、用量	浏览器管理后台：模型、密钥、花费、日志
智能体接入	自动检测智能体，一键写入配置，自动备份与恢复	Claude Code、Codex 等客户端自行指向网关（见其客户端配置指南）
服务商	6 个预设，外加任意 OpenAI / Anthropic 兼容端点	100+ 家 LLM 服务商
协议转换	Chat Completions ⇄ Responses ⇄ Anthropic Messages 全方向；Gemini 桥接	跨服务商统一为 OpenAI 格式；也列出了 /responses 和 /messages 端点
路由策略	加权负载均衡、智能选择（Jev）；也可直接调用 <provider>/<model_id>	跨部署的负载均衡、回退和重试
访问控制	不需要——单用户，仅本机访问	虚拟密钥，可按密钥限定模型、预算和限流
测速	定时测量首字延迟与 tokens/s	—（请查看其文档）
用量与成本	本地日志，按智能体 / 模型 / 服务商统计用量与预估成本	按密钥、团队、用户、标签统计花费；可导出到 Langfuse、Datadog、OpenTelemetry、Prometheus
数据路径	你的电脑 → 你的服务商；日志不保存提示词	客户端 → 你的 LiteLLM 服务器 → 服务商
许可证	免费；MIT	核心 MIT；企业功能采用商业许可

截至 2026 年 10 月。LiteLLM 为其所有者的商标。

什么情况下选 LiteLLM

需要一个共享的服务端网关时选 LiteLLM：给同事发虚拟密钥、强制预算和限流、按团队分摊花费、把调用链发到可观测性平台，或者还要覆盖 embeddings、图像、音频等聊天以外的端点。这些 AutoJev 都不做——它没有用户体系，只监听 127.0.0.1。

LiteLLM 开箱支持的服务商也多得多，能自然融入 Kubernetes、云上部署等现有基础设施。

什么情况下选 AutoJev

无需部署

安装应用、填入密钥、连接智能体即可，不用跑服务器、数据库或容器。macOS、Windows、Linux 均有签名安装包，支持自动更新。

智能体自动接好

AutoJev 会写入 ~/.codex/config.toml、~/.claude/settings.json 等配置，写之前先备份，断开时恢复原样。

路由基于实测

测速数据驱动“更低延迟”偏好，价格驱动“更低成本”，质量优先和均衡路由则交给 Jev 决策模型。

两者搭配使用

如果公司已经在跑 LiteLLM 代理，可以在自己电脑上用 AutoJev 接在它前面。

1
把 LiteLLM 加为服务商
在“服务商”中选择 OpenAI Compatible，填入 LiteLLM 代理地址和管理员发给你的虚拟密钥。
2
添加模型和路由
添加 LiteLLM 代理暴露的模型名，也可以和其他服务商的模型混在一起，建立 autojev/fast 之类的路由。
3
连接智能体
一键连接 Codex 或 Claude Code。预算和团队花费仍由 LiteLLM 那边管控，AutoJev 负责本地路由、测速数据和按智能体的日志。

智能体看到的是什么

不管上游是什么，智能体只连一个本地端点，请求一个路由。

通过 AutoJev 调用 Chat Completions

curl http://127.0.0.1:9527/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model": "autojev/fast", "messages": [{"role": "user", "content": "hello"}]}'

商标说明

LiteLLM 及其他产品名称均为其各自所有者的商标。AutoJev 与 BerriAI 没有隶属或背书关系。竞品信息整理自截至 2026 年 10 月的公开文档，可能已有变化。

常见问题

AutoJev 能替代 LiteLLM 吗？

只在“个人开发者想给自己的智能体配一个本地路由器”这个场景下可以。需要虚拟密钥、预算、团队花费统计的共享网关，LiteLLM 更合适。

AutoJev 能把请求转发到 LiteLLM 代理吗？

能。把它作为 OpenAI Compatible 服务商添加，填入代理地址和密钥，AutoJev 就能在 LiteLLM 的模型和你添加的其他服务商之间路由。

AutoJev 支持虚拟密钥或预算吗？

不支持。AutoJev 没有账号体系和按密钥的限额，是只监听本机的单用户应用。它会记录每个请求的预估成本方便你关注花费，但不会强制预算。

用 AutoJev 需要装 Python 或 Docker 吗？

不需要。AutoJev 是用 Tauri 和 Rust 构建的原生桌面应用，下载 macOS、Windows 或 Linux 安装包直接运行即可。

哪个能为 Claude Code 转换 Anthropic Messages？

AutoJev 在 Anthropic Messages、Chat Completions、Responses 之间全方向转换，Claude Code 因此可以用 OpenAI 兼容模型。LiteLLM 也列出了 /messages 端点，具体实现请查看其文档。

继续了解

功能协议转换Chat Completions、Responses 与 Anthropic Messages 六向互转，支持流式输出和工具调用。功能一键接入 Agent一键连接 Codex、Claude Code、Gemini CLI、OpenCode 等 Agent，直接修改原生配置，自动备份，断开即恢复。功能用量与请求日志每个请求的 Token、耗时和预估费用，可按 Agent、模型、服务商拆分。只记元数据，全部存在本地。集成

OpenAI 兼容接口Kimi、通义千问、硅基流动、MiniMax、vLLM、LM Studio 等任意 OpenAI 兼容接口，所有 Agent 都能用。使用场景多 Agent 开发者Codex、Claude Code、Gemini CLI、OpenCode 共用一个本地网关，按 Agent 选模型，日志集中查看。

更新于 2026-10-14

给每个智能体，配上合适的模型。

安装 AutoJev，添加你已有的模型服务商，一键接入智能体。所有数据都留在你的电脑上。