中文 ▾

openaiapiproxy.com面向无审查 LLM 的 OpenAI 兼容 API 代理

面向无审查 LLM 的 OpenAI 兼容 API 代理

openai compatible api proxy 是一个接受与 OpenAI API 相同请求的接口,因此更改地址后您的 SDK 和工具仍可继续工作。在此处,该地址背后是一个无审查开放权重模型。

更新于

一座连接许多客户端窗口到一个发光水晶的网关拱门,展示了一个位于模型前面的兼容代理

要点

  • 代理使用 OpenAI chat completions 格式。它不会将您的请求转发给 OpenAI。
  • 将任何客户端指向 https://api.openaiapiproxy.com/v1,使用您的密钥并将模型设置为 uncensored。
  • 支持:聊天补全、模型列表、流式输出、函数调用和 JSON 模式。不支持:图像、音频、嵌入、微调。
  • 大多数故障源于路径中重复的 /v1、错误的模型名称或来自 rate limits 的 429 错误。

此处代理一词的含义

人们通常宽松地使用“代理”一词,精确理解很有帮助。对于此类 openai compatible api proxy,该词描述的是接口:服务器接受 OpenAI 请求格式并返回 OpenAI 响应格式。仅从网络格式来看,您的代码无法区分差异。

它并不意味着您的流量被中继到 OpenAI 或任何其他公司。请求会发送给由独立提供商运营的一个开放权重模型,经过调整以在合法成人使用中无内容拒绝地回答。这不是 OpenAI、Meta、Mistral、Qwen、DeepSeek、Google、Anthropic 或 xAI 的官方 API,也不是在供应商之间进行选择的路由器。这一区别对预期很重要:只有一个模型,其 ID 为 uncensored。

开发者为何在模型前放置兼容层

OpenAI 请求格式已成为 LLM 工具的共同语言。库、编辑器、agent 框架和无代码工具都懂得如何使用它。兼容接口让您无需编写客户端即可重用所有这些功能。

  • 无需新 SDK。 更改 base URL 后,官方 OpenAI 库即可工作。
  • 免费获得工具支持。 任何具有自定义接口字段的工具都是候选对象:聊天前端、编辑器插件、脚本。
  • 轻松回滚。 如果新模型不合适,您可以将旧 URL 设回原样,代码中的其他部分无需更改。
  • 一处管理策略。 您可以在接口处选择想要的模型行为,而不是在每个提示词中对抗拒绝。

代价是接受已实现表面的限制。下一节中的表格是完整列表。

支持和不支持的功能

项目状态码
POST /v1/chat/completions支持
GET /v1/models支持,返回模型 uncensored
流式输出 (SSE)支持,使用 stream: true,在末尾报告使用情况
函数调用支持:tools、tool_choice、流式传输的 tool_calls、role: "tool" 结果
JSON 模式通过 response_format 支持
采样参数temperature、top_p、stop、seed 和惩罚参数直接透传
Images、audio、video不可用,仅限文本
嵌入不可用
微调不可用
其他模型 ID不可用,单一模型

上下文窗口为 100,000 个 token,计算提示词和补全的总和。请求体大小限制为 8 MB。依赖于上述两个接口之外的客户端代码(例如检索库中的 embeddings 调用)将在该调用处失败,因此请计划将该部分保留在另一个服务中。

五分钟完成连接

最快的方式是使用环境变量。当您未在代码中传递它们时,OpenAI Python 和 Node SDK 会读取 OPENAI_API_KEY 和 OPENAI_BASE_URL,这意味着许多现有脚本无需编辑一行即可工作。

export OPENAI_API_KEY="YOUR_KEY"
export OPENAI_BASE_URL="https://api.openaiapiproxy.com/v1"

curl "$OPENAI_BASE_URL/chat/completions" \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ready."}]}'

如果您更喜欢显式配置(在同时与其他提供商交互的代码库中更安全),请将值传递给客户端:

from openai import OpenAI

client = OpenAI(base_url="https://api.openaiapiproxy.com/v1", api_key="YOUR_KEY")

for model in client.models.list():
    print(model.id)

out = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarize the plot of a heist film in two sentences."}],
)
print(out.choices[0].message.content)

您首先需要密钥。新账户可以在 API 密钥页面 上一键获取 $0.50 的试用额度。有效期为 7 天,无需信用卡。如果您在 Claude Code 中工作,该网站有一个关于 在 Claude Code 中使用它 的单独页面。

请求头在发出时也很重要。始终发送 Content-Type: application/json 并保持请求体小于 8 MB。混合了巨大粘贴文档和长聊天历史的请求可能会比 100,000 token 限制更早达到该限制,因此在上传大文本时请检查请求体大小。

在信任任何代理之前进行五分钟测试

无论采用哪个接口,都运行相同的检查。这需要几分钟时间,并在问题到达用户之前捕获大多数意外情况。

  1. 列出模型。 GET /v1/models 调用可以一步确认密钥和地址。在这里你应该看到 uncensored。
  2. 发送一个微小的 completion。 询问一个单词并限制 max_tokens。查看响应头,特别是 X-Balance-USD,并确认其下降了合理的金额。
  3. 流式传输更长的答案。 检查 token 是否逐渐到达,以及流是否以末尾的使用情况干净地结束。
  4. 调用工具。 发送一个 function schema,检查是否返回了 tool_calls,返回一个 role: "tool" 消息并读取最终答案。
  5. 故意触发限制。 使用完整密钥同时发送九个请求,或使用试用密钥发送三个请求,确认返回带有代码 concurrency 的 429 错误,并验证重试代码能正常恢复。

如果所有五项都通过,则集成在协议层面是可靠的。剩下的是评估模型本身,这只能通过您自己的提示词来完成。

修复常见问题

兼容性问题很少与模型有关。几乎总是与配置有关。以下是最常出现的问题。

每次调用都返回未找到错误

Base URL 已包含 /v1,而你的客户端又添加了 /v1,或者相反。请检查客户端日志中的最终 URL。正确的请求路径是 https://api.openaiapiproxy.com/v1/chat/completions。

认证错误

密钥缺失、包含多余的空格或换行符,或者被发送到了错误的 Header 中。格式应为 Authorization: Bearer <key>。从终端复制的密钥通常带有尾部换行符。

模型名称被拒绝

使用 uncensored,小写。供应商模型 ID 等名称将不匹配,因为这里只有一个模型。某些工具具有硬编码的下拉菜单,在这种情况下,请添加自定义模型名称。

HTTP 429

错误代码表示你触发了哪种限制。rate_limited 表示你超过了每分钟请求数限制(完整密钥为 300,试用密钥为 60)。concurrency 表示同时进行的请求过多(完整密钥为 8,试用密钥为 2)。临时过载也会返回 429 状态码并附带 Retry-After: 5。请等待指定时间后重试。请注意,流式请求会占用资源直到流结束。

成本、计费与隐私

定价为每 100 万输入 token $0.15,每 100 万输出 token $0.50,从预付额度中扣除。无订阅,额度永不失效。失败或被拒绝的请求不收费。提示词不用于训练。

一个计算示例:一个支持类工具每次调用发送 3,000 个输入 token 并接收 400 个输出 token。输入成本为 3,000 / 1,000,000 x $0.15 = $0.00045,输出成本为 400 / 1,000,000 x $0.50 = $0.0002,因此单次调用成本为 $0.00065,10,000 次调用成本为 $6.50。

充值金额可以是 $20 至 $500 之间的任意金额,支持加密货币(TRC20 链上的 USDT、Base 链上的 USDC)。充值 $200 可获得 15% 的额外奖励,即获得 $230 的额度。定价页面 列出了其余详情。

兼容接口的选择标准

该领域竞争者众多,因此需要有明确的选择标准。警惕那些未说明运行模型的服务商,因为这决定了你预期的行为表现以及出现问题时该找谁负责。这里的模型是一个由独立服务商运行的开放权重模型,且页面已明确说明。

  • 公布的限制。 在设计重试逻辑之前,你应该了解请求和并发上限。此处完整密钥的限制为每分钟 300 次请求和 8 个并发请求。
  • 清晰的计费规则。 寻找预付额度、无订阅以及对失败调用的说明。在此服务中,失败或被拒绝的请求不收费,且额度永不失效。
  • 隐私声明。 此处的提示词不用于训练。阅读 文档 和条款,了解与你相关的具体细节。
  • 诚实的范围说明。 明确列出缺失的功能是一个好迹象。仅支持文本,不支持嵌入向量,不支持微调,仅一个模型。

支付方式也是重要考量。支持通过加密货币(TRC20 上的 USDT、Base 上的 USDC)进行充值,金额从 $20 到 $500 不等。

在依赖之前

一个没有拒绝的模型意味着更少的护栏,因此请谨慎使用。该服务有一个硬性限制:禁止任何涉及未成年人的性内容,你的产品应根据用户群体和当地法律添加适当的过滤机制。阅读 文档 获取完整的参数列表,并配置第二个服务商以覆盖该接口未支持的任务。

问答

这个代理会将我的请求发送到 OpenAI 吗?

不是。请求会发送到由独立服务商运行的一个开放权重模型。该服务使用 OpenAI 的请求格式,但与 OpenAI 的 API 无连接。

哪些工具可以使用它?

任何允许您设置自定义 OpenAI 兼容 Base URL 和 API 密钥的工具或库,包括用于 Python 和 Node 的官方 OpenAI SDK。

我可以使用其他模型名称吗?

不可以。只有一个模型,ID 为 uncensored。GET /v1/models 会返回该模型。

支持流式输出吗?

可以。将 stream 设置为 true 以接收服务器发送的事件,并在流结束时报告 token 使用情况。

只差一张表单,即可获得密钥

创建账户,复制密钥,更改 Base URL。这就是全部设置。

获取 API 密钥