繁中 ▾

openaiapiproxy.com適用於無審查 LLM 的 OpenAI 相容 API 代理

適用於無審查 LLM 的 OpenAI 相容 API 代理

OpenAI 相容的 API Proxy 是一個端點,它接受與 OpenAI API 相同的請求,因此更換 Base URL 後,您的 SDK 和工具仍可繼續運作。此處的 Proxy 背後連接了一個無審查的開放權重模型。

更新於

一座拱門連接許多客戶端視窗至發光的結晶,顯示模型前方的相容代理

重點摘要

  • 該代理使用 OpenAI chat completions 格式。它不會將您的請求轉送至 OpenAI。
  • 將任何客戶端指向 https://api.openaiapiproxy.com/v1,使用您的金鑰並將模型設為 uncensored。
  • 支援:聊天補全、模型列表、串流輸出、函式呼叫與 JSON 模式。不支援:圖片、音訊、嵌入向量、微調。
  • 大多數失敗來自路徑中重複的 /v1、錯誤的模型名稱或來自速率限制的 429。

此處 proxy 一詞的含義

人們對「proxy」一詞的使用較為寬泛,釐清定義很有幫助。對於此類 openai compatible api proxy,該詞描述的是介面:伺服器接受 OpenAI 請求格式並回傳 OpenAI 回應格式。僅從網路格式來看,您的程式碼無法區分差異。

這不意味著您的流量會被轉送至 OpenAI 或任何其他公司。請求會傳送至由獨立供應商運營的單一開放權重模型,該模型經過調校,可在合法成人用途下無內容拒絕地回答。這不是 OpenAI、Meta、Mistral、Qwen、DeepSeek、Google、Anthropic 或 xAI 的官方 API,也不是在供應商之間進行選擇的路由器。這個區別對預期很重要:這裡只有一個模型,其 ID 為 uncensored。

開發人員為何在模型前放置相容層

OpenAI 請求格式已成為 LLM 工具的共同語言。程式庫、編輯器、Agent 框架和無代碼工具都懂得如何使用它。相容端點讓您可以重複使用所有這些功能,而無需編寫客戶端。

  • 無需新的 SDK。 官方 OpenAI 函式庫在更改 Base URL 後即可運作。
  • 免費的工具支援。 任何具有自訂端點欄位的東西都是候選者:聊天前端、編輯器外掛、腳本。
  • 輕鬆回滾。 如果新模型不適合,您可以將舊 URL 設回,程式碼中的其他部分無需更改。
  • 單一政策管理。 你可以在端點選擇想要的模型行為,而不是在每個提示詞中與拒絕機制搏鬥。

代價是你必須接受已實作表面的限制。下一節的表格是完整清單。

支援與不支援的功能

項目狀態碼
POST /v1/chat/completions支援
GET /v1/models支援,回傳模型 uncensored
串流輸出 (SSE)支援 stream: true,於結尾回報用量
函式呼叫支援:tools、tool_choice、串流輸出 tool_calls、role: "tool" 結果
JSON 模式透過 response_format 支援
取樣參數temperature、top_p、stop、seed 與懲罰參數會直接傳遞
圖片、音訊、影片不可用,僅限文字
嵌入不可用
微調不可用
其他模型 ID不可用,單一模型

上下文視窗為 100,000 token,包含提示詞與完成內容的總計。請求主體可達 8 MB。依賴上述兩個端點以外端點的客戶端程式碼(例如檢索程式庫中的嵌入呼叫)將在此呼叫失敗,因此請規劃將該部分保留在其他服務中。

五分鐘內完成連線

最快的途徑是環境變數。當您未在程式碼中傳遞它們時,OpenAI Python 和 Node SDK 會讀取 OPENAI_API_KEY 和 OPENAI_BASE_URL,這意味著許多現有腳本無需編輯一行程式碼即可運作。

export OPENAI_API_KEY="YOUR_KEY"
export OPENAI_BASE_URL="https://api.openaiapiproxy.com/v1"

curl "$OPENAI_BASE_URL/chat/completions" \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ready."}]}'

如果您偏好明確設定(在也與其他供應商通訊的程式碼庫中這更安全),請將值傳遞給客戶端:

from openai import OpenAI

client = OpenAI(base_url="https://api.openaiapiproxy.com/v1", api_key="YOUR_KEY")

for model in client.models.list():
    print(model.id)

out = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarize the plot of a heist film in two sentences."}],
)
print(out.choices[0].message.content)

你首先需要金鑰。新帳戶可以在 API 金鑰頁面 上一鍵領取 $0.50 的試用額度。有效期為 7 天,無需信用卡。如果你使用 Claude Code,該網站有關於 在 Claude Code 中使用它 的獨立頁面。

請求標頭在發送時也很重要。始終傳送 Content-Type: application/json 並保持請求正文在 8 MB 以下。將巨大貼上的文件與長聊天歷史混合的請求可能會比 100,000 token 限制更早達到此限制,因此在上傳大量文字時請檢查請求正文大小。

在信任任何代理之前,先進行五分鐘測試

無論您採用哪個端點,請執行相同的檢查。這需要幾分鐘,並可在問題影響用戶之前捕捉大多數意外情況。

  1. 列出模型。 GET /v1/models 呼叫可一步確認金鑰和位址。在此您應該看到 uncensored。
  2. 發送一個短小的完成請求。 要求一個單字並限制 max_tokens。查看回應標頭,特別是 X-Balance-USD,並確認餘額以合理的金額下降。
  3. 串流輸出較長的回答。 確認 token 是否逐步到達,以及串流是否順利結束並在最後回報用量。
  4. 呼叫工具。 發送一個函式結構描述,檢查是否回傳 tool_calls,回傳 role: "tool" 訊息並讀取最終答案。
  5. 故意製造錯誤。 使用完整金鑰同時發送九個請求,或使用試用金鑰同時發送三個請求,確認收到狀態碼 429 且錯誤碼為 concurrency,並確認重試程式碼能恢復運作。

如果所有五項測試都通過,則整合在協議層面是可靠的。剩下的是評估模型本身,這只有透過您自己的提示詞才能做到。

修復常見問題

相容性問題很少與模型有關。幾乎總是與設定有關。以下是最常出現的問題。

每次呼叫都出現找不到錯誤

Base URL 已經以 /v1 結尾,而您的客戶端又再次加上 /v1,反之亦然。請檢查客戶端日誌中的最終 URL。正確的請求路徑為 https://api.openaiapiproxy.com/v1/chat/completions。

驗證錯誤

金鑰遺失、包含多餘的空格或換行符,或是在錯誤的標頭中傳送。格式為 Authorization: Bearer <key>。從終端機複製的金鑰通常帶有尾隨換行符。

模型名稱被拒絕

使用 uncensored,全小寫。像供應商模型 ID 的名稱將無法匹配,因為這裡只有一個模型。某些工具具有硬編碼的下拉選單,在這種情況下請新增自訂模型名稱。

HTTP 429

錯誤碼會顯示您觸及了哪種限制。rate_limited 表示超過每分鐘請求次數限制(完整金鑰為 300,試用金鑰為 60)。concurrency 表示同時請求數過多(完整金鑰為 8,試用金鑰為 2)。暫時過載也會返回 429 並附帶 Retry-After: 5。請等待指定時間後重試。請注意,串流請求會持續佔用其槽位,直到串流結束為止。

費用、計費與隱私

定價為每 100 萬個輸入 token $0.15,每 100 萬個輸出 token $0.50,從預付額度中扣除。無訂閱費用,且額度永不過期。失敗或被拒絕的請求不會收費。提示詞不會用於訓練。

一個實際範例:一個支援風格的工具每次呼叫發送 3,000 個輸入 token 並接收 400 個輸出 token。輸入成本為 3,000 / 1,000,000 x $0.15 = $0.00045,輸出成本為 400 / 1,000,000 x $0.50 = $0.0002,因此一次呼叫成本為 $0.00065,10,000 次呼叫成本為 $6.50。

儲值金額為 $20 至 $500 之間的整數,可透過加密貨幣(TRC20 上的 USDT、Base 上的 USDC)進行。$200 的儲值包含 15% 的贈額,總額度為 $230。定價頁面有其餘資訊。

相容端點應注意的事項

此類別競爭激烈,因此具備明確標準很有幫助。請警惕任何未說明其運行模型的供應商,因為這能讓你預期其行為並知道該向誰追究責任。此處的模型是由獨立供應商運行的開放權重模型,且官方頁面已明確說明。

  • 已公布的限制。 在設計重試邏輯之前,你應了解請求與並行上限。此處完整金鑰的限制為每分鐘 300 次請求與 8 個並行請求上限。
  • 明確的計費規則。 尋找預付額度、無訂閱制以及關於失敗呼叫的說明。在此情況下,失敗或被拒絕的請求不會收費,且額度不會過期。
  • 隱私聲明。 此處的提示詞不會用於訓練。請閱讀 文件與條款,以了解對你重要的詳細資訊。
  • 誠實的範圍。 一份缺失功能的簡短列表是一個好跡象。僅支援文字,無嵌入、無微調、單一模型。

付款方式也是整體服務的一部分。儲值可透過加密貨幣(TRC20 上的 USDT、Base 上的 USDC)進行,金額從 $20 至 $500 不等。

在依賴它之前

沒有拒絕機制的模型是一個防護機制較少的工具,因此請謹慎使用。該服務有一個硬性限制,即禁止包含未成年人的性內容,而你的產品應根據你的用戶和本地法律添加適當的過濾機制。請閱讀文件以獲取完整的參數列表,並為該端點未涵蓋的任務配置第二個供應商。

問題與解答

此代理會將我的請求傳送至 OpenAI 嗎?

不會。請求會傳送至由獨立供應商運行的單一開放權重模型。該服務使用 OpenAI 請求格式,但與 OpenAI 的 API 無連接。

哪些工具可以使用它?

任何允許你設定自訂 OpenAI 相容基礎 URL 與 API 金鑰的工具或程式庫,包括官方 OpenAI SDK for Python 與 Node.js。

我可以使用其他模型名稱嗎?

否。只有一個模型,其 ID 為 uncensored。GET /v1/models 會回傳該模型。

支援串流輸出嗎?

可以。將 stream 設為 true 即可接收伺服器發送的事件(SSE),並在串流結束時報告 token 用量。

你的金鑰只需一個表單即可獲得

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定。

取得 API 金鑰