Điểm chính
- Proxy sử dụng định dạng hoàn thành trò chuyện OpenAI. Nó không chuyển tiếp yêu cầu của bạn đến OpenAI.
- Trỏ bất kỳ khách hàng nào đến https://api.openaiapiproxy.com/v1, sử dụng khóa của bạn và đặt mô hình thành uncensored.
- Hỗ trợ: hoàn thành trò chuyện, danh sách mô hình, truyền phát, gọi hàm và chế độ JSON. Không hỗ trợ: hình ảnh, âm thanh, nhúng, tinh chỉnh.
- Hầu hết các lỗi đến từ việc /v1 bị lặp trong đường dẫn, tên mô hình sai hoặc lỗi 429 từ giới hạn tốc độ.
Ý nghĩa của từ proxy trong trường hợp này
Mọi người dùng từ "proxy" một cách lỏng lẻo, và việc chính xác giúp ích nhiều. Trong trường hợp proxy API tương thích openai như thế này, từ ngữ mô tả giao diện: máy chủ chấp nhận định dạng yêu cầu OpenAI và trả về định dạng phản hồi OpenAI. Mã của bạn không thể phân biệt sự khác biệt chỉ dựa vào định dạng đường truyền dữ liệu.
Nó không có nghĩa là lưu lượng truy cập của bạn được chuyển tiếp đến OpenAI hoặc bất kỳ công ty nào khác. Yêu cầu được gửi đến một mô hình trọng số mở duy nhất do nhà cung cấp độc lập vận hành, được tinh chỉnh để trả lời mà không từ chối nội dung cho việc sử dụng hợp pháp của người lớn. Đây không phải là API chính thức của OpenAI, Meta, Mistral, Qwen, DeepSeek, Google, Anthropic hoặc xAI, và nó không phải là bộ định tuyến chọn trong số các nhà cung cấp. Sự khác biệt này rất quan trọng cho kỳ vọng: có một mô hình, và ID của nó là uncensored.
Lý do nhà phát triển đặt lớp tương thích phía trước mô hình
Định dạng yêu cầu OpenAI đã trở thành ngôn ngữ chung của các công cụ LLM. Các thư viện, trình soạn thảo, khung tác nhân và các công cụ không cần mã đều biết cách sử dụng nó. Một endpoint tương thích cho phép bạn tái sử dụng tất cả những thứ đó mà không cần viết một client.
- Không cần SDK mới. Các thư viện OpenAI chính thức hoạt động sau khi thay đổi Base URL.
- Hỗ trợ công cụ miễn phí. Bất cứ thứ gì có trường endpoint tùy chỉnh đều là ứng viên: giao diện trò chuyện, plugin trình soạn thảo, script.
- Khôi phục dễ dàng. Nếu mô hình mới không phù hợp, bạn đặt lại URL cũ và không có gì khác trong mã thay đổi.
- Một nơi cho chính sách. Bạn chọn hành vi mô hình bạn muốn tại endpoint, thay vì chiến đấu với các từ chối trong mọi prompt.
Sự đánh đổi là bạn chấp nhận các giới hạn của giao diện API được triển khai. Bảng trong phần tiếp theo là danh sách đầy đủ.
Những gì được và không được hỗ trợ
| Tính năng | Trạng thái |
|---|---|
POST /v1/chat/completions | Được hỗ trợ |
GET /v1/models | Hỗ trợ, trả về mô hình uncensored |
| Truyền phát (SSE) | Hỗ trợ với stream: true, số token được báo cáo ở cuối |
| Gọi công cụ | Hỗ trợ: tools, tool_choice, truyền phát tool_calls, role: "tool" kết quả |
| Chế độ JSON | Hỗ trợ thông qua response_format |
| Tham số | temperature, top_p, stop, seed và các hình phạt được truyền qua |
| Hình ảnh, âm thanh, video | Không khả dụng, chỉ văn bản |
| Embeddings | Không khả dụng |
| Tinh chỉnh (Fine-tuning) | Không khả dụng |
| Các ID mô hình khác | Không khả dụng, một mô hình duy nhất |
Cửa sổ ngữ cảnh là 100,000 token tính cả prompt và phần hoàn thành. Thân yêu cầu có thể là 8 MB. Mã client phụ thuộc vào các endpoint khác ngoài hai endpoint ở trên, chẳng hạn như lệnh gọi nhúng bên trong một thư viện truy xuất, sẽ thất bại tại lệnh gọi đó, vì vậy hãy lên kế hoạch giữ phần đó với một dịch vụ khác.
Kết nối trong dưới năm phút
Cách nhanh nhất là biến môi trường. SDK Python và Node.js của OpenAI đọc OPENAI_API_KEY và OPENAI_BASE_URL khi bạn không truyền chúng trong mã, điều này có nghĩa là nhiều tập lệnh hiện có hoạt động mà không cần chỉnh sửa một dòng nào.
export OPENAI_API_KEY="YOUR_KEY"
export OPENAI_BASE_URL="https://api.openaiapiproxy.com/v1"
curl "$OPENAI_BASE_URL/chat/completions" \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ready."}]}'Nếu bạn thích cấu hình rõ ràng, an toàn hơn trong một cơ sở mã cũng giao tiếp với các nhà cung cấp khác, hãy truyền các giá trị cho khách hàng:
from openai import OpenAI
client = OpenAI(base_url="https://api.openaiapiproxy.com/v1", api_key="YOUR_KEY")
for model in client.models.list():
print(model.id)
out = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarize the plot of a heist film in two sentences."}],
)
print(out.choices[0].message.content)Bạn cần một khóa trước tiên. Tài khoản mới có thể nhận $0.50 tín dụng dùng thử miễn phí với một cú nhấp chuột trên trang khóa API. Nó có giá trị trong 7 ngày và không cần thẻ. Nếu bạn làm việc với Claude Code, trang web có một trang riêng về cách sử dụng nó với Claude Code.
Tiêu đề yêu cầu cũng quan trọng khi gửi đi. Luôn gửi Content-Type: application/json và giữ phần thân dưới 8 MB. Một yêu cầu kết hợp tài liệu dán lớn với lịch sử trò chuyện dài có thể đạt giới hạn đó nhanh hơn giới hạn 100.000 token, vì vậy hãy kiểm tra kích thước phần thân khi bạn tải lên văn bản lớn.
Bài kiểm tra năm phút trước khi tin tưởng bất kỳ proxy nào
Bất kể endpoint nào bạn áp dụng, hãy chạy cùng các kiểm tra đó. Chúng mất vài phút và bắt hầu hết các bất ngờ trước khi chúng đến người dùng.
- Liệt kê các mô hình. Một lệnh gọi
GET /v1/modelsxác nhận khóa và địa chỉ trong một bước. Ở đây bạn nên thấyuncensored. - Gửi một yêu cầu hoàn thành nhỏ. Yêu cầu một từ và giới hạn
max_tokens. Xem các tiêu đề phản hồi, đặc biệt làX-Balance-USD, và xác nhận rằng nó đã giảm đi một khoản hợp lý. - Stream một câu trả lời dài hơn. Kiểm tra xem các token có đến dần hay không và luồng kết thúc sạch sẽ với thông báo sử dụng ở cuối.
- Gọi một công cụ. Gửi một lược đồ hàm một lần, kiểm tra xem
tool_callscó trả về hay không, trả lại một thông báorole: "tool"và đọc câu trả lời cuối cùng. - Gây lỗi cố ý. Gửi chín yêu cầu cùng lúc với khóa đầy đủ, hoặc ba với khóa dùng thử, và xác nhận rằng bạn nhận được mã 429 với mã
concurrency, và đoạn mã thử lại của bạn có thể khôi phục.
Nếu cả năm đều vượt qua, tích hợp là vững chắc ở cấp độ giao thức. Những gì còn lại là đánh giá chính mô hình, điều mà chỉ prompt của riêng bạn mới có thể làm được.
Khắc phục các vấn đề thường gặp
Các vấn đề tương thích hiếm khi là về mô hình. Chúng gần như luôn là về cấu hình. Đây là những vấn đề thường gặp nhất.
Lỗi không tìm thấy trên mọi lệnh gọi
Base URL đã kết thúc bằng /v1 và khách hàng của bạn thêm /v1 một lần nữa, hoặc ngược lại. Kiểm tra URL cuối cùng trong nhật ký khách hàng. Đường dẫn yêu cầu đúng là https://api.openaiapiproxy.com/v1/chat/completions.
Lỗi xác thực
Khóa bị thiếu, có khoảng trắng hoặc dòng mới lạ hoặc được gửi trong tiêu đề sai. Định dạng là Authorization: Bearer <key>. Các khóa dán từ terminal thường có dòng mới ở cuối.
Tên mô hình bị từ chối
Sử dụng uncensored, viết thường. Các tên như ID mô hình của nhà cung cấp sẽ không khớp, vì chỉ có một mô hình tại đây. Một số công cụ có danh sách thả xuống cố định, trong trường hợp đó bạn hãy thêm tên mô hình tùy chỉnh.
HTTP 429
Mã lỗi cho biết bạn đã chạm ngưỡng giới hạn nào. rate_limited nghĩa là bạn đã vượt quá số yêu cầu mỗi phút (300 đối với khóa đầy đủ, 60 đối với khóa dùng thử). concurrency nghĩa là quá nhiều yêu cầu đồng thời (8 đối với khóa đầy đủ, 2 đối với khóa dùng thử). Quá tải tạm thời cũng trả về 429 kèm Retry-After: 5. Hãy đợi thời gian quy định rồi thử lại. Lưu ý rằng một yêu cầu truyền phát (streaming) sẽ giữ slot của nó cho đến khi luồng kết thúc.
Chi phí, thanh toán và quyền riêng tư
Giá là $0.15 cho mỗi 1 triệu token đầu vào và $0.50 cho mỗi 1 triệu token đầu ra, sử dụng từ tín dụng trả trước. Không có gói đăng ký và tín dụng không bao giờ hết hạn. Các yêu cầu thất bại hoặc bị từ chối không bị tính phí. Các prompt không được sử dụng để huấn luyện.
Ví dụ minh họa: một công cụ dạng trợ lý gửi 3.000 token đầu vào và nhận 400 token đầu ra cho mỗi lần gọi. Chi phí đầu vào là 3.000 / 1.000.000 x $0.15 = $0.00045 và chi phí đầu ra là 400 / 1.000.000 x $0.50 = $0.0002, vậy mỗi lần gọi tốn $0.00065 và 10.000 lần gọi tốn $6.50.
Số tiền nạp tối thiểu là $20 và tối đa là $500, bằng tiền mã hóa (USDT trên TRC20, USDC trên Base). Nạp $200 sẽ được tặng thêm 15%, tương đương $230 tín dụng. trang giá có các thông tin còn lại.
Tiêu chí để chọn endpoint tương thích
Danh mục này khá đông đảo, nên bạn cần có các tiêu chí đánh giá. Hãy cẩn trọng với bất kỳ nhà cung cấp nào không nêu rõ mô hình họ đang chạy, vì điều đó cho bạn biết hành vi dự kiến và ai sẽ chịu trách nhiệm về nó. Tại đây, mô hình là một mô hình trọng số mở do một nhà cung cấp độc lập vận hành, và các trang web đều ghi rõ điều này.
- Giới hạn được công bố. Bạn nên biết các ngưỡng giới hạn yêu cầu và độ đồng thời trước khi thiết kế logic thử lại. Tại đây, các giới hạn là 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời đối với khóa đầy đủ.
- Quy tắc thanh toán minh bạch. Hãy tìm tín dụng trả trước, không đăng ký gói và có thông báo về các lệnh gọi thất bại. Trong trường hợp này, các yêu cầu thất bại hoặc bị từ chối sẽ không bị tính phí và tín dụng không hết hạn.
- Cam kết về quyền riêng tư. Prompt không được dùng để huấn luyện mô hình ở đây. Đọc tài liệu và các điều khoản để biết chi tiết liên quan đến bạn.
- Phạm vi rõ ràng. Một danh sách ngắn những tính năng chưa có là dấu hiệu tốt. Chỉ hỗ trợ văn bản, không có embedding, không fine-tuning, chỉ một mô hình.
Phương thức thanh toán cũng là một phần của bức tranh tổng thể. Bạn có thể nạp tiền bằng tiền mã hóa (USDT trên TRC20, USDC trên Base), từ $20 đến $500.
Trước khi bạn dựa vào nó
Một mô hình không từ chối là một công cụ có ít rào cản hơn, vì vậy hãy sử dụng nó một cách cẩn thận. Dịch vụ có một giới hạn cứng, không có nội dung tình dục liên quan đến người chưa thành niên, và sản phẩm của bạn nên thêm bất kỳ bộ lọc phù hợp với người dùng và luật địa phương của bạn. Đọc docs để có danh sách đầy đủ các tham số, và giữ một nhà cung cấp thứ hai được cấu hình cho các nhiệm vụ mà endpoint này không bao gồm.
