ประเด็นสำคัญ
- พร็อกซีใช้รูปแบบ chat completions ของ OpenAI แต่ไม่ได้ส่งต่อคำขอของคุณไปยัง OpenAI
- กำหนดค่าไคลเอนต์ใดๆ ให้ชี้ไปที่ https://api.openaiapiproxy.com/v1, ใช้คีย์ API ของคุณ และตั้งค่าโมเดลเป็น uncensored
- รองรับ: chat completions, รายการโมเดล, สตรีมมิง, การเรียกใช้ฟังก์ชัน และ JSON mode ไม่รองรับ: รูปภาพ, เสียง, embeddings, fine-tuning
- ข้อผิดพลาดส่วนใหญ่เกิดจาก /v1 ซ้ำใน path, ชื่อโมเดลผิด หรือข้อผิดพลาด 429 จากขีดจำกัดอัตรา
ความหมายของคำว่า พร็อกซี ในบริบทนี้
ผู้คนใช้คำว่า "proxy" อย่างหลวมๆ และการระบุให้ชัดเจนช่วยได้มาก ในกรณีของพร็อกซี API ที่เข้ากันได้กับ openai เช่นนี้ คำนี้ใช้อธิบายอินเทอร์เฟซ: เซิร์ฟเวอร์รับรูปร่างคำขอของ OpenAI และส่งกลับรูปร่างการตอบกลับของ OpenAI โค้ดของคุณไม่สามารถแยกความแตกต่างจากรูปแบบการส่งข้อมูลบนเครือข่ายได้
ไม่ได้หมายถึงการส่งการจราจรของคุณไปยัง OpenAI หรือบริษัทอื่น คำขอจะไปยังโมเดลแบบเปิดน้ำหนักหนึ่งตัวที่ให้บริการโดยผู้ให้บริการอิสระ ซึ่งปรับแต่งมาเพื่อตอบคำถามโดยไม่ปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย นี่ไม่ใช่ API ทางการของ OpenAI, Meta, Mistral, Qwen, DeepSeek, Google, Anthropic หรือ xAI และไม่ใช่เราเตอร์ที่เลือกโมเดลจากผู้ขายหลายราย ความแตกต่างนี้สำคัญต่อความคาดหวัง: มีโมเดลเพียงหนึ่งตัว และ ID ของโมเดลคือ uncensored
เหตุผลที่นักพัฒนาเพิ่มเลเยอร์ที่เข้ากันได้ไว้หน้าโมเดล
รูปแบบคำขอของ OpenAI กลายเป็นภาษาสากลของเครื่องมือ LLM ไลบรารี, IDE, กรอบงาน agent และเครื่องมือแบบ no-code ต่างรู้จักวิธีใช้งานรูปแบบนี้ เอนด์พอยต์ที่เข้ากันได้ช่วยให้คุณนำสิ่งเหล่านี้ทั้งหมดกลับมาใช้ใหม่ได้โดยไม่ต้องเขียนไคลเอนต์
- ไม่ต้องใช้ SDK ใหม่ ไลบรารีทางการของ OpenAI ทำงานได้หลังจากเปลี่ยน base URL
- รองรับเครื่องมือฟรี ทุกอย่างที่มีช่อง endpoint แบบกำหนดเองเป็นตัวเลือกได้: หน้าเว็บแชท, ปลั๊กอินโปรแกรมแก้ไข, สคริปต์
- การย้อนกลับง่าย หากโมเดลใหม่ไม่เหมาะสม คุณสามารถตั้งค่า URL เก่ากลับและไม่มีอะไรในโค้ดเปลี่ยนแปลง
- กำหนดนโยบายในที่เดียว คุณเลือกพฤติกรรมของโมเดลที่ต้องการที่เอนด์พอยต์ แทนที่จะต่อสู้กับการปฏิเสธเนื้อหาในพรอมต์ทุกอัน
สิ่งที่ต้องแลกคือการยอมรับข้อจำกัดของอินเทอร์เฟซที่นำไปใช้ ตารางในหัวข้อถัดไปคือรายการทั้งหมด
สิ่งที่รองรับและไม่รองรับ
| ฟีเจอร์ | สถานะ |
|---|---|
POST /v1/chat/completions | รองรับ |
GET /v1/models | รองรับ ส่งกลับโมเดล uncensored |
| สตรีมมิง (SSE) | รองรับเมื่อใช้ stream: true โดยรายงานการใช้งานที่ตอนท้าย |
| การเรียกใช้เครื่องมือ | รองรับ: tools, tool_choice, streamed tool_calls, role: "tool" ผลลัพธ์ |
| โหมด JSON | รองรับผ่าน response_format |
| พารามิเตอร์การสุ่มตัวอย่าง | ส่งผ่านค่า temperature, top_p, stop, seed และค่าปรับโทษ (penalties) |
| รูปภาพ, เสียง, วิดีโอ | ไม่พร้อมใช้งาน รองรับเฉพาะข้อความ |
| Embeddings | ไม่มี |
| Fine-tuning | ไม่มี |
| โมเดล ID อื่นๆ | ไม่พร้อมใช้งาน มีโมเดลเดียว |
หน้าต่างบริบทมี 100,000 โทเคน โดยนับพรอมต์และการตอบกลับรวมกัน ร่างคำขอสามารถมีขนาด 8 MB ไคลเอนต์ที่พึ่งพาเอนด์พอยต์อื่น ๆ นอกเหนือจากสองข้อข้างต้น เช่น การเรียก embeddings ภายในไลบรารี retrieval จะล้มเหลวในการเรียกนั้น ดังนั้นควรวางแผนให้ส่วนนั้นอยู่กับบริการอื่น
เชื่อมต่อได้ภายในห้านาที
วิธีที่เร็วที่สุดคือการใช้ตัวแปรสภาพแวดล้อม SDK Python และ Node.js ของ OpenAI จะอ่านค่า OPENAI_API_KEY และ OPENAI_BASE_URL เมื่อคุณไม่ได้กำหนดค่าผ่านโค้ด ซึ่งทำให้สคริปต์ที่มีอยู่จำนวนมากสามารถทำงานได้โดยไม่ต้องแก้ไขบรรทัดใด
export OPENAI_API_KEY="YOUR_KEY"
export OPENAI_BASE_URL="https://api.openaiapiproxy.com/v1"
curl "$OPENAI_BASE_URL/chat/completions" \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ready."}]}'หากคุณต้องการกำหนดค่าแบบชัดเจนซึ่งปลอดภัยกว่าในโค้ดเบสที่เชื่อมต่อกับผู้ให้บริการอื่น ให้ส่งค่าเหล่านี้ไปยังไคลเอนต์:
from openai import OpenAI
client = OpenAI(base_url="https://api.openaiapiproxy.com/v1", api_key="YOUR_KEY")
for model in client.models.list():
print(model.id)
out = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarize the plot of a heist film in two sentences."}],
)
print(out.choices[0].message.content)คุณจำเป็นต้องมีคีย์ก่อน บัญชีใหม่สามารถรับเครดิตทดลองใช้ฟรีมูลค่า $0.50 ได้เพียงคลิกเดียวที่ หน้าคีย์ API เครดิตนี้มีอายุการใช้งาน 7 วัน และไม่จำเป็นต้องใช้บัตรเครดิต หากคุณใช้งาน Claude Code เว็บไซต์มีหน้าแยกต่างหากเกี่ยวกับ การใช้งานร่วมกับ Claude Code
เฮดเดอร์ของคำขอมีความสำคัญเช่นกันเมื่อส่งออก ควรส่ง Content-Type: application/json เสมอ และรักษารูปแบบบอดีให้ต่ำกว่า 8 MB คำขอที่ผสมผสานเอกสารขนาดใหญ่ที่วางไว้กับประวัติแชทที่ยาวนานอาจถึงขีดจำกัดนี้เร็วกว่าขีดจำกัด 100,000 โทเคน ดังนั้นควรตรวจสอบขนาดบอดีเมื่ออัปโหลดข้อความขนาดใหญ่
ทดสอบห้านาทีก่อนไว้วางใจพร็อกซีใดๆ
ไม่ว่าคุณจะเลือกใช้งานเอนด์พอยต์ใด ให้ทำการตรวจสอบเดียวกัน การตรวจสอบเหล่านี้ใช้เวลาเพียงไม่กี่นาทีและช่วยจับข้อผิดพลาดส่วนใหญ่ก่อนที่จะส่งถึงผู้ใช้
- ระบุรายการโมเดล การเรียก
GET /v1/modelsยืนยันคีย์และที่อยู่ได้ในขั้นตอนเดียว ที่นี่คุณควรเห็นuncensored - ส่งคำขอสร้างข้อความสั้นๆ ขอเพียงหนึ่งคำและจำกัด
max_tokensตรวจสอบเฮดเดอร์ของคำตอบ โดยเฉพาะX-Balance-USDและยืนยันว่ายอดลดลงในจำนวนที่สมเหตุสมผล - สตรีมคำตอบยาว ตรวจสอบว่าโทเคนมาถึงทีละน้อยและสตรีมจบลงอย่างสะอาดพร้อมข้อมูลการใช้งาน
- เรียกใช้เครื่องมือ ส่งสคีมาฟังก์ชัน ตรวจสอบว่า
tool_callsกลับมา ส่งข้อความrole: "tool"และอ่านคำตอบสุดท้าย - จงทำลายมันโดยเจตนา ส่งคำขอเก้าคำพร้อมกันด้วยคีย์เต็ม หรือสามคำด้วยคีย์ทดลอง แล้วยืนยันว่าคุณได้รับรหัส 429 พร้อมโค้ด
concurrencyและโค้ดการลองใหม่ของคุณสามารถกู้คืนได้
หากการทดสอบทั้งห้าผ่าน การผสานรวมจะมีความมั่นคงในระดับโปรโตคอล สิ่งที่เหลือคือการประเมินตัวโมเดลเอง ซึ่งทำได้เฉพาะจากพรอมต์ของคุณเองเท่านั้น
การแก้ไขปัญหาทั่วไป
ปัญหาความเข้ากันได้มักไม่เกี่ยวกับโมเดล แต่เกือบทั้งหมดเกิดจากการกำหนดค่า นี่คือปัญหาที่พบบ่อยที่สุด
เกิดข้อผิดพลาด not-found ทุกครั้งที่เรียกใช้
URL ฐานลงท้ายด้วย /v1 แล้วไคลเอนต์ของคุณเพิ่ม /v1 อีกครั้ง หรือในทางกลับกัน ตรวจสอบ URL สิ้นสุดในบันทึกไคลเอนต์ เส้นทางคำขอที่ถูกต้องคือ https://api.openaiapiproxy.com/v1/chat/completions
ข้อผิดพลาดการตรวจสอบสิทธิ์
คีย์หายไป มีช่องว่างหรือ newline เกินมา หรือถูกส่งในเฮดเดอร์ที่ผิด รูปแบบคือ Authorization: Bearer <key> คีย์ที่คัดลอกจากเทอร์มินัลบ่อยครั้งมี newline ต่อท้าย
ชื่อโมเดลถูกปฏิเสธ
ใช้ uncensored ตัวพิมพ์เล็ก ชื่อเช่น ID โมเดลของผู้จัดจำหน่ายจะไม่ตรงกัน เพราะมีเพียงโมเดลเดียวที่นี่ เครื่องมือบางตัวมีรายการแบบกำหนดตายตัว ในกรณีนี้ให้เพิ่มชื่อโมเดลแบบกำหนดเอง
HTTP 429
รหัสข้อบ่งชี้ขีดจำกัดที่ชน rate_limited หมายถึงเกินคำขอต่อนาที (300 สำหรับคีย์เต็ม, 60 สำหรับคีย์ทดลอง) concurrency หมายถึงคำขอพร้อมกันมากเกินไป (8 สำหรับคีย์เต็ม, 2 สำหรับคีย์ทดลอง) การโอเวอร์โหลดชั่วคราวยังให้ 429 พร้อม Retry-After: 5 รอเวลาที่ระบุแล้วรีทรี จำไว้ว่าคำขอสตรีมจะคงสล็อตไว้จนกว่าสตรีมจะจบ
ต้นทุน การเรียกเก็บเงิน และความเป็นส่วนตัว
ราคาคือ $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens จาก prepaid credit ไม่มีสมาชิกและเครดิตไม่หมดอายุ คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน พรอมต์ไม่ถูกใช้ในการฝึก
ตัวอย่างการคำนวณ: เครื่องมือสไตล์ซัพพอร์ตส่ง 3,000 โทเคนอินพุตและรับ 400 โทเคนเอาต์พุตต่อคำขอ อินพุตคือ 3,000 / 1,000,000 x $0.15 = $0.00045 และเอาต์พุตคือ 400 / 1,000,000 x $0.50 = $0.0002 ดังนั้นคำขอหนึ่งครั้งมีค่าใช้จ่าย $0.00065 และ 10,000 คำขอมีค่าใช้จ่าย $6.50
การเติมเงินคือจำนวนเต็มตั้งแต่ $20 ถึง $500 โดยคริปโต (USDT บน TRC20, USDC บน Base) การเติมเงิน $200 รวมโบนัส 15% ให้เครดิต $230 หน้าราคา มีรายละเอียดที่เหลือ
สิ่งที่ควรตรวจสอบในเอนด์พอยต์ที่เข้ากันได้
หมวดหมู่นี้มีผู้ให้บริการจำนวนมาก ดังนั้นการมีเกณฑ์ช่วยได้มาก ควรระวังผู้ให้บริการที่ไม่ได้ระบุโมเดลที่ใช้งาน เพราะสิ่งนั้นบอกคุณได้ว่าควรคาดหวังพฤติกรรมอย่างไรและใครคือผู้รับผิดชอบ ในกรณีนี้ โมเดลเป็นโมเดลแบบเปิดน้ำหนักที่ให้บริการโดยผู้ให้บริการอิสระ และหน้าเว็บระบุไว้ชัดเจน
- ขีดจำกัดที่ประกาศไว้ คุณควรรู้ขีดจำกัดคำขอและจำนวนคำขอพร้อมกันก่อนออกแบบลอจิกการเรียกซ้ำ ที่นี่คือ 300 คำขอต่อนาทีและ 8 คำขอพร้อมกันบนคีย์เต็ม
- กฎการเรียกเก็บเงินที่ชัดเจน มองหาเครดิตแบบเติมเงินล่วงหน้า ไม่มีสมาชิก และข้อความเกี่ยวกับการเรียกใช้ที่ล้มเหลว ในกรณีนี้ คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน และเครดิตจะไม่หมดอายุ
- นโยบายความเป็นส่วนตัว พรอมต์ไม่ถูกใช้ในการฝึกที่นี่ อ่าน เอกสาร และข้อกำหนดเพื่อดูรายละเอียดที่สำคัญสำหรับคุณ
- ขอบเขตที่จริงใจ รายการสิ่งที่ขาดหายเป็นสัญญาณที่ดี มีเพียงข้อความ ไม่มี embeddings ไม่มี fine-tuning มีหนึ่งโมเดล
วิธีการชำระเงินก็เป็นส่วนหนึ่งของภาพรวมเช่นกัน การเติมเงินสามารถทำได้ด้วยคริปโต (USDT บน TRC20, USDC บน Base) ตั้งแต่ $20 ถึง $500
ก่อนที่คุณจะพึ่งพา
โมเดลที่ไม่ปฏิเสธเป็นเครื่องมือที่มีขอบเขตควบคุมจำกัดกว่า ดังนั้นควรใช้ด้วยความระมัดระวัง บริการมีข้อจำกัดหนึ่งข้อคือไม่มีเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ และผลิตภัณฑ์ของคุณควรเพิ่มการกรองที่เหมาะสมกับผู้ใช้และกฎหมายท้องถิ่นของคุณ อ่านเอกสารเพื่อดูรายการพารามิเตอร์ทั้งหมด และกำหนดค่าผู้ให้บริการสำรองสำหรับงานที่เอนด์พอยต์นี้ไม่ได้ครอบคลุม
