AR ▾

openaiapiproxy.comLangChain عنوان URL الأساسي لـ OpenAI: استخدم واجهة برمجة تطبيقات LLM مخصصة

LangChain عنوان URL الأساسي لـ OpenAI: استخدم واجهة برمجة تطبيقات LLM مخصصة

يعد langchain openai base url وسيط بناء في ChatOpenAI. اضبطه على https://api.openaiapiproxy.com/v1، ومرر مفتاحك واستخدم اسم النموذج uncensored، وسيعمل كل سلاسل ووكلاء يقبل نموذج دردشة عليه.

تم التحديث

سلسلة من الروابط المتوهجة تنتهي بكرة مضيئة واحدة، تمثل خط أنابيب LangChain متصلًا بنموذج مخصص

نقاط رئيسية

  • في Python استخدم ChatOpenAI(base_url=..., api_key=..., model="uncensored"). في JavaScript استخدم configuration.baseURL.
  • تستمر الـ Prompts، والسلاسل، والبث المتدفق، وربط الأدوات ووضع JSON في العمل عبر الواجهات القياسية.
  • لا تُقدّم الـ Embeddings، لذا يجب أن تشير OpenAIEmbeddings إلى خدمة أخرى.
  • استخدم max_concurrency 8 على مفتاح كامل واترك عمليات إعادة المحاولة تتعامل مع استجابات 429.

التغيير المكون من سطرين

عند البحث عن langchain openai base url، تكون الإجابة قصيرة. تحيط فئة الدردشة OpenAI في LangChain بـ SDK الخاص بـ OpenAI، وهذا الـ SDK يقبل base URL مخصص. وجّهه إلى هذه الخدمة ولن يحتاج أي جزء آخر في السلسلة إلى تغيير. ثبّت الحزم أولاً باستخدام pip install langchain-openai langchain-core.

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="uncensored",
    base_url="https://api.openaiapiproxy.com/v1",
    api_key="YOUR_KEY",
    temperature=0.8,
)

print(llm.invoke("Describe a rainy harbor town in two sentences.").content)

هذا هو التكامل بأكمله. الخدمة متوافقة مع OpenAI، لكنها منتج منفصل: نموذج واحد مفتوح الأوزان، تشغله جهة مستقلة، بدون رفض محتوى للاستخدام القانوني للبالغين. ليست واجهة برمجة التطبيقات الرسمية لـ OpenAI أو أي مورد آخر. للحصول على مفتاح، استخدم صفحة مفتاح API؛ يمكن للحسابات الجديدة المطالبة برصيد تجريبي مجاني بقيمة $0.50 بنقرة واحدة، بدون بطاقة.

لماذا يعمل هذا: يبني ChatOpenAI طلبات إكمال الدردشة القياسية ويرسلها إلى أي عنوان تم إعطاؤه. تجيب الخدمة بشكل الاستجابة القياسي، لذا تتصرف كائنات الرسائل في LangChain، الاستدعاءات الراجعة والمحللات كما تفعل ضد أي مزود آخر. تحتفظ بنفس التجريدات، ويتغير فقط الوجهة. لأن الوجهة نموذج مختلف، يجب إعادة اختبار الموجّهات الخاصة بك. قد يكون الموجّه المكتوب لإقناع نموذج مقيد بالتعاون غير ضروري هنا، وغالباً ما تعمل التعليمات الأقصر بشكل أفضل.

متغيرات البيئة أو الحجج الصريحة

يمكنك تكوين نفس الشيء من خلال البيئة، وهذا مفيد لنشر التطبيقات. يقرأ SDK الخاص بـ OpenAI OPENAI_BASE_URL و OPENAI_API_KEY. استخدمت وثائق LangChain الأقدم OPENAI_API_BASE لنفس الغرض. لأن الأسماء تغيرت بين الإصدارات، فإن العادة الأكثر أمانًا هي تمرير base_url و api_key صراحةً وقراءة متغيرك الخاص.

import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="uncensored",
    base_url="https://api.openaiapiproxy.com/v1",
    api_key=os.environ["UNCENSORED_API_KEY"],
    max_retries=3,
    timeout=120,
)

فائدة حقيقية للحجج الصريحة: إذا كان مشروعك يستخدم أيضاً مزوداً آخر لمهام أخرى، فإن المتغير العالمي الضائع لا يمكنه تحويل حركة المرور هذه إلى المكان الخطأ. كائنان ChatOpenAI مع عناوين URL أساسية مختلفة يعيشان بسعادة في العملية نفسها.

نفس الإعداد في LangChain.js

في حزمة جافا سكريبت، يذهب عنوان URL الأساسي داخل كائن configuration الذي يتم تسليمه إلى SDK الأساسي.

import { ChatOpenAI } from "@langchain/openai";

const llm = new ChatOpenAI({
  model: "uncensored",
  apiKey: process.env.UNCENSORED_API_KEY,
  configuration: {
    baseURL: "https://api.openaiapiproxy.com/v1",
  },
});

const res = await llm.invoke("Give me three names for a haunted ship.");
console.log(res.content);

حالة الأحرف هي الفخ المعتاد: يستخدم Python base_url، بينما يستخدم SDK الخاص بـ JavaScript baseURL.

موجه، نموذج ومحلل

بمجرد بناء نموذج الدردشة، تعمل لغة تعبير LangChain بشكل معتاد. تحول هذه السلسلة موضوعًا إلى مشهد قصير وتعيد سلسلة نصية عادية.

from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(model="uncensored", base_url="https://api.openaiapiproxy.com/v1", api_key="YOUR_KEY")

prompt = ChatPromptTemplate.from_messages([
    ("system", "You write short scenes for an adult fiction platform."),
    ("human", "Write a scene about: {topic}"),
])

chain = prompt | llm | StrOutputParser()
print(chain.invoke({"topic": "two smugglers meeting at a closed customs office"}))

for piece in chain.stream({"topic": "a stormy night at a mountain inn"}):
    print(piece, end="", flush=True)

يعتمد البث المتدفق على أحداث الإرسال من الخادم، التي تصل أثناء توليد النموذج لها. يحتفظ الاستدعاء المتدفق بمكان تزامن واحد حتى ينتهي.

يُركّب المشغل | runnables، لذا يمكن للسلسلة نفسها أن تكتسب لاحقًا retriever، أو استدعاء نموذج ثانٍ أو output parser دون لمس الخطوات السابقة. إذا نقلت قالب prompt بين مزودين، احتفظ بالقالب في ملف بحيث يمكنك إصداره بشكل منفصل عن إعدادات نقطة النهاية.

استدعاء الدوال وإخراج JSON

تحوّل LangChain دوال Python إلى مخططات أدوات باستخدام الزخرفة @tool وترسلها عبر المعلمة القياسية tools. تدعم الخدمة tools، و tool_choice وtool_calls المتدفقة، لذا يعمل bind_tools.

from langchain_core.tools import tool
from langchain_openai import ChatOpenAI

@tool
def lookup_character(name: str) -> str:
    """Return the notes for a character in the story bible."""
    notes = {"Mara": "A ferry pilot with a fear of deep water."}
    return notes.get(name, "No notes.")

llm = ChatOpenAI(model="uncensored", base_url="https://api.openaiapiproxy.com/v1", api_key="YOUR_KEY")
llm_tools = llm.bind_tools([lookup_character])

reply = llm_tools.invoke("What do we know about Mara?")
for call in reply.tool_calls:
    print(call["name"], call["args"])
    print(lookup_character.invoke(call["args"]))

لوضع JSON، التزم بتنسيق الاستجابة واذكر JSON في تعليماتك:

import json
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(model="uncensored", base_url="https://api.openaiapiproxy.com/v1", api_key="YOUR_KEY")
json_llm = llm.bind(response_format={"type": "json_object"})

msg = json_llm.invoke("Return a JSON object with keys title and summary for a pirate novel.")
print(json.loads(msg.content))

حتى مع وضع JSON، لف التحليل في معالجة الأخطاء. بغض النظر عن المزود، يحدث الإخراج غير الصحيح أحيانًا، وعادةً ما تحل إعادة محاولة واحدة مع خطأ التحليل المرفق المشكلة.

سجل الدردشة والمستندات الطويلة

تأخذ نماذج دردشة LangChain قائمة من الرسائل، وأنت المسؤول عن إدارة السجل. تجعل فئات الرسائل الأدوار صريحة، وهو أكثر وضوحًا من الأزواج المرتبة بمجرد أن يحتوي الـ prompt على عدة أجزاء.

from langchain_core.messages import AIMessage, HumanMessage, SystemMessage
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(model="uncensored", base_url="https://api.openaiapiproxy.com/v1", api_key="YOUR_KEY")

messages = [
    SystemMessage(content="You are the narrator of a slow-burn mystery."),
    HumanMessage(content="Open with the detective arriving in town."),
]
first = llm.invoke(messages)
messages.append(AIMessage(content=first.content))
messages.append(HumanMessage(content="Now introduce the suspicious innkeeper."))
second = llm.invoke(messages)
print(second.content)
print(second.usage_metadata)

نافذة السياق هي 100,000 رمز، الموجّه والإكمال معاً. هذا مساحة لسجلات الدردشة الطويلة، ورقة شخصية وصفحات مرجعية في استدعاء واحد. لا يعني ذلك أن عليك ملئها دائماً. يتم احتساب رموز الإدخال بسعر $0.15 لكل مليون، لذا فإن الموجّه الذي يحتوي على 60,000 رمز يكلف 60,000 / 1,000,000 × $0.15 = $0.009 لكل استدعاء قبل أن يكتب النموذج كلمة. خطوة الاسترجاع التي ترسل الصفحات الثلاث ذات الصلة فقط أرخص وغالباً ما تعطي إجابات أفضل.

عندما يُبنى الـ prompt من نص مسترجع كثير، تذكر حد 8 MB على جسم الطلب. إنه أعلى بكثير مما تسمح به نافذة الرموز للنص العادي، لذا ستصل عادةً إلى حد الرموز أولاً، لكن البيانات المنسوخة مع سلاسل طويلة متواصلة يمكن أن تتصرف بشكل مختلف.

حدّ المعدل، الدفعات والوكلاء

تجعل LangChain العمل المتوازي سهلاً، وهو بالضبط ما يجعلك تصل إلى الحدود بالخطأ. المفتاح الكامل يسمح بـ 8 طلبات متزامنة و300 طلب في الدقيقة. يسمح المفتاح التجريبي بـ 2 و60. استخدم وسيط التكوين (config) لحدّ التوازي في الدفعات.

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(model="uncensored", base_url="https://api.openaiapiproxy.com/v1", api_key="YOUR_KEY", max_retries=4)

titles = llm.batch(
    [f"Suggest a title for episode {i} of a space western." for i in range(1, 25)],
    config={"max_concurrency": 8},
)
for t in titles:
    print(t.content)

إذا رأيت خطأ HTTP 429، فإن رمز الخطأ يوضح السبب: rate_limited لطلبات الدقيقة الواحدة، وconcurrency لعدد كبير جداً في وقت واحد. في حالة الحمل الزائد المؤقت، يتضمن الرد الرأس Retry-After: 5. تتعامل منطق إعادة المحاولة في الـ SDK الأساسي مع معظم هذا، لكن الوكلاء الذين يوزعون استدعاءات الأداة المتوازية الكثيرة قد يشبعون المفتاح التجريبي، لذا خفّض max_concurrency إلى 2 هناك.

حلقة الوكيل: كل خطوة ترسل المحادثة المتنامية كمدخل، لذا تزداد رموز المدخلات أسرع من رموز المخرجات. عند $0.15 لكل مليون رمز مدخل و$0.50 لكل مليون رمز مخرج، تكلفة تشغيل وكيل ترسل 60,000 رمز مدخل في المجموع وتنتج 6,000 رمز مخرج هي 60,000 / 1,000,000 × $0.15 + 6,000 / 1,000,000 × $0.50 = $0.009 + $0.003 = $0.012. يعرض صفحة التسعير أحجام شحن الرصيد.

ما لا ينتقل

  • التضمينات (Embeddings). لا توجد نقطة نهاية للتضمينات. إذا كانت سلسلة الاسترجاع الخاصة بك تعتمد على OpenAIEmbeddings، فاستخدم مصدر تضمين آخر لهذا الجزء واحتفظ بنموذج الدردشة هنا فقط.
  • الصور والصوت. الخدمة مخصصة للنصوص فقط.
  • تبديل النماذج. يوجد نموذج واحد فقط، وهو uncensored. لن تتطابق القائمة المنسدلة لأسماء نماذج البائعين.
  • حساب الرموز بالاسم. المكتبات التي تخمن عدد الرموز من اسم النموذج قد تعتمد على التقريب. للحصول على أرقام حقيقية، اقرأ usage_metadata في رسالة الاستجابة.

نافذة السياق هي 100,000 رمز للموجّه والإكمال معاً، وهي سخية لسجلات الدردشة الطويلة وملء المستندات. تحقق من التوثيق للحصول على القائمة الكاملة للمعاملات، وتذكر أن النموذج لا يرفض المحتوى القانوني للبالغين، لذا أضف مرشحاتك الخاصة إلى أي سلسلة عامة. القاعدة الصارمة هي عدم وجود محتوى جنسي يتضمن القاصرين.

استكشاف سلسلة لا تعمل بشكل صحيح

عندما تعطي السلسلة مخرجات غريبة، اكتشف ما ذهب فعلياً عبر الشبكة قبل تغيير الموجّه. ثلاثة أدوات تساعد، حسب الجهد.

  1. اطبع بيانات استجابة. تحمل الرسالة التي يعيدها invoke response_metadata و usage_metadata. يمكنك التحقق من سبب الانتهاء وعدادات الرموز بدون أي إعداد إضافي.
  2. فعّل تسجيل التصحيح. يطبع set_debug(True) من langchain_core.globals كل موجّه واستجابة في السلسلة. استخدمه في التطوير فقط، لأنه يطبع الموجّهات الكاملة.
  3. أعد تشغيل الاستدعاء باستخدام curl. انسخ الرسائل المُعاد عرضها من إخراج التصحيح إلى طلب https://api.openaiapiproxy.com/v1/chat/completions. إذا تصرف curl بنفس الطريقة، فإن المشكلة في النص الأولي. إذا اختلف، فإن المشكلة في السلسلة.

الأعراض الشائعة وأين تبحث: خطأ غير موجود يعني عادةً أن عنوان URL الأساسي يحتوي على /v1 مكرر أو مفقود. رسالة عن نموذج غير معروف تعني أن الاسم ليس uncensored. قوائم استدعاء الأدوات الفارغة تعني غالباً أن النص الأولي لم يوضح بوضوح أنه يجب استخدام الأداة، وهو ما يصحه وصف الأداة الواضح. والوكيل الذي يتوقف قد يكون ببساطة في قائمة الانتظار خلف استدعاءاته المتزامنة الخاصة على مفتاح تجريبي، لذا قلل من التزامن.

احتفظ بملاحظة لرأس معرف الطلب (X-Request-Id) من الأخطاء. إذا كانت المشكلة من جانب الخدمة، يشرح صفحة الدعم كيفية الإبلاغ عنها، ويسرّع هذا المعرف العملية.

أسئلة وأجوبة

ما هو اسم النموذج الذي يجب استخدامه في LangChain؟

استخدم uncensored. إنه معرف النموذج الوحيد، ويعيده GET /v1/models.

هل هو ChatOpenAI أم OpenAI الذي يأخذ عنوان URL الأساسي؟

استخدم ChatOpenAI من langchain-openai لإكمال الدردشة. يأخذ base_url في Python وconfiguration.baseURL في JavaScript.

هل يمكنني استخدام OpenAIEmbeddings مع نقطة النهاية هذه؟

لا. لا تتوفر التضمينات، لذا وجّه فئة التضمين إلى خدمة مختلفة.

لماذا أحصل على خطأ HTTP 429 في دفعة؟

تجاوزت 8 طلبات متزامنة أو 300 طلب في الدقيقة على مفتاح كامل، أو 2 و60 على مفتاح تجريبي. اضبط max_concurrency واعتمد على إعادة المحاولة.

مفتاحك على بُعد استمارة واحدة

أنشئ حساباً، وانسخ المفتاح، ثم غيّر URL الأساسي. هذه هي الإعدادات الكاملة.

احصل على مفتاح API