התחלה מהירה לממשק API תואם ל-OpenAI

דרישות מוקדמות והגדרת סביבה

אתה צריך מפתח API וכתובת בסיס נכונה כדי להתחבר ללקוח שלך. הירשם עם Google או דוא"ל בדף קבלת מפתח API כדי לקבל את האישור שלך מיד. הניסיון נותן לך $0.50 למשך שבעה ימים, וניתן להעלות יתרה באמצעות USDT או USDC דרך קריפטו. שמור על המפתח שלך מאובטח וודא שהוא תואם להגדרות החשבון שלך.

ודאו שהסביבה שלכם תומכת בבקשות HTTP סטנדרטיות. השירות שלנו פועל על מודל uncensored יחיד, כך שאין צורך לנהל קצוות מודלים מרובים. הגדירו את כתובת הבסיס ל-HTTPS://api.openaiapicompatibility.com/v1 לפני ביצוע כל קריאה. זה מבטיח שכל הבקשות ינותבו נכון לשרתי האינפראנס המותאמים שלנו.

התקנת ה-SDK הרשמי של OpenAI

השתמשו ב-SDKים הרשמיים כדי לשמור על תאימות עם זרימות העבודה הקיימות של OpenAI. ספריות Python ו-Node עובדות ישירות עם נקודת הקצה שלנו כי אנחנו עוקבים אחר סכמת ה-API הסטנדרטית. התקינו את החבילה בתיקיית הפרויקט שלכם באמצעות מנהל החבילות המועדף עליכם. גישה זו נמנעת מהצורך בקוד לקוח HTTP מותאם אישית.

אנו תומכים בפרמטרים סטנדרטיים כמו temperature, top_p, ורצפי stop. ה-SDK מטפל ב-JSON serialization ובכותרות הבקשה אוטומטית. ניתן להחליף את ה-base URL בתצורת הלקילינט כדי להפנות לשרתים שלנו. זה מאפשר לך להחליף בין ספקים ללא שינוי לוגיקת היישום שלך.

הגדרת כתובת ה-URL הבסיסית ומפתח ה-API

הגדר את כתובת הבסיס ומפתח ה-API באובייקט תצורת הלקוח שלך. כתובת הבסיס היא HTTPS://api.openaiapicompatibility.com/v1. העבר את מפתח ה-API שלך בכותרת ההרשאה כטוקן Bearer. תצורה זו מבטיחה שהבקשות שלך מאומתות ומנותבות לשירות הנכון.

Copycurl https://api.openaiapicompatibility.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all python packages for data science"}]
  }'

ודא את החיבור שלך על ידי קריאת נקודת הקצה GET /v1/models. זה מחזיר רשימה של מודלים זמינים, כולל מזהה המודל uncensored. השתמש בשלב זה כדי לוודא שגישת הרשת והאישורים שלך נכונים לפני שליחת פרומפטים מורכבים.

ביצוע השלמת צ'אט ראשונה

שלח בקשת POST ל-/v1/chat/completion עם הודעות הפלט שלך. הגדר את המודל כ-uncensored כדי לגשת למנוע ההסקה ללא סינון. כלול את הנחית המערכת שלך כדי להגדיר את ההתנהגות, והוסף הודעות משתמש לתוכן שברצונך ליצור.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapicompatibility.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

התגובה מכילה את הטקסט שנוצר וסטטיסטיקות שימוש בטוקנים. ניתן להתאים פרמטרים כמו טמפרטורה כדי לשלוט ביצירתיות. המודל לא מסרב לנושאים בוגרים חוקיים או שנויים במחלוקת, מה שהופך אותו למועדף למגוון רחב של מקרי שימוש. בדוק את אובייקט התגובה עבור שדה התוכן כדי לגשת לפלט.

תגובות בסטרימינג עם SSE

אפשרו סטרימינג על ידי הגדרת הפרמטר stream לערך true בבקשה שלכם. פעולה זו שולפת תגובות חלקיות כאירועי שרת (SSE). זה משפר את חוויית המשתמש על ידי הצגת טקסט ככל שהוא נוצר.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

כל מקטע מכיל פער של התשובה. הצטברו את הפערים האלה כדי לשחזר את הטקסט המלא. המקטע הסופי כולל את ספירת הטוקנים הכוללת לבקשה. שיטה זו עובדת עם כל לקוח או ספרייה סטנדרטית של SSE. זה מפחית את ה-latency התפוס עבור יצירת תוכן ארוך.

טיפול במצב JSON ובשימוש בפונקציות

הגדירו מצב JSON על ידי הגדרת response_format ל-json_object. זה מכריח את המודל להחזיר JSON תקף במקום טקסט חופשי. זה שימושי לחילוץ נתונים מבניים או תגובות API. שילבו זאת עם קריאת פונקציות לתרחישי שימוש בכלים.

הגדירו את הכלים שלכם במערך tools. ציינו את שם הפונקציה, התיאור והפרמטרים. המודל יחזיר את פרטי קריאת הפונקציה בתגובה. לאחר מכן אתם יכולים לבצע את הפונקציה ולשלוח את התוצאה חזרה למודל. זה מאפשר זרימות עבודה מרובות שלבים מורכבות עם המודל ללא צנזורה.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapicompatibility.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);