OpenAI संगत API क्विकस्टार्ट

आवश्यकताएँ और पर्यावरण सेटअप

आपको क्लाइंट कनेक्ट करने के लिए API कुंजी और सही बेस URL की आवश्यकता है। तुरंत अपना क्रेडेंशियल प्राप्त करने के लिए 'Get API key' पेज पर Google या ईमेल के साथ साइन अप करें। ट्रायल आपको सात दिनों के लिए $0.50 देता है, और आप क्रिप्टो के माध्यम से USDT या USDC के साथ टॉप-अप कर सकते हैं। अपनी कुंजी को सुरक्षित रखें और सुनिश्चित करें कि यह आपके अकाउंट सेटिंग्स से मेल खाती है।

सुनिश्चित करें कि आपके एन्वायरिमेंट में स्टैंडर्ड HTTP रिक्वेस्ट्स सपोर्ट हों। हमारी सेवा एक सिंगल uncensored मॉडल पर चलती है, इसलिए आपको मल्टीपल मॉडल एंडपॉइंट्स मैनेज करने की आवश्यकता नहीं है। किसी भी कॉल से पहले अपना बेस यूआरएल HTTPS://api.openaiapicompatibility.com/v1 पर सेट करें। यह सुनिश्चित करता है कि सभी अनुरोध हमारे ट्यून्ड इनफरेंस सर्वर्स पर सही ढंग से रूट हों।

आधिकारिक OpenAI SDK इंस्टॉल करना

मौजूदा OpenAI वर्कफ़्लो के साथ संगतता बनाए रखने के लिए आधिकारिक SDK का उपयोग करें। Python और Node लाइब्रेरी हमारे एंडपॉइंट के साथ सीधे काम करती हैं क्योंकि हम मानक एपीआई स्कीमा का पालन करते हैं। अपने पसंदीदा पैकेज मैनेजर का उपयोग करके अपने प्रोजेक्ट डायरेक्टरी में पैकेज इंस्टॉल करें। इस दृष्टिकोण से कस्टम HTTP क्लाइंट कोड की आवश्यकता नहीं होती है।

हम तापमान, top_p और स्टॉप सीक्वेंस जैसे मानक पैरामीटर का समर्थन करते हैं। SDK JSON सीरियलाइज़ेशन और अनुरोध हेडर को स्वचालित रूप से संभालता है। आप क्लाइंट कॉन्फ़िगरेशन में बेस URL को बदलकर अपने सर्वरों की ओर इशारा कर सकते हैं। इससे आप बिना अपने एप्लिकेशन लॉजिक को बदले प्रदाताओं के बीच स्विच कर सकते हैं।

बेस URL और API कुंजी कॉन्फ़िगर करना

अपने क्लाइंट कॉन्फ़िगरेशन ऑब्जेक्ट में बेस URL और API कुंजी सेट करें। बेस URL HTTPS://api.openaiapicompatibility.com/v1 है। अपने API कुंजी को अथोराइजेशन हेडर में Bearer टोकन के रूप में पास करें। यह कॉन्फ़िगरेशन सुनिश्चित करता है कि आपके अनुरोध प्रमाणीकृत हों और सही सेवा में रूट किए जाएं।

Copycurl https://api.openaiapicompatibility.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all python packages for data science"}]
  }'

GET /v1/models एंडपॉइंट को कॉल करके अपनी कनेक्शन की जाँच करें। यह उपलब्ध मॉडलों की एक सूची लौटाता है, जिसमें uncensored मॉडल आईडी शामिल है। जटिल प्रॉम्प्ट भेजने से पहले इस चरण का उपयोग यह पुष्टि करने के लिए करें कि आपका नेटवर्क एक्सेस और क्रेडेंशियल सही हैं।

अपना पहला चैट कंप्लीशन अनुरोध बनाना

अपने प्रॉम्प्ट संदेशों के साथ /v1/chat/completions पर POST अनुरोध भेजें। अनफिल्टर्ड इन्फरेंस इंजन तक पहुंचने के लिए मॉडल को uncensored के रूप में परिभाषित करें। व्यवहार सेट करने के लिए अपना सिस्टम प्रॉम्प्ट शामिल करें, और जनरेट किए जाने वाले कंटेंट के लिए उपयोगकर्ता संदेश जोड़ें।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapicompatibility.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

प्रतिक्रिया में जनरेटेड टेक्स्ट और टोकन उपयोग आँकड़े होते हैं। आप रचनाशीलता को नियंत्रित करने के लिए तापमान जैसे पैरामीटर समायोजित कर सकते हैं। मॉडल कानूनी वयस्कों या विवादास्पद विषयों को अस्वीकार नहीं करता है, जिससे यह विविध उपयोग मामलों के लिए उपयुक्त होता है। आउटपुट तक पहुँचने के लिए प्रतिक्रिया ऑब्जेक्ट में सामग्री फ़ील्ड की जाँच करें।

SSE के साथ स्ट्रीमिंग रिस्पॉन्सेस

अपने अनुरोध में stream पैरामीटर को true सेट करके स्ट्रीमिंग सक्षम करें। यह जनरेट होते ही आंशिक प्रतिक्रियाओं को सर्वर-सेंट इवेंट्स (SSE) के रूप में भेजता है। यह जनरेट होते ही पाठ दिखाकर उपयोगकर्ता अनुभव को बेहतर बनाता है।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

प्रत्येक चंक प्रतिक्रिया का एक डेल्टा होता है। पूर्ण टेक्स्ट को पुनर्स्थापित करने के लिए इन डेल्टा को एकत्र करें। अंतिम चंक में अनुरोध के लिए कुल टोकन उपयोग शामिल होता है। यह विधि किसी भी मानक SSE क्लाइंट या लाइब्रेरी के साथ काम करती है। यह लंबी सामग्री जनरेशन के लिए अनुभव की गई लेटेंसी को कम करती है।

JSON मोड और फंक्शन कॉलिंग हैंडल करना

JSON मोड को response_format को json_object पर सेट करके चालू करें। यह मॉडल को वैध JSON आउटपुट करने के लिए मजबूर करता है, मुक्त पाठ के बजाय। यह संरचित डेटा निष्कर्षण या API प्रतिक्रियाओं के लिए उपयोगी है। टूल उपयोग परिदृश्यों के लिए इसे फ़ंक्शन कॉलिंग के साथ संयोजित करें।

अपने टूल्स को tools एरे में परिभाषित करें। फ़ंक्शन का नाम, विवरण और पैरामीटर निर्दिष्ट करें। मॉडल प्रतिक्रिया में फ़ंक्शन कॉल विवरण लौटाएगा। आप फिर फ़ंक्शन को निष्पादित कर सकते हैं और परिणाम वापस मॉडल को भेज सकते हैं। यह uncensored मॉडल के साथ जटिल बहु-चरणीय वर्कफ़्लो को सक्षम बनाता है।

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapicompatibility.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);