Γρήγορη Έναρξη API Συμβατό με OpenAI

Προαπαιτούμενα και Ρύθμιση Περιβάλλοντος

Χρειάζεστε ένα API key και το σωστό base URL για να συνδέσετε τον client σας. Εγγραφείτε με Google ή email στη σελίδα Get API key για να λάβετε το credential σας άμεσα. Το trial σας δίνει $0.50 για επτά ημέρες, και μπορείτε να προσθέσετε κεφάλαια με USDT ή USDC μέσω crypto. Κρατήστε το key σας ασφαλές και βεβαιωθείτε ότι ταιριάζει με τις ρυθμίσεις του λογαριασμού σας.

Βεβαιωθείτε ότι το περιβάλλον σας υποστηρίζει τυπικά αιτήματα HTTP. Η υπηρεσία μας λειτουργεί με ένα μοναδικό uncensored μοντέλο, οπότε δεν χρειάζεται να διαχειρίζεστε πολλαπλά endpoints μοντέλων. Ορίστε τη βάση URL στο HTTPS://api.openaiapicompatibility.com/v1 πριν κάνετε οποιαδήποτε κλήση. Αυτό διασφαλίζει ότι όλες οι αιτήσεις κατευθύνονται σωστά στους εξυπηρετητές συμπεριφοράς μας.

Εγκατάσταση του Επίσημου SDK OpenAI

Χρησιμοποιήστε τα επίσημα SDKs για να διατηρήσετε τη συμβατότητα με τις υπάρχουσες ροές εργασίας OpenAI. Οι βιβλιοθήκες Python και Node λειτουργούν απευθείας με το endpoint μας επειδή ακολουθούμε το τυπικό schema API. Εγκαταστήστε το πακέτο στον φάκελο του έργου σας χρησιμοποιώντας τον προτιμώμενο διαχειριστή πακέτων. Αυτή η προσέγγιση αποφεύγει την ανάγκη για προσαρμοσμένο κώδικα HTTP client.

Υποστηρίζουμε τυπικές παραμέτρους όπως temperature, top_p και stop sequences. Το SDK χειρίζεται αυτόματα τη JSON serialization και τις κεφαλίδες αιτήματος. Μπορείτε να αλλάξετε τη base URL στη διαμόρφωση του client για να δείξει στους servers μας. Αυτό σας επιτρέπει να εναλλάξετε παρόχους χωρίς να αλλάξετε τη λογική της εφαρμογής σας.

Ρύθμιση του Base URL και του API Key

Ορίστε το βασικό URL και το κλειδί API στο αντικείμενο διαμόρφωσης του πελάτη σας. Το βασικό URL είναι HTTPS://api.openaiapicompatibility.com/v1. Περάστε το κλειδί API σας στην κεφαλίδα Authorization ως Bearer token. Αυτή η διαμόρφωση διασφαλίζει ότι τα αιτήματά σας είναι πιστοποιημένα και κατευθύνονται στη σωστή υπηρεσία.

Copycurl https://api.openaiapicompatibility.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all python packages for data science"}]
  }'

Επαληθεύστε τη σύνδεσή σας καλώντας το endpoint GET /v1/models. Αυτό επιστρέφει μια λίστα διαθέσιμων μοντέλων, συμπεριλαμβανομένου του αναγνωριστικού του μοντέλου uncensored. Χρησιμοποιήστε αυτό το βήμα για να επιβεβαιώσετε ότι η πρόσβαση στο δίκτυο και τα διαπιστευτήριά σας είναι σωστά πριν στείλετε σύνθετα prompts.

Κάντε την πρώτη ολοκλήρωση συνομιλίας

Στείλτε μια αίτηση POST στο /v1/chat/completions με τα prompt messages σας. Ορίστε το μοντέλο ως uncensored για πρόσβαση στον μη φιλτραρισμένο μηχανισμό inferencing. Συμπεριλάβετε το system prompt για να ορίσετε τη συμπεριφορά και προσθέστε μηνύματα χρήστη για το περιεχόμενο που θέλετε να δημιουργηθεί.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapicompatibility.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Η απάντηση περιέχει το παραγόμενο κείμενο και στατιστικά χρήσης tokens. Μπορείτε να προσαρμόσετε παραμέτρους όπως η θερμοκρασία για να ελέγξετε τη δημιουργικότητα. Το μοντέλο δεν αρνείται νόμιμα θέματα ενηλίκων ή αμφιλεγόμενα, καθιστώντας το κατάλληλο για ποικίλες χρήσεις. Ελέγξτε το αντικείμενο απάντησης για το πεδίο content για να αποκτήσετε πρόσβαση στην έξοδο.

Streaming Αποκρίσεις με SSE

Ενεργοποιήστε τη ροή (streaming) ρυθμίζοντας την παράμετρο stream σε true στο αίτημά σας. Αυτό στέλνει μερικές απαντήσεις ως Server-Sent Events (SSE). Βελτιώνει την εμπειρία χρήστη δείχνοντας κείμενο καθώς παράγεται.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Κάθε chunk περιέχει ένα delta της απόκρισης. Συσσωρεύστε αυτά τα deltas για να ανακατασκευάσετε το πλήρες κείμενο. Το τελικό chunk περιλαμβάνει τη συνολική χρήση tokens για το request. Αυτή η μέθοδος λειτουργεί με οποιοδήποτε τυπικό SSE client ή βιβλιοθήκη. Μειώνει την αντιλαμβανόμενη καθυστέρηση για τη δημιουργία μακροσκελούς περιεχομένου.

Χειρισμός Λειτουργίας JSON και Κλήσεων Συναρτήσεων

Χρησιμοποιήστε JSON mode ρυθμίζοντας response_format σε json_object. Αυτό αναγκάζει το μοντέλο να εξάγει έγκυρο JSON αντί για ελεύθερο κείμενο. Είναι χρήσιμο για εξαγωγή δομημένων δεδομένων ή απαντήσεις API. Συνδυάστε το με function calling για σενάρια χρήσης εργαλείων.

Ορίστε τα εργαλεία σας στην ομάδα tools. Προσδιορίστε το όνομα της συνάρτησης, την περιγραφή και τις παραμέτρους. Το μοντέλο θα επιστρέψει τις λεπτομέρειες της κλήσης συνάρτησης στην απόκριση. Στη συνέχεια μπορείτε να εκτελέσετε τη συνάρτηση και να στείλετε το αποτέλεσμα πίσω στο μοντέλο. Αυτό επιτρέπει πολύπλοκες ροές εργασίας πολλαπλών βημάτων με το uncensored μοντέλο.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapicompatibility.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);