Quickstart API Compatibil cu OpenAI

Precondiții și configurarea mediului

Ai nevoie de o cheie API și de URL-ul de bază corect pentru a conecta clientul tău. Înregistrează-te cu Google sau email pe pagina Get API key pentru a primi credențialul imediat. Probă îți oferă $0.50 timp de șapte zile, și poți reîncărca cu USDT sau USDC prin criptomonede. Păstrează cheia în siguranță și verifică că se potrivește cu setările contului tău.

Asigură-te că mediul tău suportă solicitări HTTP standard. Serviciul nostru rulează pe un singur model uncensored, așadar nu trebuie să gestionezi mai multe endpoint-uri de modele. Setează URL-ul de bază la HTTPS://api.openaiapicompatibility.com/v1 înainte de a face orice apel. Acest lucru asigură că toate solicitările sunt routeuite corect către serverele noastre de inferență ajustate.

Instalarea SDK-ului oficial OpenAI

Folosește SDK-urile oficiale pentru a menține compatibilitatea cu fluxurile de lucru OpenAI existente. Bibliotecile Python și Node funcționează direct cu endpoint-ul nostru deoarece respectăm schema API standard. Instalează pachetul în directorul proiectului tău folosind managerul de pachete preferat. Această abordare evită nevoia de cod custom pentru clientul HTTP.

Suportăm parametri standard precum temperature, top_p și secvențe de oprire. SDK-ul gestionează serializarea JSON și antetele solicitării automat. Poți schimba URL-ul de bază în configurația clientului pentru a indica către serverele noastre. Acest lucru îți permite să comuți între furnizori fără a modifica logica aplicației tale.

Configurarea URL-ului de bază și a cheii API

Stabilește URL-ul de bază și cheia API în obiectul de configurare al clientului. URL-ul de bază este HTTPS://api.openaiapicompatibility.com/v1. Trece cheia ta API în antetul Authorization ca token Bearer. Această configurare asigură că cererile tale sunt autentificate și direcționate către serviciul corect.

Copycurl https://api.openaiapicompatibility.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all python packages for data science"}]
  }'

Verifică conexiunea apelând endpoint-ul GET /v1/models. Acesta returnează o listă de modele disponibile, inclusiv identificatorul modelului uncensored. Folosește acest pas pentru a confirma că accesul la rețea și acreditările sunt corecte înainte de a trimite prompturi complexe.

Realizarea Primei Tale Completări de Chat

Trimiteți o cerere POST către /v1/chat/completions cu mesajele tale de prompt. Definește modelul ca uncensored pentru a accesa motorul de inferență nefiltrat. Include promptul de sistem pentru a seta comportamentul și adaugă mesaje utilizator pentru conținutul pe care dorești să îl generezi.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapicompatibility.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Răspunsul conține textul generat și statistici de utilizare a tokenilor. Poți ajusta parametri precum temperatura pentru a controla creativitatea. Modelul nu refuză subiecte adulte legale sau controversate, ceea ce îl face potrivit pentru diverse cazuri de utilizare. Verifică obiectul de răspuns pentru câmpul content pentru a accesa output-ul.

Răspunsuri în streaming cu SSE

Activați streaming-ul setând parametrul stream la true în cererea dumneavoastră. Acest lucru trimite răspunsuri parțiale ca Evenimente trimise de server (SSE). Îmbunătățește experiența utilizatorului arătând text pe măsură ce este generat.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Fiecare fragment conține un delta al răspunsului. Acumulează aceste delta-uri pentru a reconstrui textul complet. Fragmentul final include utilizarea totală a token-urilor pentru cerere. Această metodă funcționează cu orice client sau bibliotecă standard SSE. Aceasta reduce latența percepută pentru generarea de conținut lung.

Gestionarea modului JSON și a apelurilor de funcții

Folosește modul JSON setând response_format la json_object. Acest lucru forțează modelul să producă JSON valid în loc de text liber. Este util pentru extragerea de date structurate sau răspunsuri API. Combină acest lucru cu apelarea de funcții pentru scenarii de utilizare a instrumentelor.

Definește-ți instrumentele în array-ul tools. Specifică numele funcției, descrierea și parametrii. Modelul va returna detaliile apelului de funcție în răspuns. Poți apoi să execuți funcția și să trimiți rezultatul înapoi la model. Acest lucru permite fluxuri de lucru complexe în mai mulți pași cu modelul uncensored.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapicompatibility.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);