Avvio Rapido API Compatibile con OpenAI

Prerequisiti e configurazione dell'ambiente

Hai bisogno di una chiave API e dell'URL di base corretto per connettere il tuo client. Iscriviti con Google o email nella pagina Ottieni chiave API per ricevere la tua credenziale immediatamente. La prova ti offre $0.50 per sette giorni e puoi ricaricare con USDT o USDC tramite criptovaluta. Mantieni la chiave sicura e verifica che corrisponda alle impostazioni del tuo account.

Assicurati che il tuo ambiente supporti le richieste HTTP standard. Il nostro servizio utilizza un singolo modello uncensored, quindi non è necessario gestire più endpoint di modello. Imposta il tuo URL di base su HTTPS://api.openaiapicompatibility.com/v1 prima di effettuare qualsiasi chiamata. Questo garantisce che tutte le richieste vengano instradate correttamente ai nostri server di inferenza ottimizzati.

Installazione dell'SDK Ufficiale OpenAI

Utilizza gli SDK ufficiali per mantenere la compatibilità con i flussi di lavoro OpenAI esistenti. Le librerie Python e Node funzionano direttamente con il nostro endpoint perché seguiamo lo schema API standard. Installa il pacchetto nella directory del tuo progetto utilizzando il tuo gestore di pacchetti preferito. Questo approccio evita la necessità di codice client HTTP personalizzato.

Supportiamo parametri standard come temperature, top_p e sequenze di stop. L'SDK gestisce automaticamente la serializzazione JSON e gli header della richiesta. Puoi modificare l'URL di base nella configurazione del client per puntare ai nostri server. Questo ti permette di cambiare provider senza modificare la logica della tua applicazione.

Configurazione dell'URL Base e della Chiave API

Imposta l'URL base e la chiave API nell'oggetto di configurazione del tuo client. L'URL base è HTTPS://api.openaiapicompatibility.com/v1. Passa la tua chiave API nell'header Authorization come token Bearer. Questa configurazione garantisce che le tue richieste siano autenticate e instradate al servizio corretto.

Copycurl https://api.openaiapicompatibility.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all python packages for data science"}]
  }'

Verifica la tua connessione chiamando l'endpoint GET /v1/models. Questo restituisce un elenco dei modelli disponibili, incluso l'identificatore del modello uncensored. Usa questo passaggio per confermare che l'accesso alla rete e le credenziali siano corretti prima di inviare prompt complessi.

Esecuzione della tua prima chat completion

Invia una richiesta POST a /v1/chat/completions con i tuoi messaggi di prompt. Definisci il modello come uncensored per accedere al motore di inferenza non filtrato. Inserisci il tuo prompt di sistema per impostare il comportamento e aggiungi i messaggi utente per il contenuto che vuoi generare.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapicompatibility.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

La risposta contiene il testo generato e le statistiche sull'utilizzo dei token. Puoi regolare parametri come la temperatura per controllare la creatività. Il modello non rifiuta argomenti adulti leciti o controversi, rendendolo adatto a diversi casi d'uso. Controlla l'oggetto di risposta per il campo content per accedere all'output.

Risposte in streaming con SSE

Abilita lo streaming impostando il parametro stream su true nella tua richiesta. Questo invia risposte parziali come Server-Sent Events (SSE). Migliora l'esperienza utente mostrando il testo man mano che viene generato.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Ogni chunk contiene un delta della risposta. Accumula questi delta per ricostruire il testo completo. L'ultimo chunk include l'utilizzo totale dei token per la richiesta. Questo metodo funziona con qualsiasi client o libreria SSE standard. Riduce la latenza percepita per la generazione di contenuti di lunga durata.

Gestione della modalità JSON e delle chiamate di funzione

Usa la modalità JSON impostando response_format su json_object. Questo forza il modello a produrre JSON valido invece di testo libero. È utile per l'estrazione di dati strutturati o per le risposte API. Combina questo con la chiamata di funzioni per scenari di uso degli strumenti.

Definisci i tuoi strumenti nell'array tools. Specifica il nome della funzione, la descrizione e i parametri. Il modello restituirà i dettagli della chiamata alla funzione nella risposta. Puoi quindi eseguire la funzione e inviare il risultato al modello. Questo abilita flussi di lavoro multi-step complessi con il modello uncensored.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapicompatibility.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);