OpenAI Compatibele API Snelstart

Vereisten en omgevingconfiguratie

Je hebt een API-sleutel en de juiste basis-URL nodig om je client te verbinden. Meld je aan met Google of e-mail op de pagina 'API-sleutel ophalen' om je referentie direct te ontvangen. De proefversie geeft je $0.50 voor zeven dagen en je kunt bijbetalen met USDT of USDC via crypto. Bewaar je sleutel veilig en controleer of deze overeenkomt met je accountinstellingen.

Zorg ervoor dat je omgeving standaard HTTP-verzoeken ondersteunt. Onze service draait op één uncensored model, dus je hoeft geen meerdere model-eindpunten te beheren. Stel je base URL in op HTTPS://api.openaiapicompatibility.com/v1 voordat je verzoeken doet. Dit zorgt ervoor dat alle verzoeken correct worden doorgestuurd naar onze getuneerde inference servers.

De officiële OpenAI SDK installeren

Gebruik de officiële SDK's om compatibiliteit met bestaande OpenAI-werkstromen te behouden. De Python- en Node-bibliotheken werken direct met ons eindpunt omdat we de standaard API-schema volgen. Installeer het pakket in je projectmap met je favoriete pakketbeheerder. Deze aanpak voorkomt dat je aangepaste HTTP-clientcode hoeft te schrijven.

We ondersteunen standaard parameters zoals temperature, top_p en stop-sequenties. De SDK verwerkt de JSON-serialisatie en request headers automatisch. Je kunt de base URL in de client-configuratie wijzigen om naar onze servers te verwijzen. Hierdoor kun je van aanbieder wisselen zonder je applicatielogica te wijzigen.

De basis-URL en API-sleutel configureren

Stel de basis-URL en API-sleutel in in je clientconfiguratieobject. De basis-URL is HTTPS://api.openaiapicompatibility.com/v1. Geef je API-sleutel door in de Authorization-header als Bearer-token. Deze configuratie zorgt ervoor dat je verzoeken worden geauthenticeerd en naar de juiste service worden gerouteerd.

Copycurl https://api.openaiapicompatibility.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all python packages for data science"}]
  }'

Verifieer uw verbinding door het GET /v1/models-eindpunt aan te roepen. Dit retourneert een lijst met beschikbare modellen, inclusief de model-ID van het uncensored-model. Gebruik deze stap om te bevestigen dat uw netwerktoegang en referenties correct zijn voordat u complexe prompts verzendt.

Je eerste chat voltooiing maken

Stuur een POST-verzoek naar /v1/chat/completions met je promptberichten. Definieer het model als uncensored om toegang te krijgen tot de ongefilterde inferentie-engine. Voeg je system prompt toe om het gedrag in te stellen, en voeg user messages toe voor de inhoud die je wilt genereren.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapicompatibility.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

De respons bevat de gegenereerde tekst en statistieken over tokengebruik. Je kunt parameters zoals temperature aanpassen om de creativiteit te sturen. Het model weigert geen wettelijke volwassen of controversiële onderwerpen, wat het geschikt maakt voor diverse use cases. Controleer het response-object voor het content-veld om de uitvoer te openen.

Streaming-responsen met SSE

Schakel streaming in door de stream-parameter in te stellen op true in uw request. Dit stuurt gedeeltelijke responsen als Server-Sent Events (SSE). Het verbetert de gebruikerservaring door tekst weer te geven zoals deze wordt gegenereerd.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Elk chunk bevat een delta van de respons. Accumuleer deze deltas om de volledige tekst te reconstrueren. Het laatste chunk bevat de totale tokengebruikstatistieken voor het verzoek. Deze methode werkt met elke standaard SSE-client of bibliotheek. Het vermindert de waargenomen latentie voor het genereren van lange inhoud.

Afhandeling van JSON-modus en function calling

Gebruik JSON-modus door response_format in te stellen op json_object. Dit dwingt het model af om geldige JSON uit te geven in plaats van vrije tekst. Dit is nuttig voor het extraheren van gestructureerde gegevens of API-antwoorden. Combineer dit met functaanroepen voor scenario's met toolgebruik.

Definieer je tools in de tools-array. Geef de functienaam, beschrijving en parameters opgeven. Het model retourneert de functieaanroepgegevens in het antwoord. Je kunt de functie vervolgens uitvoeren en het resultaat terugsturen naar het model. Dit maakt complexe multi-step workflows mogelijk met het uncensored model.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapicompatibility.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);