OpenAI-kompatibel API-snabbstart

Förutsättningar och miljöinställningar

Du behöver en API-nyckel och korrekt bas-URL för att ansluta din klient. Registrera dig med Google eller e-post på sidan 'Hämta API-nyckel' för att ta emot dina uppgifter omedelbart. Provet ger dig $0.50 i sju dagar, och du kan fylla på med USDT eller USDC via krypto. Håll din nyckel säker och verifiera att den matchar dina kontoinställningar.

Se till att din miljö stödjar standard HTTP-begäranden. Vår tjänst körs på en enda uncensored-modell, så du behöver inte hantera flera modelländpunkter. Ange din bas-URL till HTTPS://api.openaiapicompatibility.com/v1 innan du gör några anrop. Detta säkerställer att alla begäranden dirigeras korrekt till våra justerade inferensservrar.

Installera den officiella OpenAI-SDK:n

Använd de officiella SDK:t för att upprätthålla kompatibilitet med befintliga OpenAI-arbetsflöden. Python- och Node-biblioteken fungerar direkt med vår slutpunkt eftersom vi följer den standardiserade API-schema:t. Installera paketet i din projektmapa med din föredagna pakethanterare. Denna metod undviker behovet av anpassad HTTP-klientkod.

Vi stödjer standardparametrar som temperature, top_p och stop-sekvenser. SDK:en hanterar JSON-serialisering och begärandehuvuden automatiskt. Du kan byta base URL i klientkonfigurationen för att peka mot våra servrar. Detta gör att du kan byta leverantör utan att ändra din applikationslogik.

Konfigurera bas-URL:en och API-nyckeln

Ställ in bas-URL:en och API-nyckeln i ditt klientkonfigurationsobjekt. Bas-URL:en är HTTPS://api.openaiapicompatibility.com/v1. Ange din API-nyckel i Authorization-huvudet som en Bearer-token. Denna konfiguration säkerställer att dina begäran autentiseras och dirigeras till rätt tjänst.

Copycurl https://api.openaiapicompatibility.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all python packages for data science"}]
  }'

Verifiera din anslutning genom att anropa GET /v1/models-slutpunkten. Detta returnerar en lista över tillgängliga modeller, inklusive identifieraren för den obegränsade modellen. Använd detta steg för att bekräfta att ditt nätverksåtkomst och dina autentiseringsuppgifter är korrekta innan du skickar komplexa prompts.

Att göra din första chatkomplettering

Skicka en POST-begäran till /v1/chat/completions med dina prompt-meddelanden. Definiera modellen som uncensored för att få tillgång till den ofiltrerade inferensmotorn. Inkludera din systemprompt för att ställa in beteendet, och lägg till användarmeddelanden för det innehåll du vill generera.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapicompatibility.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Svaret innehåller den genererade texten och statistik över tokenanvändning. Du kan justera parametrar som temperaturen för att styra kreativiteten. Modellen vägrar inte lagliga ämnen för vuxna eller kontroversiella ämnen, vilket gör den lämplig för olika användningsområden. Kontrollera svarobjektet för fältet "content" för att komma åt utmatningen.

Strömningsresponser med SSE

Aktivera strömning genom att ställa in stream-parametern till true i din begäran. Detta skickar delvisa svar som Server-Sent Events (SSE). Det förbättrar användarupplevelsen genom att visa text när den genereras.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Varje chunk innehåller en delta av svaret. Ackumulera dessa deltas för att rekonstruera hela texten. Den sista chunken innehåller total tokenanvändning för förfrågan. Denna metod fungerar med varje standard SSE-klient eller bibliotek. Den minskar uppfattad latens för generering av långtext.

Hantera JSON-läge och funktionsanrop

Använd JSON-läge genom att ställa in response_format till json_object. Detta tvingar modellen att returnera giltig JSON istället för fritt text. Det är användbart för extrahering av strukturerad data eller API-svar. Kombinera detta med funktionsanrop för scenarier med verktygsanvändning.

Definiera dina verktyg i tools-arrayen. Ange funktionsnamn, beskrivning och parametrar. Modellen kommer att returnera funktionsanropets detaljer i svaret. Du kan sedan köra funktionen och skicka tillbaka resultatet till modellen. Detta möjliggör komplexa flerstegsarbetsflöden med den obegränsade modellen.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapicompatibility.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);