Permulaan Pantas API Serasi OpenAI

Prasyarat dan Persediaan Persekitaran

Anda memerlukan kunci API dan URL asas yang betul untuk menyambungkan klien anda. Daftar dengan Google atau e-mel pada halaman Dapatkan kunci API untuk menerima kelayakan anda serta-merta. Percubaan memberi anda $0.50 selama tujuh hari, dan anda boleh menambah baki dengan USDT atau USDC melalui kripto. Simpan kunci anda dengan selamat dan sahkan ia sepadan dengan tetapan akaun anda.

Pastu persekitaran anda menyokong permintaan HTTP standard. Perkhidmatan kami berjalan pada satu model uncensored, jadi anda tidak perlu menguruskan pelbagai hujung model. Tetapkan URL asas anda ke HTTPS://api.openaiapicompatibility.com/v1 sebelum membuat sebarang panggilan. Ini memastikan semua permintaan disalurkan dengan betul ke pelayan inferens yang telah disesuaikan kami.

Memasang SDK OpenAI Rasmi

Gunakan SDK rasmi untuk mengekalkan keserasian dengan aliran kerja OpenAI sedia ada. Pustaka Python dan Node berfungsi terus dengan endpoint kami kerana kami mengikuti skema API piawai. Pasang pakej dalam direktori projek anda menggunakan pengurus pakej pilihan anda. Pendekatan ini mengelakkan keperluan untuk kod klien HTTP tersuai.

Kami menyokong parameter standard seperti suhu, top_p, dan jujukan henti. SDK mengendalikan pengekodan JSON dan header permintaan secara automatik. Anda boleh menukar URL asas dalam konfigurasi klien untuk menunjuk ke pelayan kami. Ini membolehkan anda bertukar antara penyedia tanpa mengubah logik aplikasi anda.

Mengkonfigurasi URL Asas dan Kunci API

Tetapkan URL asas dan kunci API dalam objek konfigurasi klien anda. URL asas ialah HTTPS://api.openaiapicompatibility.com/v1. Luluskan kunci API anda dalam header Authorization sebagai token Bearer. Konfigurasi ini memastikan permintaan anda disahkan dan dihalakan ke perkhidmatan yang betul.

Copycurl https://api.openaiapicompatibility.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all python packages for data science"}]
  }'

Sahkan sambungan anda dengan memanggil endpoint GET /v1/models. Ini mengembalikan senarai model yang tersedia, termasuk pengenal pasti model uncensored. Gunakan langkah ini untuk mengesahkan akses rangkaian dan kelayakan anda betul sebelum menghantar permintaan kompleks.

Membuat Permintaan Penyelesaian Chat Pertama Anda

Hantar permintaan POST ke /v1/chat/completions dengan mesej prompt anda. Takrifkan model sebagai uncensored untuk mengakses enjin inferens tanpa tapisan. Sertakan prompt sistem anda untuk menetapkan tingkah laku, dan tambahkan mesej pengguna untuk kandungan yang ingin anda jana.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapicompatibility.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Respons mengandungi teks yang dijana dan statistik penggunaan token. Anda boleh menyesuaikan parameter seperti suhu untuk mengawal kreativiti. Model tidak menolak topik dewasa atau kontroversi yang sah, menjadikannya sesuai untuk pelbagai kes penggunaan. Semak objek respons untuk medan kandungan bagi mengakses output.

Respons Streaming dengan SSE

Aktifkan penstriman dengan menetapkan parameter stream kepada true dalam permintaan anda. Ini menghantar respons separa sebagai Acara Dikirim Pelayan (SSE). Ia meningkatkan pengalaman pengguna dengan memaparkan teks apabila ia dijana.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Setiap chunk mengandungi delta respons. Kumpulkan delta ini untuk membina semula teks penuh. Chunk akhir termasuk penggunaan token keseluruhan untuk permintaan tersebut. Kaedah ini berfungsi dengan mana-mana klien atau perpustakaan SSE piawai. Ia mengurangkan latensi yang dirasakan untuk penjanaan kandungan bentuk panjang.

Menangani Mod JSON dan Panggilan Fungsi

Gunakan mod JSON dengan menetapkan response_format kepada json_object. Ini memaksa model mengeluarkan JSON yang sah bukannya teks bebas. Ia berguna untuk pengekstrakan data terstruktur atau respons API. Gabungkan ini dengan pemanggilan fungsi untuk senario penggunaan alat.

Takrifkan alat anda dalam array tools. Nyatakan nama fungsi, penerangan, dan parameter. Model akan mengembalikan butang panggilan fungsi dalam respons. Anda kemudian boleh melaksanakan fungsi dan menghantar semula hasilnya kepada model. Ini membolehkan landasan kerja berbilang langkah yang kompleks dengan model uncensored.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapicompatibility.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);