OpenAI Uyumlu API Hızlı Başlangıç

Önkoşullar ve Ortam Kurulumu

İstemcinizi bağlamak için bir API anahtarına ve doğru base URL'ye ihtiyacınız var. Kimlik bilgilerinizi hemen almak için Get API key sayfasında Google veya e-posta ile kaydolun. Deneme süresi yedi gün için $0.50 kredi sağlar ve kripto ile USDT veya USDC kullanarak bakiye yükleyebilirsiniz. Anahtarınızı güvende tutun ve ayarlarınızla eşleştiğinden emin olun.

Ortamınızın standart HTTP isteklerini desteklediğinden emin olun. Hizmetimiz tek bir uncensored model üzerinde çalışır, bu nedenle birden fazla model uç noktasını yönetmenize gerek yoktur. Herhangi bir çağrı yapmadan önce temel URL'yi HTTPS://api.openaiapicompatibility.com/v1 olarak ayarlayın. Bu, tüm isteklerin ayarlanmış çıkarım sunucularımıza doğru şekilde yönlendirilmesini sağlar.

Resmi OpenAI SDK'sının Kurulması

Mevcut OpenAI iş akışlarınızla uyumluluğu korumak için resmi SDK'ları kullanın. Python ve Node kütüphaneleri, standart API şemasını takip ettiğimiz için uç noktamızla doğrudan çalışır. Paketi tercih ettiğiniz paket yöneticisini kullanarak proje dizininize yükleyin. Bu yaklaşım, özel HTTP istemci koduna ihtiyaç duymaz.

temperature, top_p ve stop dizileri gibi standart parametreleri destekliyoruz. SDK, JSON serileştirmesini ve istek başlıklarını otomatik olarak yönetir. İstemci yapılandırmasındaki base URL'yi sunucularımıza işaret edecek şekilde değiştirebilirsiniz. Bu, uygulama mantığınızı değiştirmeden sağlayıcılar arasında geçiş yapmanıza olanak tanır.

Temel URL ve API Anahtarını Yapılandırma

Temel URL'yi ve API anahtarını istemci yapılandırma nesnenizde ayarlayın. Temel URL HTTPS://api.openaiapicompatibility.com/v1'dir. API anahtarınızı Yetkilendirme başlığında Bearer belirteci olarak iletin. Bu yapılandırma, isteklerinizin doğrulanmasını ve doğru hizmete yönlendirilmesini sağlar.

Copycurl https://api.openaiapicompatibility.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all python packages for data science"}]
  }'

Bağlantınızı GET /v1/models uç noktasını çağırarak doğrulayın. Bu, uncensored model kimliği dahil mevcut modellerin bir listesini döndürür. Karmaşık istemleri göndermeden önce ağ erişiminizin ve kimlik bilgilerinizin doğru olduğunu onaylamak için bu adımı kullanın.

İlk Sohbet Tamamlama İsteğinizi Yapmak

isteme mesajlarınız ile /v1/chat/completions adresine POST isteği gönderin. Filtresiz çıkarım motoruna erişmek için modeli uncensored olarak tanımlayın. Davranışı ayarlamak için sistem ipucunuzu ekleyin ve oluşturmak istediğiniz içerik için kullanıcı mesajları ekleyin.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapicompatibility.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Yanıt, oluşturulan metni ve token kullanım istatistiklerini içerir. Yaratıcılığı kontrol etmek için sıcaklık gibi parametreleri ayarlayabilirsiniz. Model, yasal yetişkin veya tartışmalı konuları reddetmez; bu da onu çeşitli kullanım durumları için uygun kılar. Çıktıya erişmek için yanıt nesnesindeki içerik alanını kontrol edin.

SSE ile Akış Yanıtları

İsteğinizde stream parametresini true olarak ayarlayarak akış özelliğini etkinleştirin. Bu, oluşturuldukları gibi metni Sunucu Tarafından Gönderilen Olaylar (SSE) olarak gönderir. Metnin oluşturulduğu gibi gösterilerek kullanıcı deneyimini iyileştirir.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Her parça, yanıtın bir deltasını içerir. Tam metni yeniden oluşturmak için bu parçaları birleştirin. Son parça, istek için toplam token kullanımını içerir. Bu yöntem herhangi bir standart SSE istemcisi veya kütüphanesiyle çalışır. Uzun form içerik üretimi için algılanan gecikmeyi azaltır.

JSON Modu ve Fonksiyon Çağrılarını İşleme

JSON modunu response_format'ı json_object olarak ayarlayarak kullanın. Bu, modelin serbest metin yerine geçerli JSON çıktısı vermesini sağlar. Yapılandırılmış veri çıkarma veya API yanıtları için faydalıdır. Araç kullanımı senaryolarında fonksiyon çağırma ile birleştirin.

Araçlarınızı tools dizisinde tanımlayın. İşlev adını, açıklamasını ve parametrelerini belirtin. Model, yanıtta işlev çağrısı ayrıntılarını döndürecektir. Ardından işlevi çalıştırabilir ve sonucu modele gönderebilirsiniz. Bu, uncensored model ile karmaşık çok adımlı iş akışlarını mümkün kılar.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapicompatibility.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);