Hướng dẫn bắt đầu nhanh API Tương thích OpenAI

Điều kiện tiên quyết và Thiết lập môi trường

Bạn cần một khóa API và URL cơ sở chính xác để kết nối máy khách của bạn. Đăng ký bằng Google hoặc email trên trang Get API key để nhận thông tin xác thực ngay lập tức. Gói dùng thử cung cấp cho bạn $0.50 trong bảy ngày, và bạn có thể nạp thêm bằng USDT hoặc USDC qua tiền điện tử. Giữ khóa của bạn an toàn và xác minh nó khớp với cài đặt tài khoản của bạn.

Đảm bảo môi trường của bạn hỗ trợ các yêu cầu HTTP tiêu chuẩn. Dịch vụ của chúng tôi chạy trên một mô hình uncensored duy nhất, vì vậy bạn không cần quản lý nhiều điểm cuối mô hình. Đặt base URL của bạn thành HTTPS://api.openaiapicompatibility.com/v1 trước khi thực hiện bất kỳ lệnh gọi nào. Điều này đảm bảo tất cả các yêu cầu được định tuyến chính xác đến các máy chủ suy luận đã được tinh chỉnh của chúng tôi.

Cài đặt SDK OpenAI Chính thức

Sử dụng các SDK chính thức để duy trì tương thích với các quy trình OpenAI hiện có. Thư viện Python và Node hoạt động trực tiếp với điểm cuối của chúng tôi vì chúng tôi tuân theo lược đồ API tiêu chuẩn. Cài đặt gói trong thư mục dự án của bạn bằng trình quản lý gói ưa thích của bạn. Cách tiếp cận này tránh nhu cầu về mã client HTTP tùy chỉnh.

Chúng tôi hỗ trợ các tham số tiêu chuẩn như temperature, top_p và chuỗi dừng. SDK xử lý tự động việc tuần tự hóa JSON và các tiêu đề yêu cầu. Bạn có thể thay đổi base URL trong cấu hình client để trỏ đến máy chủ của chúng tôi. Điều này cho phép bạn chuyển đổi giữa các nhà cung cấp mà không cần thay đổi logic ứng dụng.

Cấu hình URL cơ sở và Khóa API

Đặt URL cơ sở và khóa API trong đối tượng cấu hình client của bạn. URL cơ sở là HTTPS://api.openaiapicompatibility.com/v1. Truyền khóa API của bạn trong tiêu đề Authorization dưới dạng mã token Bearer. Cấu hình này đảm bảo các yêu cầu của bạn được xác thực và định tuyến đến dịch vụ chính xác.

Copycurl https://api.openaiapicompatibility.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all python packages for data science"}]
  }'

Xác minh kết nối bằng cách gọi endpoint GET /v1/models. Điều này trả về danh sách các mô hình khả dụng, bao gồm cả định danh mô hình uncensored. Sử dụng bước này để xác nhận quyền truy cập mạng và thông tin xác thực của bạn là chính xác trước khi gửi các yêu cầu phức tạp.

Yêu cầu Chat Completion Đầu tiên của Bạn

Gửi yêu cầu POST đến /v1/chat/completions với các tin nhắn prompt của bạn. Xác định mô hình là uncensored để truy cập công cụ suy luận không lọc. Bao gồm system prompt của bạn để đặt hành vi, và thêm các tin nhắn người dùng cho nội dung bạn muốn tạo.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapicompatibility.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Phản hồi chứa văn bản được tạo ra và thống kê sử dụng token. Bạn có thể điều chỉnh các tham số như nhiệt độ để kiểm soát độ sáng tạo. Mô hình không từ chối các chủ đề người lớn hợp pháp hoặc gây tranh cãi, khiến nó phù hợp cho nhiều trường hợp sử dụng khác nhau. Hãy kiểm tra đối tượng phản hồi để truy cập trường content nhằm lấy đầu ra.

Phản hồi luồng với SSE

Bật chế độ phát trực tiếp bằng cách đặt tham số stream thành true trong yêu cầu của bạn. Điều này gửi các phản hồi một phần dưới dạng sự kiện gửi qua máy chủ (SSE). Nó cải thiện trải nghiệm người dùng bằng cách hiển thị văn bản khi nó được tạo.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Mỗi khối chứa một phần delta của phản hồi. Tích lũy các phần delta này để tái tạo lại văn bản đầy đủ. Khối cuối cùng bao gồm tổng số mã thông báo sử dụng cho yêu cầu. Phương pháp này hoạt động với bất kỳ ứng dụng khách hoặc thư viện SSE tiêu chuẩn nào. Nó giảm độ trễ cảm nhận được đối với việc tạo nội dung dài.

Xử lý Chế độ JSON và Gọi Hàm

Sử dụng chế độ JSON bằng cách đặt response_format thành json_object. Điều này buộc mô hình xuất ra JSON hợp lệ thay vì văn bản tự do. Nó hữu ích cho việc trích xuất dữ liệu có cấu trúc hoặc phản hồi API. Kết hợp điều này với gọi hàm cho các kịch bản sử dụng công cụ.

Xác định công cụ của bạn trong mảng tools. Chỉ định tên hàm, mô tả và các tham số. Mô hình sẽ trả chi tiết lệnh gọi hàm trong phản hồi. Sau đó, bạn có thể thực thi hàm và gửi kết quả lại cho mô hình. Điều này cho phép các quy trình làm việc nhiều bước phức tạp với mô hình không kiểm duyệt.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapicompatibility.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);