เริ่มต้นอย่างรวดเร็ว API ที่เข้ากันได้กับ OpenAI

ข้อกำหนดเบื้องต้นและการตั้งค่าสภาพแวดล้อม

คุณจำเป็นต้องมีคีย์ API และ URL ฐานที่ถูกต้องเพื่อเชื่อมต่อไคลเอนต์ของคุณ สมัครสมาชิกด้วย Google หรืออีเมลที่หน้ารับคีย์ API เพื่อรับข้อมูลรับรองของคุณทันที การทดลองใช้ให้เครดิต $0.50 เป็นเวลาเจ็ดวัน และคุณสามารถเติมเงินด้วย USDT หรือ USDC ผ่านคริปโตเคอเรนซี เก็บคีย์ของคุณให้ปลอดภัยและตรวจสอบให้แน่ใจว่าตรงกับตั้งค่าบัญชีของคุณ

ตรวจสอบให้แน่ใจว่าสภาพแวดล้อมของคุณรองรับ HTTP requests มาตรฐาน บริการของเราทำงานบนโมเดล uncensored เดียว ดังนั้นคุณจึงไม่ต้องจัดการ endpoint ของโมเดลหลายตัว ตั้งค่า base URL เป็น HTTPS://api.openaiapicompatibility.com/v1 ก่อนทำการเรียกใช้ใดๆ เพื่อให้แน่ใจว่าทุก request จะถูกส่งไปยังเซิร์ฟเวอร์ inference ที่ปรับแต่งแล้วของเราอย่างถูกต้อง

การติดตั้ง SDK OpenAI ทางการ

ใช้ SDK ทางการเพื่อรักษาความเข้ากันได้กับเวิร์กโฟลว์ OpenAI ที่มีอยู่ ไลบรารี Python และ Node.js ทำงานโดยตรงกับเอนด์พอยต์ของเราเนื่องจากเราปฏิบัติตามแผนผัง API มาตรฐาน ติดตั้งแพ็กเกจในไดเรกทอรีโปรเจกต์ของคุณโดยใช้ตัวจัดการแพ็กเกจที่คุณชอบ วิธีนี้หลีกเลี่ยงความจำเป็นในการเขียนโค้ดไคลเอนต์ HTTP แบบกำหนดเอง

เราสนับสนุนพารามิเตอร์มาตรฐานเช่น temperature, top_p และ stop sequences SDK จะจัดการการแปลงเป็น JSON และหัวเรื่องคำขอโดยอัตโนมัติ คุณสามารถเปลี่ยน base URL ในการกำหนดค่าไคลเอนต์เพื่อชี้ไปยังเซิร์ฟเวอร์ของเรา ซึ่งช่วยให้คุณเปลี่ยนผู้ให้บริการได้โดยไม่ต้องเปลี่ยนตรรกะของแอปพลิเคชัน

กำลังกำหนดค่า URL พื้นฐานและคีย์ API

ตั้งค่า URL ฐานและคีย์ API ในวัตถุการกำหนดค่าไคลเอนต์ของคุณ URL ฐานคือ HTTPS://api.openaiapicompatibility.com/v1 ส่งคีย์ API ของคุณในส่วนหัว Authorization เป็นโทเค็น Bearer การกำหนดค่านี้ทำให้คำขอของคุณได้รับการยืนยันตัวตนและจัดเส้นทางไปยังบริการที่ถูกต้อง

Copycurl https://api.openaiapicompatibility.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all python packages for data science"}]
  }'

ตรวจสอบการเชื่อมต่อของคุณโดยเรียกใช้ GET /v1/models ซึ่งจะได้รายการโมเดลที่พร้อมใช้งาน รวมถึงรหัสโมเดล uncensored ใช้ขั้นตอนนี้เพื่อยืนยันว่าการเข้าถึงเครือข่ายและข้อมูลรับรองของคุณถูกต้อง ก่อนส่งคำขอที่ซับซ้อน

การขอ chat completion ครั้งแรกของคุณ

ส่งคำขอ POST ไปยัง /v1/chat/completions พร้อมข้อความ prompt ของคุณ กำหนดโมเดลเป็น uncensored เพื่อเข้าถึงเครื่องอนุมานที่ไม่มีการกรอง รวมคำสั่งระบบของคุณเพื่อตั้งค่าพฤติกรรม และเพิ่มข้อความผู้ใช้สำหรับเนื้อหาที่คุณต้องการสร้าง

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapicompatibility.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

การตอบสนองประกอบด้วยข้อความที่สร้างขึ้นมาและสถิติการใช้งานโทเค็น คุณสามารถปรับพารามิเตอร์เช่น temperature เพื่อควบคุมความคิดสร้างสรรค์ โมเดลจะไม่ปฏิเสธหัวข้อผู้ใหญ่ที่ถูกต้องตามกฎหมายหรือหัวข้อที่ถกเถียงกัน ทำให้เหมาะสำหรับกรณีการใช้งานที่หลากหลาย ตรวจสอบออบเจ็กต์การตอบสนองสำหรับฟิลด์ content เพื่อเข้าถึงเอาต์พุต

การตอบกลับแบบสตรีมมิ่งด้วย SSE

เปิดใช้งานการสตรีมโดยการตั้งค่าพารามิเตอร์ stream เป็น true ในคำขอของคุณ สิ่งนี้จะส่งคำตอบบางส่วนเป็น Server-Sent Events (SSE) ซึ่งปรับปรุงประสบการณ์ผู้ใช้โดยการแสดงข้อความเมื่อถูกสร้าง

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

แต่ละชิ้นส่วนประกอบด้วยข้อมูลย่อยของคำตอบ สะสมข้อมูลย่อยเหล่านี้เพื่อสร้างข้อความเต็ม ชิ้นส่วนสุดท้ายรวมถึงการใช้งานโทเค็นทั้งหมดสำหรับคำขอ วิธีการนี้ทำงานกับไคลเอนต์หรือไลบรารี SSE มาตรฐานใดๆ ช่วยลดเวลาแฝงที่รับรู้ได้สำหรับการสร้างเนื้อหาแบบยาว

Handling JSON Mode and Function Calling

ใช้โหมด JSON โดยตั้งค่า response_format เป็น json_object สิ่งนี้บังคับให้โมเดลส่งออก JSON ที่ถูกต้องแทนข้อความอิสระ มีประโยชน์สำหรับการแยกข้อมูลที่มีโครงสร้างหรือการตอบกลับ API ผสมผสานสิ่งนี้กับการเรียกใช้ฟังก์ชันสำหรับสถานการณ์การใช้งานเครื่องมือ

กำหนดเครื่องมือของคุณในอาร์เรย์ tools ระบุชื่อฟังก์ชัน คำอธิบาย และพารามิเตอร์ โมเดลจะส่งคืนรายละเอียดการเรียกใช้ฟังก์ชันในผลลัพธ์ จากนั้นคุณจึงสามารถเรียกใช้ฟังก์ชันและส่งผลลัพธ์กลับไปยังโมเดล สิ่งนี้เปิดใช้งานเวิร์กโฟลว์หลายขั้นตอนที่ซับซ้อนกับโมเดลแบบ uncensored

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapicompatibility.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);