เอกสาร API

URL ฐานและการตรวจสอบสิทธิ์

เชื่อมต่อไปยัง https://api.tokenllm.cc/v1 ใช้คีย์ API เฉพาะของคุณ base URL นี้ทำงานกับ SDK มาตรฐานของ OpenAI ใดๆ โดยการตั้งค่า base_url ตัวแปร คุณได้รับคีย์ที่ใช้งานหนึ่งคีย์ต่อบัญชี การสร้างคีย์ใหม่จะแทนที่คีย์ก่อนหน้า การตรวจสอบสิทธิ์อาศัย Authorization: Bearer <key> header. เราไม่ติดตามคำขอของคุณเพื่อใช้ในการฝึกโมเดล คุณสามารถสมัครสมาชิกด้วย Google หรืออีเมลได้โดยไม่ต้องใช้หมายเลขโทรศัพท์ ข้อผิดพลาดและการปฏิเสธไม่ใช้โทเค็น ดังนั้นคุณจึงจ่ายเฉพาะสำหรับการประมวลผลจริงเท่านั้น

Chat Completions Endpoint

ส่งข้อความไปยัง POST /v1/chat/completions เพื่อสร้างการตอบกลับ เอนด์พอยต์นี้จัดการเวิร์กโฟลว์แบบข้อความเข้า-ข้อความออกด้วยโมเดล uncensored ของเรา คุณไม่จำเป็นต้องใช้ embeddings หรือการสร้างภาพสำหรับงานแชทมาตรฐาน รหัสโมเดลคือ "uncensored" เสมอ คำขอจะถูกประมวลผลบนเซิร์ฟเวอร์ของเราเอง ซึ่งรับประกันว่าจะไม่มีผู้ขายบุคคลที่สามกรองการตอบกลับของคุณ เก็บ payload ไว้ต่ำกว่า 8 MB เพื่อหลีกเลี่ยงปัญหาการตัดทอน

พารามิเตอร์จำเป็นและตัวเลือก

รวม messages อาร์เรย์พร้อมประวัติการสนทนาของคุณ ตั้งค่า model to "uncensored" to ensure correct routing. You can adjust temperature สำหรับความคิดสร้างสรรค์หรือ top_p สำหรับความหลากหลาย ใช้ max_tokens เพื่อจำกัดผลลัพธ์ที่ 16,000 โทเค็น หรือค่าเริ่มต้นที่ 2,048 หน้าต่างบริบทรองรับ 100,000 โทเค็นรวมสำหรับพรอมต์และการเสร็จสิ้น พารามิเตอร์เสริมเช่น seed และ stop ให้คุณควบคุมการสร้างข้อความได้อย่างแม่นยำ

การตอบกลับแบบสตรีมมิ่งผ่าน SSE

เปิดใช้งานการสตรีมโดยตั้งค่า stream: true ในการร้องขอของคุณ API ส่งคืนเหตุการณ์ที่ส่งโดยเซิร์ฟเวอร์ (SSE) สำหรับการส่งโทเค็นแบบเรียลไทม์ แต่ละชิ้นมีข้อความบางส่วน และชิ้นสุดท้ายรวมถึงสถิติการใช้งานโทเค็นรวม วิธีนี้ช่วยลดความล่าช้าที่รับรู้ได้สำหรับคำตอบยาว คุณสามารถประมวลผลโทเค็นเมื่อมาถึง ซึ่งเหมาะสำหรับส่วนติดต่อแชท การสตรีมทำงานกับพารามิเตอร์มาตรฐานทั้งหมด

Function Calling และโหมด JSON

กำหนดเครื่องมือใน tools พารามิเตอร์นี้สำหรับความสามารถในการเรียกใช้ฟังก์ชัน โมเดลสามารถส่งออก JSON ที่มีโครงสร้างเมื่อคุณตั้งค่า response_format เพื่อ {"type": "json_object"}. เพื่อให้แน่ใจว่าการแยกวิเคราะห์ที่เชื่อถือได้สำหรับแอปพลิเคชันต่อๆ ไป คุณสามารถระบุ tool_choice เพื่อบังคับหรืออนุญาตให้มีการเลือกอัตโนมัติ ฟีเจอร์เหล่านี้ทำงานภายในโมเดล uncensored เดียวกัน ดังนั้นคุณจึงไม่ต้องใช้ผู้ให้บริการเอาต์พุตที่มีโครงสร้างแยกต่างหาก

การจัดการข้อผิดพลาดและการใช้งานโทเค็น

จัดการ HTTP 401 สำหรับคีย์ที่ไม่ถูกต้อง และ 429 สำหรับข้อจำกัดอัตราการใช้งาน คุณจำกัดอยู่ที่ 300 คำขอต่อนาที และ 8 คำขอพร้อมกันต่อคีย์ หากคุณได้รับ 402 เครดิตพรีเพดของคุณหมดแล้ว การปฏิเสธเนื่องจากตัวกรองเนื้อหา (เช่น เนื้อหาทางเพศที่เกี่ยวข้องกับเด็ก) ไม่คิดค่าใช้จ่าย tokens API ไม่ทำให้เครดิตของคุณหมดอายุ ดังนั้นคุณสามารถเติมได้ตลอดเวลา ตรวจสอบ body ของการตอบกลับเสมอสำหรับข้อความข้อผิดพลาดโดยละเอียด

cURL

Copycurl https://api.tokenllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price of one llm token"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.tokenllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.tokenllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

การสตรีม

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)