Tài liệu API

Base URL và Xác thực

Kết nối với https://api.tokenllm.cc/v1 sử dụng khóa API độc nhất của bạn. URL cơ sở này hoạt động với bất kỳ SDK OpenAI chuẩn nào bằng cách đặt base_url biến. Bạn nhận được một khóa hoạt động cho mỗi tài khoản; tạo khóa mới sẽ thay thế khóa trước đó. Xác thực dựa trên Authorization: Bearer <key> header. Chúng tôi không theo dõi các gợi ý của bạn để huấn luyện, và bạn có thể đăng ký bằng Google hoặc email mà không cần số điện thoại. Lỗi và từ chối tiêu tốn không có token nào, vì vậy bạn chỉ trả tiền cho việc suy luận thực tế.

Điểm cuối Chat Completions

Gửi văn bản đến POST /v1/chat/completions để tạo phản hồi. Điểm cuối này xử lý các quy trình đầu vào văn bản, đầu ra văn bản với mô hình không kiểm duyệt của chúng tôi. Bạn không cần embedding hay tạo hình ảnh cho các tác vụ trò chuyện tiêu chuẩn. ID mô hình luôn là "uncensored". Các yêu cầu được xử lý trên máy chủ của chúng tôi, đảm bảo không có bộ lọc của bên thứ ba nào can thiệp vào đầu ra của bạn. Hãy giữ trọng tải yêu cầu dưới 8 MB để tránh các vấn đề cắt ngắn.

Tham số bắt buộc và tùy chọn

Bao gồm một messages mảng với lịch sử hội thoại của bạn. Đặt model đến "uncensored" để đảm bảo định tuyến chính xác. Bạn có thể điều chỉnh temperature để sáng tạo hoặc top_p cho sự đa dạng. Sử dụng max_tokens để giới hạn đầu ra ở mức 16.000 token, hoặc mặc định là 2.048. Cửa sổ ngữ cảnh hỗ trợ tổng cộng 100.000 token cho prompt và hoàn thành. Các tham số tùy chọn như seed và stop cho phép bạn kiểm soát chính xác quá trình tạo nội dung.

Phản hồi luồng qua SSE

Bật phát trực tiếp bằng cách đặt stream: true trong yêu cầu của bạn. API trả về các Sự kiện gửi từ máy chủ (SSE) để phân phối token theo thời gian thực. Mỗi chunk chứa văn bản từng phần, và chunk cuối cùng bao gồm thống kê sử dụng token tổng cộng. Cách tiếp cận này làm giảm độ trễ cảm nhận cho các phản hồi dài. Bạn có thể xử lý token khi chúng đến, điều này lý tưởng cho các giao diện trò chuyện. Streaming hoạt động với tất cả các tham số tiêu chuẩn.

Function Calling và chế độ JSON

Định nghĩa các công cụ trong tools tham số cho khả năng gọi hàm. Mô hình có thể xuất JSON có cấu trúc khi bạn đặt response_format để {"type": "json_object"}. Điều này đảm bảo việc phân tích cú pháp đáng tin cậy cho các ứng dụng ở tầng dưới. Bạn có thể chỉ định tool_choice để bắt buộc hoặc cho phép chọn tự động. Các tính năng này hoạt động trong cùng một mô hình không kiểm duyệt, vì vậy bạn không cần nhà cung cấp đầu ra có cấu trúc riêng.

Xử lý lỗi và Sử dụng token

Xử lý HTTP 401 cho khóa không hợp lệ và 429 cho giới hạn tốc độ. Bạn bị giới hạn 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời mỗi khóa. Nếu bạn nhận được 402, tiền nạp trước của bạn đã hết. Các từ chối do bộ lọc nội dung (như nội dung tình dục vị thành niên) không tính token. API không bao giờ hết hạn tiền của bạn, vì vậy bạn có thể nạp bất cứ lúc nào. Luôn kiểm tra thân phản hồi để biết thông báo lỗi chi tiết.

cURL

Copycurl https://api.tokenllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price of one llm token"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.tokenllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.tokenllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)