Документация API

Базовый URL и аутентификация

Подключиться к https://api.tokenllm.cc/v1 с использованием вашего уникального API-ключа. Этот base URL работает с любым стандартным SDK OpenAI путем установки base_url переменная. Вы получаете один активный ключ на аккаунт; генерация нового ключа заменяет предыдущий. Аутентификация основана на Authorization: Bearer <key> header. Мы не отслеживаем ваши промпты для обучения, и вы можете зарегистрироваться через Google или email без номера телефона. Ошибки и отказы потребляют нулевое количество токенов, поэтому вы платите только за фактические вычисления.

Эндпоинт Chat Completions

Отправить текст в POST /v1/chat/completions для генерации ответов. Этот эндпоинт обрабатывает рабочие процессы «текст-вход, текст-выход» с нашей uncensored-моделью. Для стандартных задач чата вам не нужны эмбеддинги или генерация изображений. Идентификатор модели всегда «uncensored». Запросы обрабатываются на наших собственных серверах, что гарантирует отсутствие фильтрации вывода сторонними поставщиками. Держите размер полезной нагрузки до 8 МБ, чтобы избежать проблем с усечением.

Обязательные и необязательные параметры

Включите messages массив с историей вашего разговора. Установите model to "uncensored" to ensure correct routing. You can adjust temperature для творчества или top_p для разнообразия. Используйте max_tokens чтобы ограничить вывод 16 000 токенами или использовать значение по умолчанию 2 048. Окно контекста поддерживает 100 000 токенов всего для промпта и завершения. Дополнительные параметры, такие как seed и stop предоставляют вам точный контроль над генерацией.

Потоковые ответы через SSE

Включите потоковую передачу, установив stream: true в вашем запросе. API возвращает Server-Sent Events (SSE) для доставки токенов в реальном времени. Каждый чанк содержит частичный текст, а последний чанк включает статистику общего использования токенов. Этот подход снижает воспринимаемую задержку для длинных ответов. Вы можете обрабатывать токены по мере их поступления, что идеально для чат-интерфейсов. Потоковая передача работает со всеми стандартными параметрами.

Function Calling и режим JSON

Определите инструменты в tools параметр для возможностей вызова функций. Модель может выводить структурированный JSON, если вы установите response_format для {"type": "json_object"}. Это обеспечивает надежное разделение для приложений последующей обработки. Вы можете указать tool_choice чтобы принудительно или разрешить автоматический выбор. Эти функции работают в рамках той же uncensored-модели, поэтому вам не нужен отдельный поставщик структурированного вывода.

Обработка ошибок и использование токенов

Обрабатывайте HTTP 401 для недействительных ключей и 429 для лимитов. Лимит составляет 300 запросов в минуту и 8 одновременных запросов на ключ. Если вы получаете 402, ваш предоплаченный кредит исчерпан. Отказы из-за фильтров контента (например, сексуальный контент с участием несовершеннолетних) не списывают токены. API никогда не истекает ваш кредит, поэтому вы можете пополнить его в любое время. Всегда проверяйте тело ответа на наличие подробных сообщений об ошибках.

cURL

Copycurl https://api.tokenllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price of one llm token"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.tokenllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.tokenllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потоковая передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)