Documentație API

URL de bază și autentificare

Conectați-vă la https://api.tokenllm.cc/v1 utilizând cheia ta unică API. Acest base URL funcționează cu orice SDK standard OpenAI prin setarea base_url variabilă. Primești o cheie activă per cont; generarea unei noi chei înlocuiește cea anterioară. Autentificarea se bazează pe Authorization: Bearer <key> header. Nu urmărim prompt-urile tale pentru antrenament, iar te poți înregistra prin Google sau email fără număr de telefon. Erorile și refuzurile consumă zero token-uri, așa că plătești doar pentru inferența reală.

Endpoint-ul Chat Completări

Trimite text către POST /v1/chat/completions generarea răspunsurilor. Acest endpoint gestionează fluxurile de lucru text-in, text-out cu modelul nostru fără filtre. Nu ai nevoie de embeddings sau generare de imagini pentru sarcinile standard de chat. ID-ul modelului este întotdeauna "uncensored". Solicitărilor li se procesează pe serverele noastre, asigurând că niciun furnizor terț nu filtrează ieșirea ta. Menține payload-ul sub 8 MB pentru a evita problemele de trunchiere.

Parametrii necesari și opționali

Includeți un messages array cu istoricul conversației tale. Setează model că "uncensored" pentru a asigura rutarea corectă. Puteți ajusta temperature pentru creativitate sau top_p pentru diversitate. Folosește max_tokens pentru a limita outputul la 16.000 de tokeni, sau implicit la 2.048. Fereastra de context suportă un total de 100.000 de tokeni pentru prompt și completarea. Parametrii opționali precum seed și stop îți oferă un control precis asupra generării.

Răspunsuri în streaming prin SSE

Activați streaming-ul setând stream: true în cererea dumneavoastră. API-ul returnează Evenimente trimise de server (SSE) pentru livrarea tokenilor în timp real. Fiecare fragment conține text parțial, iar fragmentul final include statistici de utilizare totală a tokenilor. Această abordare reduce latența percepută pentru răspunsuri lungi. Puteți procesa tokenii pe măsură ce ajung, ceea ce este ideal pentru interfețele de chat. Streaming-ul funcționează cu toți parametrii standard.

Apelarea funcțiilor și modul JSON

Definește instrumente în tools parametrul pentru capabilitățile de apelare a funcțiilor. Modelul poate genera JSON structurat când setați response_format pentru {"type": "json_object"}. Acest lucru asigură o analiză fiabilă pentru aplicațiile downstream. Puteți specifica tool_choice pentru a forța sau a permite selecția automată. Aceste funcții funcționează în cadrul aceluiași model uncensored, astfel încât nu aveți nevoie de un furnizor separat de output structurat.

Gestionarea erorilor și utilizarea tokenilor

Gestionați HTTP 401 pentru cheile invalide și 429 pentru limitele de rată. Sunteți limitat la 300 de cereri pe minut și 8 cereri concurente per cheie. Dacă primiți 402, creditul preplătit este epuizat. Refuzurile din cauza filtrelor de conținut (precum conținutul sexual cu minori) nu încarcă tokeni. API-ul nu vă expiră niciodată creditul, așa că puteți reîncărca oricând. Verificați întotdeauna corpul răspunsului pentru mesaje de eroare detaliate.

cURL

Copycurl https://api.tokenllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price of one llm token"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.tokenllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.tokenllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)