API-Dokumentation

Basis-URL und Authentifizierung

Verbinden Sie sich mit https://api.tokenllm.cc/v1 mit Ihrem eindeutigen API-Schlüssel. Diese base_url funktioniert mit jedem Standard-OpenAI-SDK, indem Sie die base_url Variable. Sie erhalten einen aktiven Schlüssel pro Konto; die Generierung eines neuen Schlüssels ersetzt den vorherigen. Die Authentifizierung basiert auf dem Authorization: Bearer <key> header. Wir verfolgen Ihre Prompts nicht zum Training, und Sie können sich mit Google oder E-Mail ohne Telefonnummer anmelden. Fehler und Ablehnungen verbrauchen null Tokens, sodass Sie nur für tatsächliche Inferenz bezahlen.

Der Chat-Completions-Endpunkt

Text senden an POST /v1/chat/completions Antworten zu generieren. Dieser Endpunkt verarbeitet Text-in-zu-Text-out-Workflows mit unserem unzensierten Modell. Für Standard-Chat-Aufgaben benötigen Sie keine Embeddings oder Bildgenerierung. Die Modell-ID ist immer „uncensored“. Anfragen werden auf unseren eigenen Servern verarbeitet, was sicherstellt, dass keine Drittanbieter-Filter Ihre Ausgabe filtern. Halten Sie Ihr Payload unter 8 MB, um Truncation-Probleme zu vermeiden.

Erforderliche und optionale Parameter

Schließen Sie eine messages array mit Ihrem Gesprächsverlauf festlegen. Setzen Sie model zu "uncensored", um korrektes Routing zu gewährleisten. Sie können temperature für Kreativität oder top_p für Vielfalt. Verwenden max_tokens um die Ausgabe auf 16.000 Token zu begrenzen oder standardmäßig auf 2.048 zurückzufallen. Das Kontextfenster unterstützt insgesamt 100.000 Token für Prompt und Vervollständigung. Optionale Parameter wie seed und stop gewähren Ihnen präzise Kontrolle über die Generierung.

Streaming-Antworten über SSE

Aktivieren Sie Streaming, indem Sie stream: true in Ihrer Anfrage. Die API gibt Server-Sent Events (SSE) für die Echtzeit-Token-Lieferung zurück. Jeder Chunk enthält partiellen Text, und der letzte Chunk enthält die gesamten Token-Nutzungsstatistiken. Dieser Ansatz reduziert die wahrgenommene Latenz für lange Antworten. Sie können Tokens verarbeiten, während sie eintreffen, was ideal für Chat-Schnittstellen ist. Streaming funktioniert mit allen Standardparametern.

Function Calling und JSON-Modus

Definieren Sie Tools in der tools Parameter für Function-Calling-Fähigkeiten fest. Das Modell kann strukturiertes JSON ausgeben, wenn Sie response_format zu {"type": "json_object"}. Dies gewährleistet ein zuverlässiges Parsing für nachgelagerte Anwendungen. Sie können tool_choice die automatische Auswahl zu erzwingen oder zuzulassen. Diese Funktionen funktionieren innerhalb desselben uncensored-Modells, sodass Sie keinen separaten Anbieter für strukturierte Ausgaben benötigen.

Fehlerbehandlung und Token-Nutzung

Behandeln Sie HTTP 401 für ungültige Schlüssel und 429 für Ratenbegrenzungen. Sie sind auf 300 Anfragen pro Minute und 8 gleichzeitige Anfragen pro Schlüssel beschränkt. Wenn Sie einen 402 erhalten, ist Ihr vorausbezahltes Guthaben erschöpft. Ablehnungen aufgrund von Inhaltsfiltern (wie sexuelle Inhalte mit Minderjährigen) berechnen keine Tokens. Das API verfällt nie Ihr Guthaben, sodass Sie jederzeit nachladen können. Prüfen Sie immer den Antwortkörper auf detaillierte Fehlermeldungen.

cURL

Copycurl https://api.tokenllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price of one llm token"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.tokenllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.tokenllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)