Documentazione API

URL Base e Autenticazione

Connettiti a https://api.tokenllm.cc/v1 utilizzando la tua chiave API univoca. Questo URL di base funziona con qualsiasi SDK standard OpenAI impostando il base_url variabile. Ricevi una chiave attiva per account; generare una nuova chiave sostituisce quella precedente. L'autenticazione si basa sull' Authorization: Bearer <key> header. Non tracciamo i tuoi prompt per l'addestramento e puoi registrarti con Google o email senza numero di telefono. Errori e rifiuti consumano zero token, quindi paghi solo per l'inferenza effettiva.

L'endpoint Chat Completions

Invia testo a POST /v1/chat/completions per generare le risposte. Questo endpoint gestisce flussi di lavoro text-in, text-out con il nostro modello uncensored. Non sono necessarie embeddings o generazione di immagini per le attività di chat standard. L'ID del modello è sempre "uncensored". Le richieste vengono elaborate sui nostri server, garantendo che nessun fornitore di terze parti filtri l'output. Mantieni il payload sotto gli 8 MB per evitare problemi di troncamento.

Parametri obbligatori e facoltativi

Includi un messages array con la cronologia della tua conversazione. Imposta model a "uncensored" per garantire un corretto instradamento. Puoi regolare temperature per la creatività o top_p per la diversità. Usa max_tokens per limitare l'output a 16.000 token, o impostare il default a 2.048. La finestra di contesto supporta un totale di 100.000 token per prompt e completamento. I parametri opzionali come seed e stop ti offrono un controllo preciso sulla generazione.

Risposte in streaming tramite SSE

Abilita lo streaming impostando stream: true nella tua richiesta. L'API restituisce Server-Sent Events (SSE) per la consegna dei token in tempo reale. Ogni chunk contiene testo parziale e l'ultimo chunk include le statistiche totali sull'utilizzo dei token. Questo approccio riduce la latenza percepita per le risposte lunghe. Puoi elaborare i token man mano che arrivano, il che è ideale per le interfacce chat. Lo streaming funziona con tutti i parametri standard.

Function Calling e modalità JSON

Definisci gli strumenti nel tools il parametro per le funzionalità di function calling. Il modello può generare JSON strutturato quando imposti response_format a {"type": "json_object"}. Questo garantisce un parsing affidabile per le applicazioni a valle. Puoi specificare tool_choice per forzare o consentire la selezione automatica. Queste funzionalità funzionano all'interno dello stesso modello uncensored, quindi non hai bisogno di un provider di output strutturato separato.

Gestione degli errori e utilizzo token

Gestisci l'HTTP 401 per chiavi non valide e il 429 per i limiti di frequenza. Sei limitato a 300 richieste al minuto e 8 richieste concorrenti per chiave. Se ricevi un 402, il tuo credito prepagato è esaurito. I rifiuti dovuti ai filtri del contenuto (come i contenuti sessuali minori) non addebitano token. L'API non fa mai scadere il tuo credito, quindi puoi ricaricare in qualsiasi momento. Controlla sempre il corpo della risposta per messaggi di errore dettagliati.

cURL

Copycurl https://api.tokenllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price of one llm token"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.tokenllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.tokenllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)