API Dokumentation

Base URL og autentificering

Forbind til https://api.tokenllm.cc/v1 ved hjælp af din unikke API-nøgle. Denne base URL fungerer med ethvert standard OpenAI SDK ved at indstille base_url variabel. Du modtager én aktiv nøgle pr. konto; generering af en ny nøgle erstatter den forrige. Autentificering afhænger af Authorization: Bearer <key> header. Vi sporer ikke dine prompts til træning, og du kan tilmelde dig med Google eller e-mail uden telefonnummer. Fejl og afvisninger forbruger nul tokens, så du betaler kun for faktisk inference.

Chat Completions-endepunktet

Send tekst til POST /v1/chat/completions til at generere svar. Denne endpoint håndterer text-in, text-out-arbejdsgange med vores uncensored-model. Du behøver ikke embeddings eller billedegenerering til standard chat-opgaver. Model-ID'et er altid "uncensored". Forespørgsler behandles på vores egne servere, hvilket sikrer, at ingen tredjepartsudbyder filtrerer dit output. Hold din payload under 8 MB for at undgå truncation-problemer.

Påkrævede og valgfrie parametre

Inkluder en messages array med din samtalehistorik. Indstil model til "uncensored" for at sikre korrekt routing. Du kan justere temperature til kreativitet eller top_p til diversitet. Brug max_tokens til at caps output til 16.000 tokens, eller standard til 2.048. Context-vinduet understøtter 100.000 tokens i alt til prompt og completion. Valgfrie parametre som seed og stop giver dig præcis kontrol over genereringen.

Streaming-svar via SSE

Aktivér streaming ved at indstille stream: true i din anmodning. API'et returnerer Server-Send Events (SSE) til realtidslevering af tokens. Hver chunk indeholder delvis tekst, og den sidste chunk indeholder statistikker over det samlede tokenforbrug. Denne tilgang reducerer den opfattede latens for lange svar. Du kan behandle tokens, mens de ankommer, hvilket er ideelt til chatgrænseflader. Streaming virker med alle standardparametre.

Function Calling og JSON-tilstand

Definer værktøjer i tools parameter til funktionssamtale-funktioner. Modellen kan outputte struktureret JSON, når du indstiller response_format til {"type": "json_object"}. Dette sikrer pålidelig parsing til downstream-applikationer. Du kan angive tool_choice for at tvinge eller tillade automatisk valg. Disse funktioner fungerer inden for den samme ubegrænsede model, så du ikke har brug for en separat udbyder af struktureret output.

Fejlhåndtering og tokenforbrug

Håndter HTTP 401 for ugyldige nøgler og 429 for hastighedsbegrænsninger. Du er begrænset til 300 anmodninger i minuttet og 8 samtidige anmodninger pr. nøgle. Hvis du får en 402, er din forudbetalte kredit opbrugt. Afvisninger på grund af indholdsfiltere (som seksuelt indhold med mindreårige) koster ikke tokens. API'et udløber aldrig din kredit, så du kan toppede op når som helst. Tjek altid responskroppen for detaljerede fejlmeddelelser.

cURL

Copycurl https://api.tokenllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price of one llm token"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.tokenllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.tokenllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)