What is the base URL for the API?

Use HTTPS://api.tokenllm.cc/v1 as your base URL. It is fully compatible with standard OpenAI SDK configurations. You only need to update the base_url variable in your client setup.

How do I handle rate limits?

You are allowed 300 requests per minute and 8 concurrent requests per key. If you exceed these limits, you will receive a 429 status code. Implement exponential backoff in your code to handle retries gracefully.

Do I need to set the model ID?

Yes, always set the model parameter to "uncensored". This ensures your request goes to the correct model on our servers. The endpoint expects this specific ID for proper routing and inference.

API-dokumentation: Endpoints, Parameters, and Examples

Bas URL och autentisering

Anslut till https://api.tokenllm.cc/v1 med din unika API-nyckel. Denna base URL fungerar med alla standard OpenAI SDK:er genom att ställa in base_url variabel. Du får en aktiv nyckel per konto; att generera en ny nyckel ersätter den tidigare. Autentisering förlitar sig på Authorization: Bearer <key> header. Vi spårar inte dina prompter för träning, och du kan registrera dig med Google eller e-post utan telefonnummer. Fel och avslag förbrukar noll tokens, så du betalar endast för faktisk inferens.

Chatkompletteringsendpointen

Skicka text till POST /v1/chat/completions att generera svar. Denna slutpunkt hanterar text-in-till-text-ut-arbetsflöden med vår icke-censurerade modell. Du behöver inga embeddingar eller bildgenerering för vanliga chattuppgifter. Modell-ID:t är alltid "uncensored". Begäranden bearbetas på våra egna servrar, vilket säkerställer att inga tredjepartsleverantörer filtrerar dina utdata. Håll din payload under 8 MB för att undvika trunkeringsproblem.

Obligatoriska och valfria parametrar

Inkludera en messages array med din konversationshistorik. Ställ in model till "uncensored" för att säkerställa korrekt routning. Du kan justera temperature för kreativitet eller top_p för mångfald. Använd max_tokens för att begränsa utdata till 16 000 tokens, eller standard till 2 048. Kontextfönstret stöder totalt 100 000 tokens för prompt och komplettering. Valfria parametrar som seed och stop ger dig exakt kontroll över genereringen.

Strömningsresponser via SSE

Aktivera strömning genom att ställa in stream: true i ditt begäran. API:t returnerar Server-Sent Events (SSE) för realtidsleverans av tokens. Varje chunk innehåller delvis text, och den sista chunken innehåller total tokenanvändningsstatistik. Detta tillvägagångssätt minskar den upplevda latensen för långa svar. Du kan bearbeta tokens när de anländer, vilket är idealiskt för chattgränssnitt. Strömning fungerar med alla standardparametrar.

Funktionsanrop och JSON-läge

Definiera verktyg i tools parametern för funktionssammanfallande funktioner. Modellen kan returnera strukturerad JSON när du ställer in response_format för {"type": "json_object"}. Detta säkerställer pålitlig parsing för efterföljande applikationer. Du kan specificera tool_choice för att tvinga eller tillåta automatisk val. Dessa funktioner fungerar inom samma obegränsade modell, så du behöver inte en separat leverantör för strukturerad utdata.

Felfhantering och tokenanvändning

Hantera HTTP 401 för ogiltiga nycklar och 429 för hastighetsbegränsningar. Du är begränsad till 300 förfrågningar per minut och 8 parallella förfrågningar per nyckel. Om du får ett 402-fel är ditt förbetalda kredit slut. Avslag på grund av innehållsfilter (som minderårigt sexuellt innehåll) kostar inte tokens. API:et löper aldrig ut ditt kredit, så du kan ladda upp när som helst. Kontrollera alltid svarskroppen för detaljerade felmeddelanden.

cURL

curl https://api.tokenllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price of one llm token"}]
  }'

Python

from openai import OpenAI

client = OpenAI(base_url="https://api.tokenllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.tokenllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strömning

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

API-dokumentation