Dokumentace API

Základní URL a ověření

Připojit k https://api.tokenllm.cc/v1 pomocí vašeho unikátního API klíče. Tato základní URL funguje s jakýmkoli standardním SDK pro OpenAI nastavením base_url proměnnou. Na účet máte jeden aktivní klíč; vygenerování nového klíče nahrazuje ten předchozí. Autentizace se opírá o Authorization: Bearer <key> hlavička. Nepoužíváme vaše dotazy pro trénování a můžete se zaregistrovat přes Google nebo e-mail bez telefonního čísla. Chyby a odepření odpovědi nespotřebují žádné tokeny, takže platíte pouze za skutečné zpracování.

Koncový bod Chat Completions

Odeslat text na POST /v1/chat/completions generovat odpovědi. Tento endpoint zpracovává pracovní postupy text-v-text s naším modelem bez omezení obsahu. Pro běžné chatové úlohy nepotřebujete vložení ani generování obrázků. ID modelu je vždy "uncensored". Žádosti jsou zpracovávány na našich vlastních serverech, což zajišťuje, že žádný třetí subjekt nefiltruje váš výstup. Udržujte svou payload pod 8 MB, abyste předešli problémům se zkracováním.

Požadované a volitelné parametry

Zahrnout jednoduchou messages pole s historií vaší konverzace. Nastavte model na "uncensored" pro zajištění správného směrování. Můžete upravit temperature pro kreativitu nebo top_p pro rozmanitost. Použijte max_tokens k omezení výstupu na 16 000 tokenů, nebo výchozí hodnotu 2 048. Okno kontextu podporuje celkem 100 000 tokenů pro prompt a dokončení. Volitelné parametry jako seed a stop poskytují vám přesnou kontrolu nad generováním.

Streamované odpovědi přes SSE

Povolte streamování nastavením stream: true ve vaší žádosti. API vrací Server-Sent Events (SSE) pro reálné doručování tokenů. Každý blok obsahuje částečný text a poslední blok zahrnuje statistiky celkového využití tokenů. Tento přístup snižuje vnímanou latenci u dlouhých odpovědí. Tokeny můžete zpracovávat, jak přicházejí, což je ideální pro chatová rozhraní. Streamování funguje se všemi standardními parametry.

Volání funkcí a režim JSON

Definujte nástroje v tools parameter pro volání funkcí. Model může výstupovat strukturovaný JSON, když nastavíte response_format na {"type": "json_object"}. To zajišťuje spolehlivé parsování pro downstreamové aplikace. Můžete specifikovat tool_choice abyste vynutili nebo povolili automatický výběr. Tyto funkce fungují v rámci stejného modelu bez omezení, takže nepotřebujete samostatného poskytovatele strukturovaného výstupu.

Zpracování chyb a využití tokenů

Zvládněte HTTP 401 pro neplatné klíče a 429 pro omezení rychlosti. Jste omezeni na 300 požadavků za minutu a 8 souběžných požadavků na klíč. Pokud dostanete 402, je vyčerpán váš předplacený kredit. Odmítnutí kvůli filtrům obsahu (např. sexuální obsah s nezletilými) neúčtují tokeny. API nikdy nevyprší váš kredit, takže si můžete kdykoli dobít. Vždy kontrolujte tělo odpovědi pro podrobné zprávy o chybách.

cURL

Copycurl https://api.tokenllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price of one llm token"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.tokenllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.tokenllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamování

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)