API-dokumentaatio

Perus-URL ja todennus

Yhdistä https://api.tokenllm.cc/v1 uniikilla API-avaimellasi. Tämä base URL toimii minkä tahansa standardin OpenAI-SDK:n kanssa asettamalla base_url muuttujaan. Saat yhden aktiivisen avun tilille; uuden avun luominen korvaa edellisen. Todennus perustuu Authorization: Bearer <key> header. Emme seuraa pyyntöjäsi koulutukseen, ja voit rekisteröityä Googlen tai sähköpostin kautta ilman puhelinnumeroa. Virheet ja kieltäytymiset eivät kuluta tokeneita, joten maksat vain todellisesta päättelystä.

Chat Completions -päätepiste

Lähetä teksti POST /v1/chat/completions tuottaa vastauksia. Tämä päätepiste käsittelee teksti-sisääntulo, teksti-ulostulo -työvuoroja meidän sensuroimattoman mallimme kanssa. Sinun ei tarvitse käyttää embeddingejä tai kuvagenerointia vakiotason keskustelutehtäviin. Mallin tunnus on aina "uncensored". Pyyntöjen käsittely tapahtuu omilla palvelimillamme, joten kolmannen osapuolen toimittajien suodattimet eivät vaikuta tulokseesi. Pidä pyyntösi alle 8 MB, jotta vältät katkeamisongelmat.

Vaaditut ja valinnaiset parametrit

Sisällytä yksinkertainen messages tietorakenteella keskusteluhistoriasi kanssa. Aseta model "uncensored" varmistaaksesi oikean reitityksen. Voit säätää temperature luovuuteen tai top_p monipuolisuuteen. Käytä max_tokens rajoittaaksesi lähtöä 16 000 tokeniin, tai oletusarvoisesti 2 048. Kontekstiikkuna tukee yhteensä 100 000 tokenia promptille ja valmistumiselle. Valinnaiset parametrit kuten seed ja stop antavat sinulle tarkan hallinnan generointiin.

Streamausvastaukset SSE:n kautta

Ota streamaus käyttöön asettamalla stream: true pyynnössäsi. API palauttaa palvelimen lähettämiä tapahtumia (SSE) reaaliaikaiseen tokenitoimitukseen. Jokainen palanen sisältää osittaista tekstiä, ja viimeinen palanen sisältää kokonaistokenkäyttötilastot. Tämä lähestymistapa vähentää koettua viivettä pitkissä vastauksissa. Voit käsitellä tokenia niiden saapuessa, mikä on ihanteellista keskusteluliittymiin. Streamaus toimii kaikkien standardien parametrien kanssa.

Funktikutsut ja JSON-tila

Määritä työkalut tools parametri toimintokutsukapasiteetteihin. Malli voi tuottaa rakenteellisen JSON-tiedon, kun asetat response_format vastaan {"type": "json_object"}. Tämä varmistaa luotettavan jäsentämisen jälkikäsitteleviä sovelluksia varten. Voit määrittää tool_choice pakottaa tai sallia automaattisen valinnan. Nämä ominaisuudet toimivat saman uncensored-mallin sisällä, joten sinun ei tarvitse erillistä rakenteellisen tuloksen tarjoajaa.

Virheenkäsittely ja tokenkäyttö

Käsittele HTTP 401-virhe virheellisistä avaimista ja 429-virhe nopeusrajoituksista. Nopeusraja on 300 pyyntöä minuutissa ja 8 samanaikaista pyyntöä avainta kohti. Jos saat 402-virheen, esimaksusaltoni on loppu. Sisältösuodattimista johtuvat hylkäykset (kuten alaikäisen seksuaalinen sisältö) eivät veloita tokenia. API ei vanhenna saldoasi, joten voit täydentää sen milloin tahansa. Tarkista aina vastauksen runko yksityiskohtaisten virheviestien saamiseksi.

cURL

Copycurl https://api.tokenllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price of one llm token"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.tokenllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.tokenllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)