Dokumentasi API

URL Asas dan Pengesahan

Sambungkan ke https://api.tokenllm.cc/v1 menggunakan kunci API unik anda. URL asas ini berfungsi dengan mana-mana SDK OpenAI piawai dengan menetapkan base_url pemboleh ubah. Anda menerima satu kunci aktif per akaun; menjana kunci baharu menggantikan yang sebelumnya. Pengesahan bergantung pada Authorization: Bearer <key> header. Kami tidak menjejak prompt anda untuk latihan, dan anda boleh mendaftar dengan Google atau e-mel tanpa nombor telefon. Ralat dan penolakan menelan sifar token, jadi anda hanya membayar untuk inferens sebenar.

Penamat Chat Completions

Hantar teks ke POST /v1/chat/completions untuk menjana respons. Hujung ini mengendalikan aliran kerja teks-masuk, teks-keluar dengan model tanpa penapis kami. Anda tidak memerlukan enkode atau penjanaan imej untuk tugas semakan piawai. ID model sentiasa "uncensored". Permintaan diproses di pelayan kami sendiri, memastikan tiada vendor pihak ketiga menapis output anda. Kekalkan muatan anda di bawah 8 MB untuk mengelakkan isu pemotongan.

Parameter Diperlukan dan Pilihan

Termasuk sebuah messages array with your conversation history. Set model to "uncensored" to ensure correct routing. You can adjust temperature untuk kreativiti atau top_p untuk kepelbagaian. Gunakan max_tokens untuk menafikan output pada 16,000 token, atau lalai kepada 2,048. Tetingkap konteks menyokong 100,000 token jumlah untuk prompt dan penyelesaian. Parameter pilihan seperti seed dan stop memberikan anda kawalan tepat ke atas penjanaan.

Respons Streaming Melalui SSE

Aktifkan aliran dengan menetapkan stream: true dalam permintaan anda. API mengembalikan Acara Dihantar Pelayan (SSE) untuk penghantaran token masa nyata. Setiap potongan mengandungi teks separa, dan potongan akhir termasuk statistik penggunaan token jumlah. Pendekatan ini mengurangkan latensi yang dirasakan untuk respons yang panjang. Anda boleh memproses token semasa ia tiba, yang sangat sesuai untuk antara muka sembang. Aliran berfungsi dengan semua parameter standard.

Panggilan Fungsi dan Mod JSON

Takrifkan alat dalam tools parameter untuk keupayaan panggilan fungsi. Model boleh output JSON terstruktur apabila anda set response_format ke {"type": "json_object"}. Ini memastikan penguraian yang boleh dipercayai untuk aplikasi downstream. Anda boleh menentukan tool_choice untuk memaksa atau membolehkan pemilihan automatik. Ciri-ciri ini berfungsi dalam model tanpa sensor yang sama, jadi anda tidak memerlukan penyedia output berstruktur yang berasingan.

Pengendalian Ralat dan Penggunaan Token

Tangani HTTP 401 untuk kunci tidak sah dan 429 untuk had kadar. Anda terhad kepada 300 permintaan setiap minit dan 8 permintaan serentak setiap kunci. Jika anda mendapat 402, kredit pra-bayar anda telah habis. Penolakan disebabkan oleh penapis kandungan (seperti kandungan seksual melibatkan kanak-kanak) tidak mengenakan caj token. API tidak pernah luput kredit anda, jadi anda boleh menambah pada bila-bila masa. Sentiasa semak badan respons untuk mesej ralat terperinci.

cURL

Copycurl https://api.tokenllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price of one llm token"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.tokenllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.tokenllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)