API दस्तावेज़ीकरण

बेस URL और प्रमाणीकरण

से कनेक्ट करें https://api.tokenllm.cc/v1 अपनी अद्वितीय API कुंजी का उपयोग करके। यह बेस यूआरएल किसी भी मानक OpenAI SDK के साथ काम करता है सेटिंग base_url वेरिएबल। आपके खाते के लिए एक सक्रिय कुंजी मिलती है; एक नई कुंजी जनरेट करने से पिछली कुंजी बदल जाती है। प्रमाणीकरण पर निर्भर करता है Authorization: Bearer <key> हेडर। हम आपके प्रॉम्प्ट्स को ट्रेनिंग के लिए ट्रैक नहीं करते, और आप बिना फोन नंबर के Google या ईमेल से साइनअप कर सकते हैं। त्रुटियां और रिफ्यूजल्स शून्य टोकन खर्च करते हैं, इसलिए आप केवल वास्तविक इनफरेंस के लिए भुगतान करते हैं।

चैट कंप्लीशंस एंडपॉइंट

पाठ भेजें POST /v1/chat/completions प्रतिक्रियाएं जनरेट करने के लिए। यह एंडपॉइंट हमारे uncensored मॉडल के साथ टेक्स्ट-इन, टेक्स्ट-आउट वर्कफ़्लो को संभालता है। मानक चैट कार्यों के लिए आपको एम्बेडिंग या इमेज जनरेशन की आवश्यकता नहीं है। मॉडल ID हमेशा "uncensored" होती है। अनुरोध हमारे अपने सर्वरों पर प्रसंस्कृत किए जाते हैं, जिससे सुनिश्चित होता है कि कोई थर्ड-पार्टी वेंडर आपकी आउटपुट पर फ़िल्टर न लगाए। ट्रंकेशन समस्याओं से बचने के लिए अपना पेलोड 8 MB से कम रखें।

आवश्यक और वैकल्पिक पैरामीटर

एक messages अपनी conversation history के साथ array। Set model "अनसेंस्ड" तक सही राउटिंग सुनिश्चित करने के लिए। आप temperature रचनात्मकता या top_p विविधता के लिए। उपयोग करें max_tokens 16,000 टोकन पर आउटपुट को कैप करने के लिए, या डिफ़ॉल्ट रूप से 2,048 पर। कॉन्टेक्स्ट विंडो कुल 100,000 टोकन के लिए प्रॉम्प्ट और कंप्लीशन का समर्थन करता है। वैकल्पिक पैरामीटर जैसे seed और stop आपको जनरेशन पर सटीक नियंत्रण प्रदान करता है।

SSE के माध्यम से स्ट्रीमिंग रिस्पॉन्सेस

सेटिंग करके स्ट्रीमिंग सक्षम करें stream: true अपने अनुरोध में। API रियल-टाइम टोकन डिलीवरी के लिए सर्वर-सेंटेड इवेंट्स (SSE) लौटाता है। प्रत्येक चंक आंशिक टेक्स्ट रखता है, और अंतिम चंक में कुल टोकन उपयोग आंकड़े शामिल होते हैं। यह दृष्टिकोण लंबे उत्तरों के लिए अनुभवगत विलंबता को कम करता है। आप टोकन को आने पर प्रोसेस कर सकते हैं, जो चैट इंटरफेस के लिए आदर्श है। स्ट्रीमिंग सभी मानक पैरामीटर के साथ काम करती है।

फंक्शन कॉलिंग और JSON मोड

में टूल्स परिभाषित करें tools फ़ंक्शन कॉलिंग क्षमताओं के लिए पैरामीटर। मॉडल संरचित JSON आउटपुट दे सकता है जब आप सेट करते हैं response_format को {"type": "json_object"}. डाउनस्ट्रीम एप्लिकेशन के लिए विश्वसनीय पार्सिंग सुनिश्चित करता है। आप निर्दिष्ट कर सकते हैं tool_choice स्वचालित चयन को बल देने या अनुमति देने के लिए। ये सुविधाएं एक ही असंयमित मॉडल के भीतर काम करती हैं, इसलिए आपको अलग से संरचित आउटपुट प्रदाता की आवश्यकता नहीं है।

त्रुटि हैंडलिंग और टोकन उपयोग

अमान्य कुंजियों के लिए HTTP 401 और दर सीमाओं के लिए 429 हैंडल करें। आप प्रति मिनट 300 अनुरोधों और प्रति कुंजी 8 समवर्ती अनुरोधों तक सीमित हैं। यदि आपको 402 मिलता है, तो आपका पूर्व-भुगतान क्रेडिट समाप्त हो गया है। सामग्री फिल्टर (जैसे किशोर यौन सामग्री) के कारण अस्वीकृतियां टोकन चार्ज नहीं करतीं। API आपका क्रेडिट कभी समाप्त नहीं करता है, इसलिए आप किसी भी समय टॉप अप कर सकते हैं। विस्तृत त्रुटि संदेशों के लिए हमेशा प्रतिक्रिया बॉडी की जांच करें।

cURL

Copycurl https://api.tokenllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price of one llm token"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.tokenllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.tokenllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

स्ट्रीमिंग

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)