תיעוד API

כתובת URL בסיסית ואימות

חבר ל https://api.tokenllm.cc/v1 באמצעות מפתח ה-API הייחודי שלך. כתובת הבסיס הזו עובדת עם כל SDK סטנדרטי של OpenAI על ידי הגדרת ה- base_url משתנה. אתה מקבל מפתח פעיל אחד לכל חשבון; יצירת מפתח חדש מחליפה את הקודם. האימות מסתמך על ה- Authorization: Bearer <key> header. אנו לא עוקבים אחר ההנחיות שלך לאימון, וניתן להירשם עם גוגל או אימייל ללא מספר טלפון. שגיאות וסירובים צורכים אפס טוקנים, כך שאתה משלם רק עבור אינפראנס אמיתי.

נקודת הקצה להשלמת צ'אט

שלח טקסט ל POST /v1/chat/completions ליצור תגובות. נקודת הקצה הזו מטפלת בזרימות עבודה של טקסט-קלט/טקסט-פלט עם המודל הלא-מסונן שלנו. אינך צריך השמה (embeddings) או יצירת תמונות למשימות צ'אט סטנדרטיות. מזהה המודל הוא תמיד "uncensored". הבקשות מעובדות בשרתים שלנו, מה שמבטיח שספק צד שלישי לא יסנן את הפלט שלך. שמור על הפayload מתחת ל-8 MB כדי להימנע מבעיות קיטוע.

פרמטרים נדרשים ואופציונליים

כלול messages מערך עם היסטוריית השיחה שלך. הגדר model ל-"uncensored" כדי להבטיח ניהול מסלול נכון. אתה יכול להתאים temperature ליצירתיות או top_p לגיוון. השתמש max_tokens כדי לקזז פלט ל-16,000 אסימונים, או להגדיר ברירת מחדל של 2,048. חלון ההקשר תומך ב-100,000 אסימונים בסך הכל לפלט ופלט. פרמטרים אופציונליים כמו seed וגם stop מעניקים לכם שליטה מדויקת על התהליך.

תגובות בסטרימינג באמצעות SSE

אפשרו זרימה על ידי הגדרת stream: true בבקשה שלך. ה-API מחזיר אירועים שנשלחים מהשרת (SSE) למסירת טוקנים בזמן אמת. כל קטע מכיל טקסט חלקי, והקטע הסופי כולל סטטיסטיקות שימוש כוללות בטוקנים. גישה זו מפחיתה את תחושת השהייה עבור תגובות ארוכות. ניתן לעבד טוקנים כפי שהם מגיעים, מה שמתאים אידיאלית לממשקי צ'אט. זרימה עובדת עם כל הפרמטרים הסטנדרטיים.

פקודות פונקציה ומצב JSON

הגדירו כלים ב- tools פרמטר ליכולות קריאת פונקציות. המודל יכול להפיק JSON מבני כאשר אתה מגדיר response_format אל {"type": "json_object"}. זה מבטיח פיענוח אמין ליישומים downstream. ניתן לציין tool_choice כדי לכפות או לאפשר בחירה אוטומטית. תכונות אלו עובות בתוך אותו מודל ללא צנזורה, כך שלא צריך ספק פלט מבני נפרד.

טיפול בשגיאות וצריכת טוקנים

טפול בשגיאות HTTP 401 למפתחות לא חוקיים ו-429 למגבלות קצב. אתה מוגבל ל-300 בקשות לדקה ו-8 בקשות מקבילות למפתח. אם אתה מקבל 402, אשראיך המקומד אזל. דחיות עקסי מסנני תוכן (כמו תוכן מיני עם קטינים) לא גובות טוקנים. ה-API לא מפקיע את האשראי שלך לעולם, כך שאתה יכול להטעין בכל עת. תמיד בדוק את גוף התגובה להודעות שגיאה מפורטות.

cURL

Copycurl https://api.tokenllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price of one llm token"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.tokenllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.tokenllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

זרימה

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)