API 문서

Base URL 및 인증

다음에 연결 https://api.tokenllm.cc/v1 고유한 API 키를 사용하여 구현합니다. 이 base URL은 다음을 설정하여 모든 표준 OpenAI SDK와 함께 작동합니다 base_url 변수입니다. 계정당 활성 키가 하나 제공되며, 새 키를 생성하면 이전 키가 대체됩니다. 인증은 Authorization: Bearer <key> header. 당사는 학습을 위해 프롬프트를 추적하지 않으며, 전화번호 없이 Google 또는 이메일로 가입할 수 있습니다. 오류와 거부는 토큰을 소모하지 않으므로 실제 추론에만 비용을 지불하면 됩니다.

Chat Completions 엔드포인트

텍스트를 보내기 POST /v1/chat/completions 응답을 생성합니다. 이 엔드포인트는 uncensored 모델을 사용하여 텍스트 입력-출력 워크플로를 처리합니다. 표준 채팅 작업에는 임베딩이나 이미지 생성이 필요하지 않습니다. 모델 ID는 항상 "uncensored"입니다. 요청은 당사 서버에서 처리되므로 제3자 벤더가 출력에 필터를 적용하지 않습니다. 잘림 문제를 피하려면 페이로드를 8 MB 미만으로 유지하세요.

필수 및 선택적 매개변수

간단한 messages 대화 기록이 있는 배열입니다. 설정 model to "uncensored" 올바른 라우팅을 위해. 조정할 수 있습니다 temperature 창의성 또는 top_p 다양성. 사용 max_tokens 출력을 16,000 토큰으로 제한하거나 기본값인 2,048로 설정합니다. 컨텍스트 윈도우는 프롬프트와 완성을 합쳐 총 100,000 토큰을 지원합니다. 선택적 매개변수 seed 및 stop 생성 과정에 정밀한 제어를 제공합니다.

SSE를 통한 스트리밍 응답

stream을 true로 설정하여 스트리밍 활성화 stream: true 요청에 포함됩니다. API는 실시간 토큰 전달을 위해 서버 전송 이벤트(SSE)를 반환합니다. 각 청크에는 부분 텍스트가 포함되어 있으며, 마지막 청크에는 총 토큰 사용량 통계가 포함됩니다. 이 접근 방식은 긴 응답의 지각된 지연 시간을 줄여줍니다. 토큰이 도착하는 대로 처리할 수 있으며, 이는 채팅 인터페이스에 이상적입니다. 스트리밍은 모든 표준 매개변수와 함께 작동합니다.

함수 호출 및 JSON 모드

다음에 도구를 정의하세요 tools 함수 호출 기능을 위한 매개변수입니다. 이 모델은 설정 시 구조화된 JSON을 출력할 수 있습니다. response_format 수신하여 {"type": "json_object"}. 이는 하류 애플리케이션을 위한 신뢰할 수 있는 파싱을 보장합니다. 다음을 지정할 수 있습니다. tool_choice 자동 선택을 강제하거나 허용합니다. 이러한 기능은 동일한 uncensored 모델 내에서 작동하므로 별도의 구조화 출력 제공자가 필요하지 않습니다.

오류 처리 및 토큰 사용량

잘못된 키의 경우 HTTP 401, 속도 제한의 경우 429 오류를 처리하세요. 분당 300회 요청과 키당 최대 8개의 동시 요청으로 제한됩니다. 402 오류가 발생하면 선불 크레딧이 고갈된 것입니다. 콘텐츠 필터(예: 미성년자 성 콘텐츠)로 인한 거부는 토큰 요금이 부과되지 않습니다. API는 크레딧을 만료시키지 않으므로 언제든지 충전할 수 있습니다. 자세한 오류 메시지를 확인하려면 응답 본문을 항상 확인하세요.

cURL

Copycurl https://api.tokenllm.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price of one llm token"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.tokenllm.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.tokenllm.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

스트리밍

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)