Venice AI API 문서 및 시작하기

인증 및 Base URL

귀하의 venice ai api key API에 대한 모든 요청을 인증합니다. SDK 구성의 표준 기본 URL을 위의 URL로 바꾸세요. 시스템은 선불 크레딧을 사용하므로, 무거운 페이로드를 보내기 전에 잔액이 충분한지 확인하세요.

채팅 완료 엔드포인트

표준 채팅 완성 엔드포인트를 사용하여 모델로 텍스트를 보내세요. 모델 ID는 항상 다음과 같습니다. uncensored, 합법적인 성인 주제에 대한 콘텐츠 거부 없이 일관된 동작을 보장합니다.

올바른 base URL로 클라이언트를 연결하고 요청 본문에 모델 식별자를 포함하세요. 다음과 같은 매개변수를 조정할 수 있습니다 temperature 또는 top_p 창의성을 제어합니다.

오류 및 거절은 무료이므로 실제 토큰 사용량에 대해서만 요금이 청구됩니다. 컨텍스트 윈도우는 입력과 출력을 합쳐 최대 100,000개의 토큰을 지원합니다.

스트리밍 및 SSE 사용

실시간 토큰 생성을 활성화하려면 stream: true 요청에 포함됩니다. API는 단계별로 구문 분석할 수 있는 서버 전송 이벤트(SSE)를 반환합니다.

각 청크에는 부분 텍스트가 포함되지만 토큰 사용 지표는 마지막 청크에만 나타납니다. 이 방법은 긴 형식 콘텐츠를 기다리는 사용자의 지각된 지연 시간을 줄입니다.

스트림 종료 이벤트를 처리하여 응답을 최종화하세요. 클라이언트가 최종 사용자에게 표시하기 전에 누적된 텍스트를 올바르게 버퍼링하는지 확인하세요.

함수 호출 및 JSON 모드

구조화된 데이터 추출이나 도구 실행에 API를 사용하세요. 설정 response_format 수신하여 {"type": "json_object"} 엄격한 JSON 출력을 강제합니다.

요청 본문에 도구를 정의하여 모델이 함수를 호출하도록 하세요. 모델은 백엔드가 실행할 수 있는 구조화된 인수를 반환합니다.

이 기능은 에이전트 구축 또는 워크플로우 자동화에 이상적입니다. 인수의 환각을 최소화하기 위해 함수 정의를 명확하게 하세요.

매개변수 및 설정

표준 매개변수를 사용하여 모델 동작을 제어하세요. 사용 temperature 창의성, top_p nucleus sampling을 위해, 및 stop 출력을 절단하기 위한 시퀀스.

設定 seed 테스트 중 재현 가능한 결과를 위해 조정하세요. presence_penalty 및 frequency_penalty 주제 다양성에 영향을 미칩니다.

요청당 최대 출력은 16,000 토큰입니다. max_tokens를 지정하지 않을 경우 max_tokens, 기본값은 2,048입니다. 프롬프트를 100,000 토큰 컨텍스트 윈도우 내에 있도록 계획하세요.

속도 제한 및 제약 조건

각 API 키는 분당 300회 요청과 8개의 동시 요청을 허용합니다. 최대 요청 본문 크기는 8MB입니다.

이러한 제한을 초과하면 429 오류가 발생합니다. 단일 계정당 활성 키는 하나만 지원되며, 새 키를 생성하면 이전 키가 대체됩니다.

크레딧은 만료되지 않으므로 필요할 때 충전할 수 있습니다. 충전에는 암호화폐를 사용하고, 큰 금액에는 보너스 크레딧이 제공됩니다.

cURL

Copycurl https://api.veniceaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a summary of the current weather conditions"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

스트리밍

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)