Documentație API Venice AI și Quickstart

Autentificare și URL de bază

Al tău venice ai api key autentifică fiecare cerere către API. Înlocuiește URL-ul de bază standard în configurația SDK-ului tău cu cel de mai sus. Sistemul folosește credit preplătit, așa că asigură-te că ai sold suficient înainte de a trimite payload-uri grele.

Endpoint Completări Chat

Trimite text către model folosind endpoint-ul standard de completări de chat. ID-ul modelului este întotdeauna uncensored, asigurând un comportament consistent fără refuzuri de conținut pentru subiecte adulte legale.

Configurați clientul să indice către URL-ul de bază corect și includeți identificatorul modelului în corpul cererii. Puteți ajusta parametri precum temperature sau top_p pentru a controla creativitatea.

Erorile și refuzurile sunt gratuite, așa că plătești doar pentru utilizarea reală a tokenilor. Fereastra de context suportă până la 100,000 de tokeni pentru input și output combinate.

Utilizarea SSE în Streaming

Activați generarea tokenilor în timp real setând stream: true în cererea ta. API-ul returnează Evenimente Trimise de Server (SSE) pe care le puteți analiza incremental.

Fiecare fragment conține text parțial, dar metricile de utilizare a tokenilor apar doar în fragmentul final. Această abordare reduce latența percepută pentru utilizatorii care așteaptă conținut de lungă durată.

Gestionați evenimentul de sfârșit al fluxului pentru a finaliza răspunsul. Asigurați-vă că clientul dvs. stochează textul acumulat corect înainte de a-l prezenta utilizatorului final.

Apelarea funcțiilor și modul JSON

Folosește API-ul pentru extragerea datelor structurate sau executarea de instrumente. Setează response_format pentru {"type": "json_object"} pentru a impune ieșirea strictă JSON.

Definește instrumente în corpul cererii pentru a permite modelului să apeleze funcții. Modelul va returna argumente structurate pe care backend-ul tău le poate executa.

Această funcționalitate este ideală pentru construirea de agenți sau automatizarea fluxurilor de lucru. Asigura-vă că definițiile funcțiilor sunt clare pentru a minimiza halucinațiile în argumente.

Parametri și setări

Controlează comportamentul modelului folosind parametri standard. Folosește temperature pentru creativitate, top_p pentru eșantionarea nucleu, și stop secvențe pentru a trunca ieșirea.

Setează seed pentru rezultate reproducibile în timpul testării. Ajustați presence_penalty și frequency_penalty influențarea diversității subiectului.

Output-ul maxim este de 16.000 de tokeni per solicitare. Dacă nu specifici max_tokens, valoarea implicită este de 2.048. Planifică-ți prompturile pentru a rămâne în fereastra de context de 100.000 de tokeni.

Limite de rată și constrângeri

Fiecare cheie API permite 300 de cereri pe minut și 8 cereri concurrente. Body-ul maxim de cerere este de 8 MB.

Dacă depășiți aceste limite, veți primi o eroare 429. Un singur cont suportă o singură cheie activă; generarea unei noi chei înlocuiește pe cea anterioară.

Credit-ul nu expiră, așa că poți încărca ori de câte ori este nevoie. Folosește criptomonede pentru încărcări, cu credit bonus disponibil pentru sume mai mari.

cURL

Copycurl https://api.veniceaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a summary of the current weather conditions"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)