Venice AI API-dokumentation og Quickstart

Autentificering og Base URL

Din venice ai api key autentificerer hvert opkald til API'et. Erstat standard base URL i din SDK-konfiguration med den ovenstående. Systemet bruger forudbetalt kredit, så sørg for, at din saldo er tilstrækkelig, før du sender tunge payloads.

Chat Completions Endpoint

Send tekst til modellen via standard chat-completions-endpointet. Model-ID'et er altid uncensored, hvilket sikrer konsistent adfærd uden indholdsnægtelser for lovlige vokste emner.

Konfigurer din klient til at pege på den korrekte base URL og inkluder modelidentifikatoren i request-body'en. Du kan justere parametre som temperature eller top_p til at kontrollere kreativitet.

Fejl og afvisninger er gratis, så du betaler kun for faktisk tokenforbrug. Kontekstvinduet understøtter op til 100.000 tokens for både input og output tilsammen.

Streaming og SSE-brug

Aktivér realtidsgenerering af tokens ved at indstille stream: true i din anmodning. API'et returnerer Server-Sent Events (SSE), som du kan analysere inkrementelt.

Hver chunk indeholder delvis tekst, men tokenforbrugsmetrikker vises kun i den sidste chunk. Denne tilgang reducerer den opfattede latens for brugere, der venter på langformet indhold.

Håndter stream-end-hændelsen for at afslutte svaret. Sørg for, at din klient buffer den akkumulerede tekst korrekt, før den præsenteres for slutbrugeren.

Function Calling og JSON-tilstand

Brug API'et til udtrækning af strukturerede data eller værktøjsudførelse. Indstil response_format til {"type": "json_object"} til at håndhæve streng JSON-output.

Definer værktøjer i request body for at tillade, at modellen kalder funktioner. Modellen vil returnere strukturerede argumenter, som din backend kan udføre.

Denne funktion er ideel til at bygge agenter eller automatisere workflows. Sørg for, at dine funktionsdefinitioner er klare for at minimere hallucination i argumenterne.

Parameters and Settings

Styr modellens adfærd ved hjælp af standardparametre. Brug temperature til kreativitet, top_p for nucleus sampling, og stop sekvenser til at forkorte output.

Indstil seed for reproducerbare resultater under test. Juster presence_penalty og frequency_penalty for at påvirke emnemangfoldigheden.

Det maksimale output er 16.000 tokens pr. anmodning. Hvis du ikke angiver max_tokens, standardværdien er 2.048. Planlæg dine prompts til at blive inden for kontekstvinduet på 100.000 tokens.

Rate Limits og Begrænsninger

Hver API-nøgle giver 300 anmodninger i minuttet og 8 samtidige anmodninger. Den maksimale anmodningskropstørrelse er 8 MB.

Hvis du overskrider disse grænser, modtager du en 429-fejl. En enkelt konto understøtter én aktiv nøgle; generering af en ny nøgle erstatter den tidligere.

Kredit udløber aldrig, så du kan toppe op, når det er nødvendigt. Brug krypto til top-ups, med bonuskredit tilgængelig til større beløb.

cURL

Copycurl https://api.veniceaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a summary of the current weather conditions"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)