Venice AI API-dokumentation och snabbstart

Autentisering och bas-URL

Din venice ai api key autentiserar varje begäran till API:et. Ersätt standard bas-URL:en i din SDK-konfiguration med den ovanstående. Systemet använder förbetald kredit, så se till att ditt saldo är tillräckligt innan du skickar tunga payload:er.

Slutpunkt för chattkomplettering

Skicka text till modellen via standardslutpunkten för chattkomplettering. Modell-ID:t är alltid uncensored, vilket säkerställer konsekvent beteende utan innehållsavvisningar för lagliga vuxna ämnen.

Konfigurera din klient att peka mot korrekt bas-URL och inkludera modellidentifieraren i begärandekroppen. Du kan justera parametrar som temperature eller top_p för att styra kreativitet.

Fel och avslag är gratis, så du betalar endast för faktisk tokenanvändning. Kontextfönstret stöder upp till 100 000 tokens för både inmatning och utmatning tillsammans.

Streaming och SSE-användning

Aktivera realtidsgenerering av tokens genom att ställa in stream: true i ditt begäran. API:et returnerar Server-Sent Events (SSE) som du kan analysera inkrementellt.

Varje chunk innehåller delvis text, men tokenanvändningsmått visas endast i den sista chunken. Detta tillvägagångssätt minskar den upplevda latensen för användare som väntar på långt innehåll.

Hantera strömmens slutevent för att avsluta svaret. Se till att din klient buffrar den ackumulerade texten korrekt innan den presenteras för användaren.

Funktionsanrop och JSON-läge

Använd API:t för strukturerad dataextraktion eller verktygsexekvering. Ställ in response_format för {"type": "json_object"} för att tvinga fram strikt JSON-utdata.

Definiera verktyg i begärans kropp för att tillåta modellen att anropa funktioner. Modellen returnerar strukturerade argument som din backend kan köra.

Denna funktion är idealisk för att bygga agenter eller automatisera arbetsflöden. Se till att dina funktionsdefinitioner är tydliga för att minimera hallucination i argumenten.

Parameters and Settings

Styr modellens beteende med standardparametrar. Använd temperature för kreativitet, top_p för nucleus sampling, och stop sekvenser för att klippa av utdata.

Ställ in seed för reproducerbara resultat under testning. Justera presence_penalty och frequency_penalty att påverka ämnesmångfald.

Det maximala utdata är 16 000 token per begäran. Om du inte anger max_tokens, standardvärdet är 2 048. Planera dina prompts så att de stannar inom 100 000 tokens context-fönster.

Begränsningar för begäranderänta och begränsningar

Varje API-nyckel tillåter 300 förfrågningar per minut och 8 samtidiga förfrågningar. Den maximala förfrågningskroppens storlek är 8 MB.

Om du överskrider dessa gränser får du ett 429-fel. Ett enskilt konto stöder en aktiv nyckel; att generera en ny nyckel ersätter den tidigare.

Krediten löper inte ut, så du kan fylla på när det behövs. Använd krypto för påfyllningar, med bonuskredit tillgänglig för större belopp.

cURL

Copycurl https://api.veniceaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a summary of the current weather conditions"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strömning

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)