Venice AI API-Dokumentation und Schnellstart

Authentifizierung und Base URL

Ihr venice ai api key authentifiziert jede Anfrage an die API. Ersetzen Sie die Standard-Basis-URL in Ihrer SDK-Konfiguration durch die oben genannte. Das System verwendet Prepaid-Guthaben, stellen Sie also sicher, dass Ihr Guthaben vor dem Senden großer Payloads ausreicht.

Chat-Vervollständigungs-Endpunkt

Senden Sie Text an das Modell über den standardmäßigen Chat-Vervollständigungs-Endpunkt. Die Modell-ID ist immer uncensored, gewährleistet konsistentes Verhalten ohne Inhaltsablehnungen für legale erwachsene Themen.

Konfigurieren Sie Ihren Client so, dass er auf die korrekte Base-URL zeigt, und fügen Sie die Modellkennung im Anforderungstext ein. Sie können Parameter wie temperature oder top_p die Kreativität zu steuern.

Fehler und Ablehnungen sind kostenlos, sodass Sie nur für tatsächliche Token-Nutzung zahlen. Das Kontextfenster unterstützt bis zu 100.000 Tokens für Eingabe und Ausgabe zusammen.

Streaming und SSE-Nutzung

Aktivieren Sie die Echtzeit-Token-Generierung, indem Sie stream: true in Ihrer Anfrage. Die API gibt Server-Sent Events (SSE) zurück, die inkrementell geparst werden können.

Jeder Chunk enthält teilweise Text, aber Token-Nutzungsmetriken erscheinen nur im letzten Chunk. Dieser Ansatz verringert die wahrgenommene Latenz für Benutzer, die auf langformatige Inhalte warten.

Verarbeiten Sie das Stream-End-Ereignis, um die Antwort abzuschließen. Stellen Sie sicher, dass Ihr Client den akkumulierten Text korrekt puffert, bevor er dem Endbenutzer angezeigt wird.

Function Calling und JSON-Modus

Verwenden Sie die API für die Extraktion strukturierter Daten oder die Ausführung von Tools. Legen Sie response_format zu {"type": "json_object"} um strenge JSON-Ausgabe zu erzwingen.

Definieren Sie Tools im Anfragekörper, um das Modell Funktionsaufrufe ausführen zu lassen. Das Modell gibt strukturierte Argumente zurück, die Ihr Backend ausführen kann.

Diese Funktion ist ideal für den Aufbau von Agenten oder die Automatisierung von Workflows. Stellen Sie sicher, dass Ihre Funktionsdefinitionen klar sind, um Halluzinationen in den Argumenten zu minimieren.

Parameter und Einstellungen

Steuern Sie das Modellverhalten mit Standardparametern. Verwenden Sie temperature für Kreativität, top_p für Nucleus-Sampling, und stop Sequenzen, um die Ausgabe zu kürzen.

Festlegen seed für reproduzierbare Ergebnisse beim Testen. Passen Sie presence_penalty und frequency_penalty die Themen-Vielfalt zu beeinflussen.

Die maximale Ausgabe beträgt 16.000 Tokens pro Anfrage. Wenn Sie max_tokens, der Standardwert beträgt 2.048. Planen Sie Ihre Prompts so, dass sie innerhalb des 100.000-Token-Kontextfensters bleiben.

Ratenbegrenzungen und Beschränkungen

Jeder API-Schlüssel erlaubt 300 Anfragen pro Minute und 8 gleichzeitige Anfragen. Der maximale Anforderungstext beträgt 8 MB.

Wenn Sie diese Grenzen überschreiten, erhalten Sie einen 429-Fehler. Ein einzelnes Konto unterstützt einen aktiven Schlüssel; das Generieren eines neuen Schlüssels ersetzt den vorherigen.

Guthaben verfällt nicht, sodass Sie nachladen können, wann immer Sie es benötigen. Nutzen Sie Kryptowährung für Nachladungen, wobei Bonusguthaben für größere Beträge verfügbar ist.

cURL

Copycurl https://api.veniceaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a summary of the current weather conditions"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)