Documentation et démarrage rapide de l'API Venice AI

Authentification et URL de base

Votre venice ai api key authentifie chaque requête à l'API. Remplacez l'URL de base standard dans la configuration de votre SDK par celle ci-dessus. Le système utilise un crédit prépayé, alors assurez-vous que votre solde est suffisant avant d'envoyer des charges lourdes.

Point de terminaison Chat Completions

Envoyez du texte au modèle en utilisant le point de terminaison standard des complétions de chat. L'ID du modèle est toujours uncensored, assurant un comportement cohérent sans refus de contenu pour les sujets adultes légaux.

Configurez votre client pour pointer vers la bonne URL de base et incluez l'identifiant du modèle dans le corps de la requête. Vous pouvez ajuster des paramètres comme temperature ou top_p pour contrôler la créativité.

Les erreurs et les refus sont gratuits, donc vous ne payez que pour l'utilisation réelle des tokens. La fenêtre de contexte prend en charge jusqu'à 100 000 tokens pour l'entrée et la sortie combinées.

Utilisation du streaming et des SSE

Activez la génération de jetons en temps réel en définissant stream: true dans votre requête. L'API renvoie des événements envoyés par le serveur (SSE) que vous pouvez analyser de manière incrémentale.

Chaque chunk contient du texte partiel, mais les métriques d'utilisation des tokens n'apparaissent que dans le dernier chunk. Cette approche réduit la latence perçue pour les utilisateurs attendant du contenu de longue forme.

Gérez l'événement de fin de flux pour finaliser la réponse. Assurez-vous que votre client met en mémoire tampon le texte accumulé avant de le présenter à l'utilisateur final.

Appel de fonction et mode JSON

Utilisez l'API pour l'extraction de données structurées ou l'exécution d'outils. Définissez response_format à {"type": "json_object"} pour imposer une sortie JSON stricte.

Définissez des outils dans le corps de la requête pour permettre au modèle d'appeler des fonctions. Le modèle renverra des arguments structurés que votre backend peut exécuter.

Cette fonctionnalité est idéale pour créer des agents ou automatiser des workflows. Assurez-vous que vos définitions de fonctions sont claires pour minimiser les hallucinations dans les arguments.

Paramètres et paramètres

Maîtrisez le comportement du modèle en utilisant des paramètres standards. Utilisez temperature pour la créativité, top_p pour l'échantillonnage par noyau, et stop séquences pour tronquer la sortie.

Définir seed pour des résultats reproductibles lors des tests. Ajustez presence_penalty et frequency_penalty pour influencer la diversité des sujets.

La sortie maximale est de 16 000 tokens par requête. Si vous ne spécifiez pas max_tokens, la valeur par défaut est de 2 048. Planifiez vos invites pour rester dans la fenêtre de contexte de 100 000 tokens.

Limites de débit et contraintes

Chaque clé API permet 300 requêtes par minute et 8 requêtes simultanées. La taille maximale du corps de requête est de 8 Mo.

Si vous dépassez ces limites, vous recevrez une erreur 429. Un seul compte prend en charge une clé active ; générer une nouvelle clé remplace la précédente.

Le crédit n'expire jamais, vous pouvez donc recharger quand vous en avez besoin. Utilisez la crypto pour les recharges, avec un crédit bonus disponible pour les montants plus élevés.

cURL

Copycurl https://api.veniceaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a summary of the current weather conditions"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)