Documentazione API Venice AI e Guida rapida

Autenticazione e Base URL

La tua venice ai api key autentica ogni richiesta all'API. Sostituisci l'URL di base standard nella configurazione del tuo SDK con quello sopra. Il sistema utilizza credito prepagato, quindi assicurati che il tuo saldo sia sufficiente prima di inviare payload pesanti.

Endpoint Chat Completions

Invia testo al modello utilizzando l'endpoint standard delle chat completions. L'ID del modello è sempre uncensored, garantendo un comportamento coerente senza rifiuti di contenuti per argomenti adulti legali.

Configura il tuo client per puntare all'URL base corretto e includi l'identificatore del modello nel corpo della richiesta. Puoi regolare parametri come temperature o top_p per controllare la creatività.

Errori e rifiuti sono gratuiti, quindi paghi solo per l'utilizzo effettivo dei token. La finestra di contesto supporta fino a 100,000 token per input e output combinati.

Utilizzo SSE e Streaming

Abilita la generazione dei token in tempo reale impostando stream: true nella tua richiesta. L'API restituisce Server-Sent Events (SSE) che puoi analizzare in modo incrementale.

Ogni chunk contiene testo parziale, ma le metriche sull'utilizzo dei token appaiono solo nell'ultimo chunk. Questo approccio riduce la latenza percepita per gli utenti in attesa di contenuti di lunga durata.

Gestisci l'evento di fine stream per finalizzare la risposta. Assicurati che il tuo client memorizzi correttamente il testo accumulato prima di presentarlo all'utente finale.

Function Calling e modalità JSON

Utilizza l'API per l'estrazione di dati strutturati o l'esecuzione di strumenti. Imposta response_format a {"type": "json_object"} per imporre un output JSON rigoroso.

Definisci gli strumenti nel corpo della richiesta per consentire al modello di chiamare le funzioni. Il modello restituirà argomenti strutturati che il tuo backend può eseguire.

Questa funzionalità è ideale per la creazione di agenti o l'automazione dei flussi di lavoro. Assicurati che le tue definizioni di funzione siano chiare per minimizzare le allucinazioni negli argomenti.

Parametri e impostazioni

Controlla il comportamento del modello utilizzando parametri standard. Usa temperature per la creatività, top_p per il campionamento nucleare, e stop sequenze per troncare l'output.

Imposta seed per risultati riproducibili durante i test. Regola presence_penalty e frequency_penalty per influenzare la diversità degli argomenti.

L'output massimo è di 16.000 token per richiesta. Se non specifichi max_tokens, il valore predefinito è 2.048. Pianifica i prompt per rimanere entro la finestra di contesto di 100.000 token.

Limiti di frequenza e vincoli

Ogni chiave API consente 300 richieste al minuto e 8 richieste concorrenti. La dimensione massima del corpo della richiesta è di 8 MB.

Se superi questi limiti, riceverai un errore 429. Un singolo account supporta una chiave attiva; generare una nuova chiave sostituisce quella precedente.

Il credito non scade mai, quindi puoi ricaricare quando necessario. Usa le criptovalute per le ricariche, con credito bonus disponibile per importi più grandi.

cURL

Copycurl https://api.veniceaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a summary of the current weather conditions"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)