Venice AI API Documentation and Quickstart

Authentication and Base URL

Your venice ai api key πιστοποιεί κάθε αίτηση στο API. Αντικαταστήστε τη βασική URL στο SDK διαμόρφωσή σας με την παραπάνω. Το σύστημα χρησιμοποιεί προπληρωμένο πιστωτικό, οπότε βεβαιωθείτε ότι το υπόλοιπό σας είναι επαρκές πριν στείλετε βαριά payloads.

Τερματικό Συμπληρώματος Συζήτησης

Στείλτε κείμενο στο μοντέλο χρησιμοποιώντας το τυπικό endpoint ολοκληρώσεων συνομιλίας. Το ID μοντέλου είναι πάντα uncensored, διασφαλίζοντας συνεπή συμπεριφορά χωρίς απορρίψεις περιεχομένου για νόμιμα ενήλικα θέματα.

Ρυθμίστε τον πελάτη σας να κατευθύνει στη σωστή βάση URL και συμπεριλάβετε τον αναγνωριστικό μοντέλου στο σώμα της αίτησης. Μπορείτε να προσαρμόσετε παραμέτρους όπως temperature ή top_p για τον έλεγχο της δημιουργικότητας.

Τα σφάλματα και οι απορρίψεις είναι δωρεάν, οπότε πληρώνετε μόνο για την πραγματική χρήση tokens. Το παράθυρο πλαισίου υποστηρίζει έως 100,000 tokens για είσοδο και έξοδο συνολικά.

Χρήση Ροής και SSE

Ενεργοποιήστε την παραγωγή token σε πραγματικό χρόνο ρυθμίζοντας stream: true στην αίτησή σας. Το API επιστρέφει Server-Sent Events (SSE) που μπορείτε να αναλύσετε σταδιακά.

Κάθε τμήμα περιέχει μερικό κείμενο, αλλά τα μετρικά στοιχεία χρήσης tokens εμφανίζονται μόνο στο τελευταίο τμήμα. Αυτή η προσέγγιση μειώνει την αντιλαμβανόμενη καθυστέρηση για χρήστες που περιμένουν περιεχόμενο μεγάλου μήκους.

Διαχειριστείτε το γεγονός τέλους ροής για να οριστικοποιήσετε την απόκριση. Βεβαιωθείτε ότι ο πελάτης σας αποθηκεύει σωστά το συσσωρευμένο κείμενο πριν το παρουσιάσει στον τελικό χρήστη.

Function Calling και JSON Mode

Χρησιμοποιήστε το API για εξαγωγή δομημένων δεδομένων ή εκτέλεση εργαλείων. Ρυθμίστε response_format για {"type": "json_object"} για να επιβάλετε αυστηρό JSON output.

Ορίστε εργαλεία στο request body για να επιτρέψετε στο μοντέλο να καλέσει συναρτήσεις. Το μοντέλο θα επιστρέψει δομημένα ορίσματα που ο backend σας μπορεί να εκτελέσει.

Αυτή η λειτουργία είναι ιδανική για την κατασκευή agents ή την αυτοματοποίηση ροών εργασίας. Βεβαιωθείτε ότι οι ορισμοί συναρτήσεων είναι σαφείς για να ελαχιστοποιήσετε τις αλλοιώσεις στα ορίσματα.

Παράμετροι και Ρυθμίσεις

Ελέγξτε τη συμπεριφορά του μοντέλου χρησιμοποιώντας τυπικές παραμέτρους. Χρησιμοποιήστε temperature για τη δημιουργικότητα, top_p για δειγματοληψία πυρήνα, και stop ακολουθίες για να περικόψετε την έξοδο.

Ορίστε seed για αναπαραγώγιμα αποτελέσματα κατά τη δοκιμή. Προσαρμόστε presence_penalty και frequency_penalty για να επηρεάσετε την ποικιλία του θέματος.

Η μέγιστη έξοδος είναι 16.000 tokens ανά αίτημα. Αν δεν καθορίσετε max_tokens, η προεπιλογή είναι 2.048. Σχεδιάστε τα prompts σας ώστε να μείνετε εντός του παραθύρου context 100.000 tokens.

Όρια Ρυθμού και Περιορισμοί

Κάθε API key επιτρέπει 300 αιτήσεις ανά λεπτό και 8 ταυτόχρονες αιτήσεις. Το μέγιστο μέγεθος σώματος αίτησης είναι 8 MB.

Αν ξεπεράσετε αυτά τα όρια, θα λάβετε σφάλμα 429. Ένας μεμονωμένος λογαριασμός υποστηρίζει ένα ενεργό κλειδί· η δημιουργία νέου κλειδιού αντικαθιστά το προηγούμενο.

Το υπόλογο δεν λήγει ποτέ, οπότε μπορείτε να κάνετε προσθήκη όποτε χρειαστεί. Χρησιμοποιήστε κρυπτονομίσματα για προσθήκες, με bonus credit διαθέσιμο για μεγαλύτερες ποσότητες.

cURL

Copycurl https://api.veniceaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a summary of the current weather conditions"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ροή

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)