Venice AI API डोक्यूमेंटेशन और क्विकस्टार्ट

प्रमाणीकरण और बेस यूआरएल

आपका venice ai api key API के लिए हर अनुरोध को प्रमाणीकृत करता है। अपने SDK कॉन्फ़िगरेशन में मानक बेस URL को ऊपर दिए गए से प्रतिस्थापित करें। प्रणाली प्रीपेड क्रेडिट का उपयोग करती है, इसलिए भारी पेलोड भेजने से पहले सुनिश्चित करें कि आपका बैलेंस पर्याप्त है।

चैट कंप्लीशंस एंडपॉइंट

मानक चैट पूर्णता एंडपॉइंट का उपयोग करके मॉडल में पाठ भेजें। मॉडल आईडी हमेशा uncensored, कानूनी वयक्त विषयों के लिए बिना सामग्री अस्वीकृति के सुसंगत व्यवहार सुनिश्चित करता है।

अपने क्लाइंट को सही बेस URL की ओर इशारा करने के लिए कॉन्फ़िगर करें और अनुरोध बॉडी में मॉडल पहचानकर्ता शामिल करें। आप तापमान और top_p जैसे पैरामीटर को समायोजित कर सकते हैं temperature या top_p रचनात्मकता को नियंत्रित करने के लिए।

त्रुटियां और अस्वीकृतियां मुफ्त हैं, इसलिए आप केवल वास्तविक टोकन उपयोग के लिए भुगतान करते हैं। संदर्भ विंडो इनपुट और आउटपुट दोनों के लिए 100,000 टोकन तक का समर्थन करती है।

स्ट्रीमिंग और SSE उपयोग

रियल-टाइम टोकन जनरेशन सक्षम करने के लिए stream: true आपके अनुरोध में। API Server-Sent Events (SSE) लौटाता है जिन्हें आप क्रमिक रूप से पार्स कर सकते हैं।

प्रत्येक चंक आंशिक पाठ शामिल करता है, लेकिन टोकन उपयोग मेट्रिक्स केवल अंतिम चंक में दिखाई देते हैं। लंबी सामग्री की प्रतीक्षा कर रहे उपयोगकर्ताओं के लिए अनुपस्थित विलंबता को कम करने के लिए यह दृष्टिकोण आदर्श है।

प्रतिक्रिया को फाइनलाइज करने के लिए स्ट्रीम एंड इवेंट हैंडल करें। सुनिश्चित करें कि आपका क्लाइंट अंतर्निहित टेक्स्ट को सही तरीके से बफर करता है, इसे अंत उपयोगकर्ता को प्रस्तु करने से पहले।

फंक्शन कॉलिंग और JSON मोड

संरचित डेटा एक्सट्रैक्शन या टूल एक्जीक्यूशन के लिए एपीआई का उपयोग करें। सेट करें response_format को {"type": "json_object"} कठोर JSON आउटपुट लागू करने के लिए।

अनुरोध बॉडी में टूल्स परिभाषित करें ताकि मॉडल फ़ंक्शन को कॉल कर सके। मॉडल संरचित तर्क लौटाएगा जिन्हें आपका बैकएंड निष्पादित कर सकता है।

यह फीचर एजेंट्स बनाने या वर्कफ़्लो को ऑटोमेट करने के लिए आदर्श है। हैल्युसिनेशन को कम करने के लिए सुनिश्चित करें कि आपकी फंक्शन परिभाषाएं स्पष्ट हों।

पैरामीटर और सेटिंग्स

मानक पैरामीटर का उपयोग करके मॉडल का व्यवहार नियंत्रित करें। उपयोग करें temperature रचनात्मकता के लिए, top_p न्यूक्लियस सैंपलिंग के लिए, और stop आउटपुट को ट्रंक करने के लिए अनुक्रम।

सेट करें seed परीक्षण के दौरान पुनरुत्पादनीय परिणामों के लिए। समायोजन करें presence_penalty और frequency_penalty विषय विविधता को प्रभावित करने के लिए।

प्रति अनुरोध अधिकतम आउटपुट 16,000 टोकन है। यदि आप निर्दिष्ट नहीं करते max_tokens, डिफ़ॉल्ट केवल 2,048 है। अपने प्रॉम्प्ट्स की योजना इस प्रकार बनाएं कि 100,000 टोकन संदर्भ विंडो के भीतर रहें।

रेट लिमिट्स और बाधाएँ

प्रत्येक API कुंजी प्रति मिनट 300 अनुरोध और 8 समवर्ती अनुरोधों की अनुमति देती है। अधिकतम अनुरोध बॉईज़ 8 MB है।

यदि आप इन सीमाओं से अधिक हो जाते हैं, तो आपको 429 त्रुटि प्राप्त होगी। एक एकल खाते एक सक्रिय कुंजी का समर्थन करता है; एक नई कुंजी जनरेट करने से पिछली कुंजी बदल जाती है।

क्रेडिट कभी समाप्त नहीं होता है, इसलिए आप जब भी आवश्यक हो टॉप-अप कर सकते हैं। टॉप-अप के लिए क्रिप्टो का उपयोग करें, बड़ी राशियों के लिए बोनस क्रेडिट उपलब्ध है।

cURL

Copycurl https://api.veniceaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a summary of the current weather conditions"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

स्ट्रीमिंग

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)