Venice AI API תיעוד והתחלה מהירה

אימות וכתובת בסיס

ה- venice ai api key מאמת כל בקשה ל-API. החלף את כתובת הבסיס הסטנדרטית בתצורת ה-SDK שלך עם זו שמופיעה למעלה. המערכת משתמשת באשראי מוקדם, כך שודא שהיתרה שלך מספקת לפני שליחת מטענים כבדים.

נקודת קצה להשלמות צ'אט

Send text to the model using the standard chat completions endpoint. The model ID is always uncensored,מבטיח התנהגות עקבית ללא סירובי תוכן לנושאים מבוגרים חוקיים.

הגדר את הלקוח שלך לנקד לכתובת ה-URL הבסיסית הנכונה והכלל את מזהה המודל בגוף הבקשה. אתה יכול להתאים פרמטרים כמו temperature או top_p לשלוט ביצירתיות.

שגיאות וסירובים הם חינם, כך שאתה משלם רק על שימוש אמיתי בטוקנים. חלון ההקשר תומך בעד 100,000 טוקנים עבור קלט ופלט משולבים.

שימוש ב-SSE וסטרימינג

אפשרו יצירת אסימונים בזמן אמת על ידי הגדרת stream: true בבקשה שלך. ה-API מחזיר אירועים שנשלחו על ידי השרת (SSE) שניתן לנתח באופן עוקב.

כל מקטע מכיל טקסט חלקי, אך מדדי שימוש בסימונים מופיעים רק במקטע הסופי. גישה זו מפחיתה את תחומת השהייה עבור משתמשים הממתינים לתוכן ארוך.

טפל באירוע סיום הזרם כדי לסיים את התגובה. ודא שהלקוח שלך ממלא במטמון (buffer) את הטקסט המצטבר לפני הצגתו למשתמש הסופי.

פקודות פונקציה ומצב JSON

השתמשו ב-API לחילוץ נתונים מבניים או לביצוע כלים. הגדירו response_format אל {"type": "json_object"} כדי לאכוף פלט JSON קפדני.

הגדירו כלים בגוף הבקשה כדי לאפשר למודל לקרוא לפונקציות. המודל יחזיר ארגומנטים מבניים שה-backend שלכם יכול לבצע.

תכונה זו אידיאלית לבניית סוכנים או אוטומציה של עבודות שוטפות. ודא שהגדרות הפונקציה שלך ברורות כדי למזער הולכות שווא בטיעונים.

פרמטרים והגדרות

שלוו את התנהגות המודל באמצעות פרמטרים סטנדרטיים. השתמשו temperature ליצירתיות, top_p לדגימת ליבה, ו- stop רצפים לחיתוך הפלט.

הגדר seed לשם תוצאות שחזוריות במהלך בדיקות. התאם presence_penalty וגם frequency_penalty להשפיע על מגוון הנושאים.

הפלט המקסימלי הוא 16,000 טוקנים לכל בקשה. אם אינך מציין max_tokens, ברירת המחדל היא 2,048. תכננו את ה-Prompts שלכם כדי להישאר בתוך חלון ההקשר של 100,000 טוקנים.

מגבלות קצב ואילוצים

כל מפתח API מאפשר 300 בקשות לדקה ו-8 בקשות מקבילות. גודל גוף הבקשה המקסימלי הוא 8 MB.

אם תחרוג ממגבלות אלו, תקבל שגיאה 429. חשבון בודד תומך במפתח פעיל אחד; יצירת מפתח חדש תחליף את הקודם.

הקרדיט אינו פג תוקף, כך שניתן לבצע טעינה בכל עת שצריך. השתמש בקריפטו לטעינות, עם קרדיט בונוס זמין לסכומים גדולים יותר.

cURL

Copycurl https://api.veniceaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a summary of the current weather conditions"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

זרימה

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)