Venice AI API Dokumentáció és Gyors kezdés

Hitelesítés és Base URL

Az venice ai api key hitelesíti az összes API-hívást. Cseréld ki a szabványos alap URL-t az SDK konfigurációjában a fentivel. A rendszer előrefizetett kreditet használ, ezért győződj meg róla, hogy a egyenleged elegendő nehéz törzsek küldése előtt.

Chat Completions végpont

Küldjön szöget a modellhez a szabványos chat-lezárások végpont használatával. A modell azonosítója mindig uncensored, konzisztens viselkedést biztosítva törvényes felnőtt témák esetén történő tartalomelutasítás nélkül.

Konfigurálja az ügyfélt a helyes alap URL-re, és adja meg a modellazonosítót a kérés törzsében. Beállíthat olyan paramétereket, mint temperature vagy top_p a kreativitás vezérléséhez.

A hibák és a visszautasítások ingyenesek, így csak a tényleges token-felhasználásért fizet. A kontextus ablak akár 100,000 token támogatását biztosítja bemenet és kimenet együtt.

Streaming és SSE Használat

Engedélyezze a valós idejű token-generálást úgy, hogy stream: true a kérésben. Az API Server-Sent Events (SSE) formátumban adja vissza az adatokat, amelyeket fokozatosan feldolgozhat.

Minden chunk részleges szöveget tartalmaz, de a tokenfelhasználási metrikák csak az utolsó chunkban jelennek meg. Ez a megközelítés csökkenti az észlelt késleltetést a hosszú tartalmakra váró felhasználók számára.

Kezelje a stream vég eseményt a válasz véglegesítéséhez. Győződjön meg arról, hogy a kliens helyesen puffereli a felhalmozott szöveget, mielőtt azt a végfelhasználónak megjelenítené.

Függvényhívás és JSON mód

Használja az API-t strukturált adatkinyeréshez vagy eszközvégrehajtáshoz. Állítsa be response_format a {"type": "json_object"} a szigorú JSON kimenet kikényszerítésére.

Határozzon meg eszközöket a kérés törzsében, hogy lehetővé tegye a modell számára a függvények meghívását. A modell strukturált argumentumokat ad vissza, amelyeket a backendje végrehajthat.

Ez a funkció ideális ügynökök építéséhez vagy munkafolyamatok automatizálásához. Győződjön meg arról, hogy a függvénydefiníciók világosak, hogy minimalizálja a hallucinációt az argumentumokban.

Paraméterek és beállítások

A modell viselkedésének szabályozása standard paraméterekkel. Használja temperature kreativitás, top_p nukleáris mintavételezéshez, és stop szekvenciák a kimenet csonkolásához.

Beállítás seed a reprodukálható eredményekhez tesztelés közben. Állítsa be presence_penalty és frequency_penalty a téma sokféleségének befolyásolására.

A kérésenkénti maximális kimenet 16 000 token. Ha nem ad meg max_tokens, az alapértelmezett érték 2 048. Tervezze meg a promptokat úgy, hogy maradjon a 100 000 tokenes kontextusablakon belül.

Sebességkorlátok és korlátok

Minden API-kulcs percenként 300 kérést és 8 párhuzamos kérést tesz lehetővé. A maximális kéréstörzs mérete 8 MB.

Ha túlléped ezeket a korlátokat, 429-es hibát kapsz. Egy fiók egyszerre csak egy aktív kulcsot támogat; az új kulcs generálása felváltja a korábbit.

A hitel nem jár le, így bármikor, amikor szüksége van rá, töltheti fel. Használjon kriptovalutát a feltöltéshez, nagyobb összegeknél bónusz hitel érhető el.

cURL

Copycurl https://api.veniceaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a summary of the current weather conditions"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamelés

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)