Dokumentace a rychlý start API Venice AI

Autentizace a základní URL

Váš venice ai api key autentizuje každý požadavek do API. Nahraďte standardní základní URL v konfiguraci vašeho SDK tou výše uvedenou. Systém využívá předplacený kredit, takže před odesláním těžkých payloadů zajistěte dostatečný zůstatek.

Endpoint Chat Completions

Odeslat text do modelu pomocí standardního koncového bodu dokončování chatu. ID modelu je vždy uncensored, zajišťuje konzistentní chování bez odmítání obsahu pro legální témata pro dospělé.

Nakonfigurujte klienta tak, aby ukazoval na správnou základní URL a v těle požadavku zahrňte identifikátor modelu. Parametry jako temperature nebo top_p ovlivnit kreativitu.

Chyby a odmítnutí jsou zdarma, takže platíte pouze za skutečné využití tokenů. Kontextové okno podporuje až 100 000 tokenů pro vstup i výstup dohromady.

Streamování a využití SSE

Povolte generování tokenů v reálném čatu nastavením stream: true ve vaší žádosti. API vrací Server-Sent Events (SSE), které můžete parsovat postupně.

Každý chunk obsahuje částečný text, ale metriky využití tokenů se objevují pouze v posledním chunku. Tento přístup snižuje vnímanou latenci pro uživatele čekající na dlouhý obsah.

Zpracujte událost konce proudu k finalizaci odpovědi. Ujistěte se, že váš klient správně bufferizuje akumulovaný text před jeho zobrazení koncovému uživateli.

Volání funkcí a režim JSON

Použijte API pro extrakci strukturovaných dat nebo provádění nástrojů. Nastavte response_format na {"type": "json_object"} pro vynucení přísného výstupu JSON.

Definujte nástroje v těle požadavku, aby model mohl volat funkce. Model vrátí strukturované argumenty, které může váš backend vykonat.

Tato funkce je ideální pro tvorbu agentů nebo automatizaci pracovních postupů. Ujistěte se, že jsou definice funkcí jasné, aby se minimalizovala halucinace argumentů.

Parametry a nastavení

Ovládejte chování modelu pomocí standardních parametrů. Použijte temperature pro kreativitu, top_p pro nucleus sampling, a stop sekvence pro oříznutí výstupu.

Nastavit seed pro reprodukovatelné výsledky při testování. Upravte presence_penalty a frequency_penalty ovlivnit rozmanitost témat.

Maximální výstup je 16 000 tokenů na požadavek. Pokud nespecifikujete max_tokens, výchozí hodnota je 2 048. Plánujte své podněty tak, abyste zůstali v okně kontextu 100 000 tokenů.

Limity rychlosti a omezení

Každý klíč API umožňuje 300 požadavků za minutu a 8 souběžných požadavků. Maximální velikost těla požadavku je 8 MB.

Pokud překročíte tyto limity, obdržíte chybu 429. Jeden účet podporuje jeden aktivní klíč; vygenerování nového klíče nahradí předchozí.

Úvěr nevyprší, takže můžete doplnit, kdykoli je to potřeba. Pro doplňování použijte kryptoměny, přičemž pro větší částky je k dispozici bonusový kredit.

cURL

Copycurl https://api.veniceaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a summary of the current weather conditions"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamování

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)