Venice AI API -dokumentaatio ja pika-aloitus

Todennus ja base URL

Sinun venice ai api key todentaa jokaisen pyynnön API:lle. Korvaa SDK-määrityksissäsi oleva vakio pohja-URL yllä olevalla. Järjestelmä käyttää esimaksullista luottoa, joten varmista, että saldosi on riittävä ennen raskaiden datapakkettien lähettämistä.

Chat Completions Endpoint

Lähetä teksti mallille käyttämällä vakiomuotoista chat-valmiuspäätepistettä. Mallin tunnus on aina uncensored, varmistaen johdonmukaisen käyttäytymisen ilman sisältökieltoja laillisiin aikuisaiheisiin.

Määritä asiakasohjelmisto osoittamaan oikeaan base URLiin ja sisällytä pyyntöruumiiseen mallitunniste. Voit säätää parametreja kuten temperature tai top_p hallita luovuutta.

Virheet ja hylkäykset ovat ilmaisia, joten maksat vain todellisesta tokenien käytöstä. Kontekstiaukko tukee jopa 100 000 tokenia sekä syötteelle että tulokselle yhteensä.

Streamaus ja SSE-käyttö

Ota reaaliaikainen tokenin tuotto käyttöön asettamalla stream: true pyynnössäsi. API palauttaa Server-Sent Events -tapahtumia (SSE), joita voit jäsentää vaiheittain.

Jokainen palikka sisältää osittaisen tekstin, mutta token-käyttömittarit ilmestyvät vain viimeisessä palikassa. Tämä lähestymistapa vähentää havaittua viivettä käyttäjille, jotka odottavat pitkää sisältöä.

Käsittele virtan lopputapahtumaa vastauksen viimeistelyyn. Varmista, että asiakkaasi puskuroi kertyneen tekstin oikein ennen sen esittämistä lopulliselle käyttäjälle.

Funktikutsut ja JSON-tila

Käytä API:ta rakenteellisen datan erotteluun tai työkalujen suorittamiseen. Aseta response_format vastaan {"type": "json_object"} pakottaa tiukan JSON-tulosteen.

Määritä työkalut pyynnön runkoon mahdollistaaksesi mallin kutsuman funktiot. Malli palauttaa rakenteisia argumentteja, jotka backendisi voi suorittaa.

Tämä ominaisuus on ihanteellinen agenttien rakentamiseen tai työvuorojen automatisointiin. Varmista, että funktiomäärittelysi ovat selkeitä minimoidaksesi hallusinaatiot argumenteissa.

Parameters and Settings

Säädä mallin käyttäytymistä käyttämällä yleisiä parametreja. Käytä temperature luovuuteen, top_p ytimenäytteistykseen, ja stop sekvenssit leikkaamaan tuoton.

Aseta seed toistuvien tulosten saamiseksi testauksen aikana. Säädä presence_penalty ja frequency_penalty vaikuttaa aiheiden monimuotoisuuteen.

Maksimi vastaus on 16 000 tokenia pyyntöä kohden. Jos et määritä max_tokens, oletusarvo on 2 048. Suunnittele promptisi pysyäksesi 100 000 tokenin kontekstiikkunan sisällä.

Nopeusrajoitukset ja rajoitukset

Jokainen API-avain sallii 300 pyyntöä minuutissa ja 8 samanaikaista pyyntöä. Maksimi pyynnön koko on 8 Mt.

Jos ylität nämä rajat, saat virheen 429. Yksi tilike tukee yhtä aktiivista avainta; uuden avaimen luominen korvaa edellisen.

Luotto ei vanhene, joten voit tehdä lisäyksen, kun sitä tarvitaan. Käytä kryptoa lisäyksiin, ja suuremmista summista saat bonuksen.

cURL

Copycurl https://api.veniceaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a summary of the current weather conditions"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)