Dokumentasi API Venice AI dan Permulaan Pantas

Pengesahan dan URL Asas

Your venice ai api key mengesahkan setiap permintaan ke API. Gantikan URL asas lalai dalam konfigurasi SDK anda dengan yang di atas. Sistem ini menggunakan kredit pra-dibayar, jadi pastikan baki anda mencukupi sebelum menghantar beban berat.

Hujung Sambungan Penyelesaian Sembang

Hantar teks ke model menggunakan hujung sambungan penyelesaian sem piawai. ID model sentiasa uncensored, memastikan tingkah laku yang konsisten tanpa penolakan kandungan untuk topik dewasa yang sah.

Konfigurasikan klien anda untuk mengarah ke URL asas yang betul dan sertakan pengenal pasti model dalam badan permintaan. Anda boleh menyesuaikan parameter seperti temperature atau top_p untuk mengawal kreativiti.

Ralau dan penolakan adalah percuma, jadi anda hanya membayar untuk penggunaan token sebenar. Jendela konteks menyok sehingga 100,000 token untuk input dan output digabungkan.

Streaming dan Penggunaan SSE

Aktifkan penjanaan token masa nyata dengan menetapkan stream: true dalam permintaan anda. API mengembalikan Acara Diterusi Pelayan (SSE) yang boleh anda uraikan secara berperingkat.

Setiap chunk mengandungi teks separa, tetapi metrik penggunaan token hanya muncul dalam chunk terakhir. Pendekatan ini mengurangkan latensi yang dirasakan untuk pengguna yang menunggu kandungan berbentuk panjang.

Kendalikan acara akhir aliran untuk menyelesaikan respons. Pastikan klien anda menimbulkannya teks terkumpul dengan betul sebelum menyajikannya kepada pengguna akhir.

Panggilan Fungsi dan Mod JSON

Gunakan API untuk pengekstrakan data terstruktur atau pelaksanaan alat. Tetapkan response_format ke {"type": "json_object"} untuk memaksakan output JSON yang ketat.

Takrifkan alat dalam badan permintaan untuk membolehkan model memanggil fungsi. Model akan mengembalikan hujah terstruktur yang boleh dilaksanakan oleh backend anda.

Ciri ini sesuai untuk membina ejen atau mengautomasikan aliran kerja. Pastikan definisi fungsi anda jelas untuk meminimumkan halusinasi dalam hujahan.

Parameter dan Tetapan

Kawal tingkah laku model menggunakan parameter standard. Gunakan temperature untuk kreativiti, top_p untuk pensampelan nukleus, dan stop urutan untuk memendekkan output.

Tetapkan seed untuk keputusan yang boleh diulang semasa pengujian. Laraskan presence_penalty dan frequency_penalty untuk mempengaruhi kepelbagaian topik.

Output maksimum ialah 16,000 token setiap permintaan. Jika anda tidak menentukan max_tokens, nilai lalai ialah 2,048. Rancang prompt anda untuk kekal dalam tetingkap konteks 100,000 token.

Had had laju dan kekangan

Setiap kunci API membolehkan 300 permintaan setiap minit dan 8 permintaan serentak. Saiz badan permintaan maksimum ialah 8 MB.

Jika anda melebihi had ini, anda akan menerima ralat 429. Satu akaun menyokong satu kunci aktif; penjanaan kunci baharu akan menggantikan kunci sebelumnya.

Kredit tidak luput, jadi anda boleh menambah baki bila-bila masa diperlukan. Gunakan kripto untuk penambahan, dengan kredit bonus tersedia untuk jumlah yang lebih besar.

cURL

Copycurl https://api.veniceaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a summary of the current weather conditions"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)