Dokumentasi dan Panduan Cepat API Venice AI

Autentikasi dan URL Dasar

Anda venice ai api key mengautentikasi setiap permintaan ke API. Ganti URL dasar standar dalam konfigurasi SDK Anda dengan yang di atas. Sistem menggunakan kredit pra-dibayar, jadi pastikan saldo Anda cukup sebelum mengirim payload berat.

Endpoint Chat Completions

Kirim teks ke model menggunakan endpoint penyelesaian chat standar. ID model selalu uncensored, memastikan perilaku yang konsisten tanpa penolakan konten untuk topik dewasa yang sah.

Konfigurasikan klien Anda untuk mengarah ke URL dasar yang benar dan sertakan pengidentifikasi model dalam body permintaan. Anda dapat menyesuaikan parameter seperti temperature atau top_p untuk mengontrol kreativitas.

Error dan penolakan gratis, sehingga Anda hanya membayar untuk penggunaan token aktual. Jendela konteks mendukung hingga 100,000 token untuk input dan output digabungkan.

Streaming dan Penggunaan SSE

Aktifkan generasi token secara real-time dengan mengatur stream: true dalam permintaan Anda. API mengembalikan Server-Sent Events (SSE) yang dapat Anda uraikan secara inkremental.

Setiap chunk berisi teks parsial, tetapi metrik penggunaan token hanya muncul di chunk terakhir. Pendekatan ini mengurangi latensi yang dirasakan bagi pengguna yang menunggu konten berbentuk panjang.

Tangani event akhir stream untuk menyelesaikan respons. Pastikan klien Anda men-buffer teks yang terakumulasi dengan benar sebelum menampilkannya kepada pengguna akhir.

Pemanggilan Fungsi dan Mode JSON

Gunakan API untuk ekstraksi data terstruktur atau eksekusi alat. Setel response_format ke {"type": "json_object"} untuk memaksakan output JSON yang ketat.

Tentukan alat dalam badan permintaan untuk memungkinkan model memanggil fungsi. Model akan mengembalikan argumen terstruktur yang dapat dieksekusi oleh backend Anda.

Fitur ini sangat ideal untuk membangun agen atau mengotomatisasi alur kerja. Pastikan definisi fungsi Anda jelas untuk meminimalkan halusinasi dalam argumen.

Parameter dan Pengaturan

Kendalikan perilaku model menggunakan parameter standar. Gunakan temperature untuk kreativitas, top_p untuk sampling nuklir, dan stop urutan untuk memotong output.

Atur seed untuk hasil yang dapat direproduksi selama pengujian. Sesuaikan presence_penalty dan frequency_penalty untuk memengaruhi keragaman topik.

Output maksimum adalah 16.000 token per permintaan. Jika Anda tidak menentukan max_tokens, nilai defaultnya adalah 2.048. Rencanakan prompt Anda agar tetap dalam jendela konteks 100.000 token.

Batas Laju dan Kendala

Setiap kunci API memungkinkan 300 permintaan per menit dan 8 permintaan simultan. Ukuran tubuh permintaan maksimum adalah 8 MB.

Jika Anda melebihi batas ini, Anda akan menerima error 429. Satu akun mendukung satu kunci aktif; menghasilkan kunci baru akan menggantikan kunci sebelumnya.

Kredit tidak pernah kedaluwarsa, sehingga Anda dapat melakukan top-up kapan dibutuhkan. Gunakan kripto untuk top-up, dengan kredit bonus tersedia untuk jumlah yang lebih besar.

cURL

Copycurl https://api.veniceaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a summary of the current weather conditions"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)