Venice AI API Dokümantasyonu ve Hızlı Başlangıç

Kimlik Doğrulama ve Temel URL

Sizin venice ai api key API'ye yapılan her isteği doğrular. SDK yapılandırmanızdaki standart temel URL'yi yukarıdakilerle değiştirin. Sistem ön ödemeli kredi kullanır, bu nedenle ağır yükler göndermeden önce bakiyenizin yeterli olduğundan emin olun.

Sohbet Tamamlamaları Uç Noktası

Standart sohbet tamamlama uç noktasını kullanarak modele metin gönderin. Model kimliği her zaman uncensored, yasal yetişkin konular için içerik reddetmeleri olmadan tutarlı davranış sağlar.

Doğru temel URL'ye yönlendirmek için istemcinizi yapılandırın ve model tanımlayıcısını istek gövdesine ekleyin. Parametreleri temperature ou top_p yaratıcılığı kontrol etmek için.

Hatalar ve reddetmeler ücretsizdir, bu nedenle yalnızca gerçek token kullanımından ödeme yaparsınız. Bağlam penceresi, girdi ve çıktı birleşik olarak 100.000 tokena kadar destekler.

Streaming ve SSE Kullanımı

Gerçek zamanlı token üretimini etkinleştirmek için stream: true istek içinde. API, artımlı olarak ayrıştırabileceğiniz Sunucu Tarafı Olayları (SSE) döndürür.

Her bir parça kısmi metin içerir, ancak token kullanım metrikleri yalnızca son parçada görünür. Bu yaklaşım, uzun formatlı içerik bekleyen kullanıcılar için algılanan gecikmeyi azaltır.

Yanıtı sonlandırmak için akış sonu olayını işleyin. İstemcinizin birikmiş metni son kullanıcıya sunmadan önce doğru şekilde arabelleğe aldığınından emin olun.

Fonksiyon Çağırma ve JSON Modu

Yapılandırılmış veri çıkarma veya araç yürütme için API'yi kullanın. Şu ayarı yapın: response_format için {"type": "json_object"} katı JSON çıktısını zorlamak için.

Modelin işlevleri çağırmasına izin vermek için istek gövdesinde araçları tanımlayın. Model, arka ucunuzun yürütebileceği yapılandırılmış argümanlar döndürecektir.

Bu özellik, ajanlar oluşturma veya iş akışlarını otomatikleştirme için idealdir. Argümanlardaki halüsinasyonu en aza indirmek için işlev tanımlarınızın net olduğundan emin olun.

Parameters and Settings

Modelin davranışını standart parametreleri kullanarak kontrol edin. Kullanın temperature yaratıcılık için, top_p nükleus örnekleme için ve stop çıktıyı kısaltmak için diziler.

Ayarla seed ayarlayın presence_penalty ve frequency_penalty konu çeşitliliğini etkilemek için.

İstek başına maksimum çıktı 16.000 token'dır. Belirtilmezse max_tokens, varsayılan değer 2.048'dir. Promptlarınızı 100.000 tokenlık bağlam penceresine sığacak şekilde planlayın.

Saniye Başına İstek Limitleri ve Kısıtlamalar

Her API anahtarı dakikada 300 istek ve 8 eşzamanlı istek sağlar. Maksimum istek gövdesi 8 MB'tır.

Bu sınırları aşarsanız 429 hatası alırsınız. Tek bir hesap bir aktif anahtarı destekler; yeni bir anahtar oluşturmak öncekini değiştirir.

Kredi süresi dolmaz, bu nedenle gerektiğinde yükleme yapabilirsiniz. Yüklemeler için kripto kullanın, daha büyük tutarlar için bonus kredi mevcuttur.

cURL

Copycurl https://api.veniceaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a summary of the current weather conditions"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Akış

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)