Documentación y guía de inicio rápido de la API de Venice AI

Autenticación y URL base

Tu venice ai api key autentica cada solicitud a la API. Reemplaza la URL base estándar en la configuración de tu SDK con la anterior. El sistema utiliza crédito prepagado, así que asegúrate de que tu saldo sea suficiente antes de enviar cargas pesadas.

Endpoint Chat Completions

Envía texto al modelo usando el punto de conexión estándar de completados de chat. El ID del modelo es siempre uncensored, asegurando un comportamiento consistente sin rechazos de contenido para temas adultos lícitos.

Configura tu cliente para apuntar a la URL base correcta e incluye el identificador del modelo en el cuerpo de la solicitud. Puedes ajustar parámetros como temperature o top_p para controlar la creatividad.

Los errores y las denegaciones son gratuitos, así que solo pagas por el uso real de tokens. La ventana de contexto admite hasta 100,000 tokens para la entrada y la salida combinadas.

Streaming y Uso de SSE

Habilita la generación de tokens en tiempo real estableciendo stream: true en tu solicitud. La API devuelve Eventos Enviados por el Servidor (SSE) que puedes analizar de forma incremental.

Cada fragmento contiene texto parcial, pero las métricas de uso de tokens solo aparecen en el último fragmento. Este enfoque reduce la latencia percibida para los usuarios que esperan contenido de formato largo.

Maneja el evento de fin de flujo para finalizar la respuesta. Asegúrate de que tu cliente almacene en búfer el texto acumulado correctamente antes de presentarlo al usuario final.

Llamada de Función y Modo JSON

Usa la API para extracción de datos estructurados o ejecución de herramientas. Establece response_format para {"type": "json_object"} para forzar una salida JSON estricta.

Define herramientas en el cuerpo de la solicitud para permitir que el modelo invoque funciones. El modelo devolverá argumentos estructurados que tu backend puede ejecutar.

Esta característica es ideal para construir agentes o automatizar flujos de trabajo. Asegúrate de que tus definiciones de funciones sean claras para minimizar las alucinaciones en los argumentos.

Parámetros y configuración

Controla el comportamiento del modelo usando parámetros estándar. Usa temperature para la creatividad, top_p para muestreo por núcleo, y stop secuencias para truncar la salida.

Establecer seed para resultados reproducibles durante las pruebas. Ajusta presence_penalty y frequency_penalty para influir en la diversidad de temas.

La salida máxima es de 16.000 tokens por solicitud. Si no especificas max_tokens, el valor predeterminado es 2,048. Planifica tus prompts para permanecer dentro de la ventana de contexto de 100,000 tokens.

Límites de velocidad y restricciones

Cada clave de API permite 300 solicitudes por minuto y 8 solicitudes concurrentes. El tamaño máximo del cuerpo de la solicitud es de 8 MB.

Si superas estos límites, recibirás un error 429. Una sola cuenta admite una clave activa; generar una nueva clave reemplaza a la anterior.

El crédito nunca caduca, por lo que puedes realizar un recargo cuando sea necesario. Usa criptomonedas para los recargos, con crédito de bonificación disponible para cantidades mayores.

cURL

Copycurl https://api.veniceaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a summary of the current weather conditions"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Transmisión

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)