Experiential Labs

Experiential Labs es un AI Gateway de código abierto que te ofrece un único endpoint de API para acceder a docenas de modelos de lenguaje extenso de proveedores como OpenAI, Anthropic, Google, Meta, DeepSeek, Mistral y otros más. Tú aportas tus propias claves de API de dichos proveedores (o utilizas la inferencia alojada de Experiential Labs), y el gateway no aplica ningún recargo: pagas exactamente lo que cobra el proveedor. El mismo endpoint también es compatible con modelos que alojes en tus propias GPU o mediante servicios como Bedrock y Azure AI Foundry.

Lo que hace que Experiential Labs sea útil es la capa de inteligencia situada sobre el enrutamiento. Esta monitoriza tu tráfico y sugiere modelos más baratos o rápidos que funcionen igual de bien para prompts específicos. Detecta oportunidades de almacenamiento en caché; cuando lo activas, los tokens repetidos regresan con un 90 % de descuento. Además, puedes ajustar un modelo pequeño según tu propio flujo de trabajo, comprobar su calidad en una simulación de bucle cerrado y luego servirlo a través de la misma API. La consola te muestra el gasto por agente, la latencia por modelo, las tasas de acierto de caché y los registros de solicitudes en tiempo real. Puedes establecer límites por clave por día, semana o mes, y definir listas blancas de modelos para que la clave de un becario solo acceda a modelos locales.

Esta herramienta está pensada para desarrolladores y equipos de IA que gestionan múltiples suscripciones de modelos y quieren centralizar el acceso, controlar los costes y optimizar el rendimiento sin depender de un proveedor concreto. Los casos de uso típicos incluyen ejecutar un agente de soporte que utilice un modelo flash económico para consultas sencillas y recurra a un modelo de frontera para las complejas, o ajustar un modelo de 4B de parámetros para la investigación de reclamaciones que iguale la precisión de un modelo grande a la décima parte del precio. Si ya utilizas los SDK de OpenAI o Anthropic, solo tienes que cambiar la URL base; el resto de tu código permanece igual.