Currai

Currai es una plataforma para equipos que crean funciones de IA basadas en modelos de lenguaje extensos. Te ofrece un lugar único para rastrear cada llamada a LLM, probar prompts antes de que pasen a producción y medir qué tan bien se desempeña realmente tu IA. En lugar de rebuscar en registros dispersos o adivinar si un nuevo prompt es mejor, obtienes datos estructurados sobre latencia, coste, uso de tokens y calidad de los resultados.

La herramienta funciona capturando rastreos jerárquicos de cada interacción con el LLM, incluyendo llamadas a herramientas, pasos de recuperación y respuestas del modelo. Puedes filtrar por usuario, sesión, entorno o etiquetas personalizadas. Currai también incluye un registro de prompts que te permite gestionar los prompts fuera de tu código, desplegar nuevas versiones con un solo clic y revertir los cambios al instante si algo falla. Para la evaluación, puedes ejecutar jueces de LLM, heurísticas personalizadas o revisiones humanas sobre el tráfico de producción o prompts experimentales. El A/B testing divide las solicitudes de usuarios reales entre versiones de prompts para que puedas comparar calidad, velocidad y coste lado a lado.

Currai está diseñada para equipos de ingeniería que lanzan productos impulsados por IA, ya sea que estés creando un chatbot de atención al cliente, un asistente de código o una herramienta de generación de contenido. Te ayuda a detectar fallos pronto, entender por qué una respuesta fue mala e iterar los prompts sin tener que volver a desplegar toda tu aplicación. Si estás cansado de los despliegues a ciegas y las revisiones manuales, Currai te da los datos para tomar decisiones informadas.