CanIRun.ai

CanIRun.ai es una herramienta web práctica que responde a una pregunta concreta para desarrolladores y entusiastas: ¿puede tu ordenador ejecutar un modelo de IA particular de forma local? Seleccionas tu modelo de GPU, la VRAM disponible y la RAM del sistema, y la herramienta te muestra qué modelos de proveedores como Meta, Google, Mistral AI y OpenAI son compatibles. Proporciona una calificación de rendimiento detallada para cada modelo, desde "Runs great" hasta "Too heavy", junto con la estimación del uso de memoria y los límites de la ventana de contexto.

La herramienta funciona comparando las especificaciones de tu hardware con los requisitos de cientos de modelos de IA de pesos abiertos. No muestra solo una compatibilidad binaria, sino una puntuación de rendimiento matizada que tiene en cuenta los niveles de cuantización (Q2_K, Q4_K_M, etc.) y diferentes arquitecturas de modelos. Esto te ayuda a entender si un modelo funcionará con fluidez, si irá muy justo o si sencillamente no funcionará en tu máquina.

Esto resulta más útil para desarrolladores que experimentan con LLM locales, investigadores que comparan el rendimiento de los modelos en distintos hardwares y cualquier persona que esté montando un PC para trabajar con IA. En lugar de descargar modelos de varios gigabytes para descubrir después que no funcionan, puedes usar CanIRun.ai para tomar decisiones informadas sobre qué modelos probar y qué mejoras de hardware podrían ser necesarias.