LlamaStation es una aplicación gratuita y de código abierto que permite ejecutar modelos de inteligencia artificial de forma local en Windows mediante llama.cpp, evitando tener que manejar el motor desde la línea de comandos. Su interfaz está disponible en castellano e inglés y proporciona acceso a numerosos parámetros de configuración, por lo que resulta útil tanto para usuarios que comienzan con los modelos locales como para quienes desean un mayor control sobre su ejecución.

El programa permite descargar modelos directamente desde Hugging Face, gestionar archivos en formato GGUF y guardar configuraciones específicas para cada modelo. Incorpora chat, historial de conversaciones, búsqueda web mediante DuckDuckGo, archivos adjuntos y compatibilidad con modelos multimodales capaces de analizar imágenes.

LlamaStation ofrece además monitorización en tiempo real de la memoria VRAM y soporte para configuraciones con varias GPU. Es compatible con diferentes variantes de llama.cpp y dispone de opciones como Flash Attention, reparto de modelos entre varias tarjetas gráficas y control de la caché KV.

También puede funcionar como servidor mediante una API compatible con OpenAI, lo que permite utilizar los modelos locales desde otros programas y herramientas. No requiere cuentas, suscripciones ni telemetría y el procesamiento de los modelos puede realizarse íntegramente en el propio ordenador.