Proyecto · 5 min
Zyrabit SLM
Un beta/MVP open source que explora infraestructura de IA local, sin conexión y trazable sobre hardware real.
Zyrabit SLM es un proyecto open source en fase beta/MVP. Explora cómo desarrolladores y organizaciones pueden ejecutar sistemas de IA útiles cerca de sus datos, incluso en entornos sin conexión o controlados.
Véelo en acción: IA verdaderamente soberana
Este demo práctico muestra Zyrabit Platform ejecutándose 100% sin conexión: procesa comandos de voz y captura imágenes en tiempo real, sin APIs externas ni conexión a internet.
Qué funciona hoy
- Repositorio público y documentación.
- Instalación reproducible mediante los scripts de ciclo de vida del repositorio.
- Inferencia de modelos locales mediante el stack documentado.
- Trabajo inicial de benchmarks en Apple Silicon.
- Ejemplos de recuperación, orquestación de modelos y comprobaciones operativas.
El repositorio describe un stack administrado con Docker, una red de modelos respaldada por Ollama, una API RAG, ChromaDB, Prometheus, Grafana, MCP y n8n opcional. Son componentes documentados por el repositorio actual, no una afirmación de que cada despliegue esté listo para producción.
El problema que explora
Las APIs en la nube son útiles, pero no son la única forma de desplegar IA. Algunos equipos necesitan ejecución local, flujos inspeccionables y la posibilidad de mantener los datos dentro de un entorno que controlan. Zyrabit explora cómo puede verse esa capa con hardware disponible.
Un ejemplo medido
El caso de estudio en Mac compara DeepSeek-R1-Distill-Llama-8B-Q4_K_M.gguf y qwen2.5-7b-instruct.gguf en una Apple M1 Pro con 16 GB de memoria unificada. La misma pregunta produjo distintos intercambios de latencia y memoria. Leer la medición completa.
Lo que no afirma
Zyrabit no se presenta como infraestructura certificada para todas las organizaciones reguladas, sistema de diagnóstico médico, benchmark universal ni plataforma de producción sin costo. Esas afirmaciones requieren evidencia independiente.
Enlaces
El proyecto está disponible en Zyrabit-tech/zyrabit-SLM. El repositorio y su README actual son la fuente de verdad para la instalación y las capacidades soportadas.