Construyendo Zyrabit / 01

IA práctica, cerca de quienes la usan.

Trabajo entre software, infraestructura e IA aplicada: exploro cómo los modelos pequeños y eficientes pueden hacer que la tecnología útil sea más fácil de ejecutar, entender y poseer.

Actualmente estoy construyendo Zyrabit: productos, interfaces y equipos alrededor de una idea sencilla: la IA útil debe ser accesible, local y propiedad de quienes dependen de ella.

Retrato de Abraham Gómez
Abraham Gómez / programador, aprendiz, constructor

La idea

La IA se vuelve más útil cuando puede ejecutarse cerca de los datos.

01Los modelos pequeños pueden ser suficientes para tareas enfocadas.

02La ejecución local puede reducir la dependencia de APIs externas.

03El código abierto facilita inspeccionar y adaptar los sistemas.

04La adopción real depende del hardware, la documentación y los ejemplos.

Proyecto actual

Zyrabit — infraestructura de IA local para hardware real.

Zyrabit es un proyecto open source en fase beta/MVP que explora cómo desarrolladores y organizaciones pueden ejecutar sistemas de IA sin conexión y trazables con infraestructura que ya tienen.

Explorar Zyrabit ↗
Open sourceInferencia localListo para operar sin conexiónFlujos trazablesAdaptable a distintos contextos

Un ejemplo funcionando

Inferencia local en una Mac.

Una comparación medida en hardware Apple M1 Pro con 16 GB de memoria unificada. La misma pregunta, dos modelos cuantizados y distintos intercambios.

Pregunta

«¿Cuáles son los tres colores primarios?»

Leer el caso de estudio ↗
MétricaDeepSeek R1 · 8BQwen 2.5 · 7B
Respuesta E2E3.96 s2.17 s
Velocidad promedio~20 tokens/s~40 tokens/s
Archivo del modelo4.92 GB4.40 GB
Asignación de memoria unificada / Metal~4.92 GB~4.40 GB

Qwen respondió casi al doble de velocidad en esta prueba porque no transmite tokens internos de razonamiento antes de la respuesta final. Los resultados corresponden a este hardware, runtime, prompt y build de modelo.

Dónde puede importar

Una capa de infraestructura, muchos contextos.

Son contextos posibles de adaptación, no casos de clientes, certificaciones ni promesas de producción.

Salud

Búsqueda privada de documentos y apoyo al conocimiento clínico.

Banca

Consulta interna de políticas y procedimientos.

Gobierno

Despliegues controlados en entornos privados o desconectados.

Industria

Acceso local a manuales y conocimiento operativo.

Investigación

Experimentos reproducibles cerca de los datos.

Escritura

Ensayos, experimentos y aprendizajes de construir.

Ver toda la escritura ↗

Contexto personal

El trabajo es técnico. La forma de llegar a las ideas es humana.

El café, la música, los viajes, la fotografía, las interfaces y las caminatas influyen en cómo pienso los sistemas: a través del ritmo, las restricciones, la repetición y los pequeños detalles.

Sobre mí ↗