Ideas / Caso de estudio
Una interfaz de voz para una IA que permanece cerca.
Estoy explorando cómo se siente conversar con un modelo capaz que corre localmente: sin interponer un panel entre la persona y el sistema, y sin depender de la nube para la primera conversación.
La pregunta
¿Puede un modelo local sentirse presente sin volverse opaco?
El experimento empieza con una interfaz de voz. Hablar es inmediato; lo interesante está alrededor de la respuesta: cuándo escuchar, cuándo detenerse, qué recordar y cómo mantener a la persona en control.
Qué muestran las pruebas
El entorno local se ha probado en Apple Silicon con aceleración Metal, memoria unificada y un modelo pequeño cuantizado cargado en la máquina. Puede distribuir trabajo entre GPU y CPU, haciendo posible experimentar en hardware personal en lugar de depender de un clúster remoto.
El objetivo no es afirmar que cualquier modelo local sea suficientemente rápido para cualquier tarea. El objetivo es hacer visible el límite: qué puede correr localmente, qué debe comunicar la interfaz y dónde debe permanecer la persona dentro del circuito.
La idea de interfaz
Una buena interfaz de voz debe hacer que el sistema sea comprensible. Debe mostrar el estado sin obligar al usuario a entrar a una terminal, conservar la posibilidad de inspeccionar lo ocurrido y fallar de formas que una persona pueda recuperar.
Qué no publico
No publico código propietario, rutas privadas, credenciales, hashes de modelos, nombres internos ni detalles cerrados de implementación. Esta página habla del concepto y de las lecciones del experimento, no expone el sistema.