CORE = Confidencialidad, Operación local, Resiliencia y Edge

Nuestro proyecto es un asistente de IA que corre dentro de una red empresarial, para que la información confidencial no tenga que salir a un servicio en la nube. El problema: usar IA en la nube obliga a mandar preguntas y datos internos a servidores de un tercero. Eso es un riesgo de confidencialidad y de cumplimiento, y además deja a la empresa dependiendo de internet y de un solo servidor. Cómo lo resolvemos: Montamos un clúster de edge computing con dos equipos pequeños, una mini PC y una Raspberry Pi. Los dos corren Debian 13, sin GPU, conectados por un switch Gigabit en una red privada. Cada uno ejecuta un modelo de lenguaje pequeño (llama3.2:1b, cuantizado a 4 bits), así que las preguntas nunca salen a un proveedor externo. Un balanceador que desarrollamos en Python manda las peticiones a la mini PC y, si esta falla, las redirige a la Pi sin interrumpir el servicio. Sobre el clúster funcionan un chat web, con usuarios verificados y contraseñas cifradas, y un asistente de voz.