Local-first no significa local-only

Este sitio no habla de IA soberana en abstracto — corre sobre ella. Vale la pena mostrar exactamente cómo, porque "local-first" se malinterpreta seguido como "nunca uses la nube", y esa no es la postura.

La jerarquía real

Producción corre hoy con tres modelos en orden de prioridad: un modelo primario de 27B en la GPU principal, un secundario de 8B siempre activo en la segunda GPU, y un modelo chico de respaldo en CPU para cuando ninguna GPU está disponible. Cada nivel tiene un rol claro — el primario resuelve la mayoría de las tareas de razonamiento, el secundario cubre picos de carga o tareas más simples, el de CPU es la garantía de que el sistema nunca se cae del todo.

La nube existe en esta arquitectura, pero como fallback explícito, no como default silencioso. Eso importa: un sistema que "a veces" manda tu dato a una API externa sin que lo sepas no es soberano, aunque tenga un modelo local instalado. La diferencia no es tener hardware propio — es que el camino por defecto sea local y la excepción quede documentada y visible.

Por qué importa la diferencia

Correr modelos localmente no es una postura ideológica sin costo — tiene ventajas concretas y medibles: costo marginal cercano a cero una vez amortizado el hardware, sin límites de tasa impuestos por un proveedor externo, control total sobre cuándo y cómo se actualiza el modelo que estás usando. También tiene un costo real: mantenimiento de infraestructura, tiempo de puesta a punto, y un techo de capacidad frente a los modelos comerciales de frontier.

La conclusión honesta

Local-first significa que el dato por defecto se queda en tu infraestructura, y que cuando sale — porque a veces conviene que salga — vos decidiste que saliera, no un default que nadie miró. Esa es la barra que este sitio usa para juzgar cualquier herramienta que reseña, empezando por la suya propia.