IA local: cómo usar modelos de inteligencia artificial en tu propio ordenador

Cuando usas un asistente de IA en la web, tu texto viaja a los servidores de una empresa, se procesa allí y vuelve. La IA local hace lo contrario: el modelo se descarga y se ejecuta en tu propio ordenador. Nada sale de tu máquina. Es una opción cada vez más práctica, con ventajas claras y límites que conviene conocer antes de lanzarse.

Por qué usar IA en local

• Privacidad: tus documentos, notas o datos sensibles no salen de tu equipo.
• Sin conexión: funciona en un avión o sin internet.
• Sin cuotas por uso: una vez descargado el modelo, no pagas por cada consulta (sí pagas la luz y el hardware).
• Control: eliges el modelo, la versión y cómo se configura, y no cambia de un día para otro.

Qué necesitas

El factor decisivo es la memoria. Un modelo de lenguaje ocupa mucho espacio y tiene que caber en la memoria de la tarjeta gráfica (VRAM) o, en algunos equipos, en la memoria unificada del procesador.

• Modelos pequeños: funcionan en un portátil moderno con memoria suficiente. Son rápidos pero menos capaces.
• Modelos medianos: piden una tarjeta gráfica con bastante VRAM o un equipo con mucha memoria unificada.
• Modelos grandes: los más potentes suelen requerir hardware de gama alta o varias tarjetas. Para la mayoría, no compensa.

Existe una técnica llamada cuantización que reduce el tamaño del modelo a cambio de perder algo de precisión. Gracias a ella, modelos que antes eran imposibles en casa hoy caben en equipos normales.

Consejo: Antes de descargar nada, mira cuánta memoria tiene tu tarjeta gráfica o tu equipo. La ficha de cada modelo suele indicar cuánta necesita según la versión cuantizada.

Las herramientas más conocidas

• Ollama: probablemente la forma más sencilla de empezar. Se instala, descargas un modelo con un comando y ya puedes chatear con él o conectarlo a otras aplicaciones.
• llama.cpp: el proyecto en el que se apoyan muchas otras herramientas. Más técnico, pero muy eficiente y flexible.
• Interfaces gráficas: hay aplicaciones de escritorio que permiten descargar y usar modelos sin tocar la terminal. Busca opciones con buena reputación y revisa de dónde descargas.

Todas son proyectos que cambian rápido. Revisa siempre el repositorio oficial, la documentación y la licencia de cada modelo: algunos permiten uso comercial y otros no. Si te interesa el mundo open source, tienes más ejemplos en los mejores repositorios de IA open source.

Cómo empezar paso a paso

1. Comprueba la memoria de tu equipo y el espacio libre en disco (los modelos ocupan varios gigas).
2. Instala una herramienta como Ollama desde su web oficial.
3. Descarga un modelo pequeño para probar que todo funciona.
4. Hazle las mismas preguntas que a tu asistente habitual y compara calidad y velocidad.
5. Si se queda corto, prueba un modelo algo mayor; si va lento, baja de tamaño.
6. Cuando te convenza, úsalo para lo que tenga sentido en local: resumir documentos privados, clasificar textos, borradores.

Límites que debes asumir

• Menos capacidad: los modelos que caben en un ordenador doméstico suelen quedar por detrás de los mejores modelos en la nube, sobre todo en razonamiento largo.
• Velocidad: si el modelo no cabe entero en la memoria rápida, las respuestas pueden ser lentas.
• Sin datos actuales: un modelo local no busca en internet por sí solo. Sabe lo que aprendió en su entrenamiento.
• Mantenimiento: tú eres quien actualiza, configura y resuelve problemas.

Un enfoque sensato es combinar: IA en la nube para tareas exigentes con datos no sensibles, y local para lo privado. Y uses la que uses, aplica lo de los errores más comunes al usar IA: verifica lo que importa.

Descarga modelos y programas solo desde fuentes oficiales. Un archivo de modelo o un instalador de origen dudoso puede contener malware. Y aunque sea local, no guardes claves privadas ni frases semilla en documentos que pases a la IA.