IA local en modo degradado: para qué la uso de verdad en el día a día

Después de mi artículo sobre mis 4 IA locales que trabajan en cadena, alguien me hizo una pregunta sencilla: «Con 4 GB de VRAM, no esperaba que funcionara con 4 modelos en cadena. ¿Para qué la usas en el día a día en modo degradado?»

Buena pregunta. Y la respuesta sincera quizá decepcione a algunos: la cadena completa la lanzo pocas veces. En el día a día, uso sobre todo un modelo cada vez, para tareas pequeñas y bien definidas. Esto es lo que hago de verdad con ellos, y lo que ya no les pido.

Primero, una aclaración sobre los «4 modelos en cadena»

Con 4 GB de VRAM, los modelos no funcionan a la vez. Pasan uno tras otro: cada uno se carga, hace su trabajo y libera la tarjeta gracias a keep_alive: 0. Por eso funciona, y también por eso es lento: casi 7 minutos para un texto de 1000 palabras.

Así que reservo la cadena completa (plan, redacción, revisión, versión final) para dos casos:

  • Reestructurar un borrador largo que ya he escrito: la lanzo, me hago un café y leo el resultado.
  • Preparar una página de preguntas frecuentes a partir de mis notas: Qwen hace el plan, Gemma redacta y Phi-4 señala las respuestas poco claras.

Para todo lo demás, llamo directamente al modelo adecuado. Es más rápido, y la mayoría de mis tareas no necesitan tres opiniones.

Algo que hay que saber antes de seguir: todas estas tareas pueden requerir una verificación. Un modelo pequeño se equivoca, a veces con mucha seguridad. Siempre releo lo que me devuelve antes de usarlo.

1. Programar sin conexión

Es mi uso número uno, y de lejos. En VS Code, la extensión Continue funciona siempre con Qwen 2.5 Coder 3B para el autocompletado. Sin Internet, casi no noto la diferencia en el código del día a día.

Lo que le pido en concreto:

  • Las cosas pequeñas que nunca recuerdo: una regla .htaccess de redirección, una regex para limpiar URL, una consulta SQL para listar los artículos sin meta description.
  • Entender mi propio código: con @codebase, pregunto «¿dónde se gestiona el cambio de idioma?» en el tema de WordPress de uno de mis proyectos personales. Muy práctico cuando retomo un proyecto tras una semana sin tocarlo.
  • Depurar un mensaje de error: pego el error y el archivo, y Qwen 3.5 4B propone una pista. A veces se equivoca, pero a menudo me ahorra 10 minutos de búsqueda.
  • Mis proyectos personales: una función para un tema de WordPress, un poco de JavaScript, un pequeño script de Python para renombrar archivos.

Su límite: en cuanto la pregunta depende de una versión reciente de una librería, se inventa cosas. Para eso, espero a que vuelva la conexión y consulto la documentación oficial.

2. Redactar: reformular, no escribir por mí

Mi última prueba lo demostró: pedir un artículo entero a partir de un tema da un texto que se inventa cosas. En cambio, partir de mis propias notas funciona bien.

  • Notas desordenadas → un plan: escribo mis ideas sin orden y Qwen 3.5 4B me propone una estructura en H2/H3. Me quedo con lo que me sirve.
  • Acortar un párrafo: «di lo mismo con la mitad de palabras». Gemma 4 E2B lo hace bien.
  • Revisar antes de publicar: Phi-4 Mini detecta repeticiones, frases demasiado largas y pasajes poco claros. No corrige, señala, y es justo lo que quiero.
  • Un correo personal algo delicado: escribo un primer borrador y pido una versión más corta y más neutra.

La regla que me he fijado: la IA local trabaja sobre mi texto, nunca desde cero.

3. El SEO de mis artículos

El SEO on-page es un trabajo repetitivo y bien definido: el terreno ideal para un modelo pequeño.

  • Title y meta description: pego la introducción y pido 5 propuestas de menos de 60 y 155 caracteres. Me quedo con una y la retoco.
  • Revisar la estructura de los Hn: pego el artículo y pregunto si hay saltos de nivel o títulos demasiado vagos.
  • Textos alternativos de las imágenes: describo la imagen en tres palabras y me propone un alt limpio.
  • Preguntas para las FAQ: «¿qué preguntas se haría un lector después de este artículo?». A menudo ahí encuentro la idea del siguiente artículo.

Lo que no hace: la búsqueda de palabras clave. No tiene ningún dato de volumen ni de competencia. Adivina, y no quiero construir una estrategia sobre una adivinanza.

4. Lo que no sale de mi PC

Es la ventaja en la que no había pensado al principio. Hay textos que no quiero enviar a un servicio en línea:

  • mis borradores de artículos aún sin publicar;
  • mis notas personales y mis listas de ideas;
  • documentos administrativos que solo quiero resumir o reformular.

Con Ollama, todo se queda en la máquina. Incluso con Internet, a veces elijo lo local por eso.

Lo que nunca les pido

Después de unas semanas, la lista está clara:

  • Hechos o cifras: fechas, precios, versiones, estadísticas. Un modelo de 4000 millones de parámetros se inventa cosas con total aplomo.
  • La actualidad: no sabe nada de lo que pasó después de su entrenamiento.
  • Un artículo a partir de un simple tema: mi prueba lo demostró, el resultado es plano y falso en algunos puntos.
  • Una decisión en mi lugar: él propone, yo decido.

En resumen: cuanto más depende la tarea de lo que yo le doy, mejor funciona. Cuanto más depende de lo que él «sabe», menos me fío.

Resumen: qué tarea, qué modelo

Tarea Modelo Tiempo aproximado
Autocompletado en VS Code Qwen 2.5 Coder 3B instantáneo
Regla .htaccess, regex, SQL Qwen 3.5 4B de 10 a 20 s
Búsqueda en mi código (@codebase) nomic-embed-text + Qwen 3.5 4B de 20 a 40 s
Plan a partir de mis notas Qwen 3.5 4B menos de 1 min
Acortar, reformular Gemma 4 E2B de 15 a 30 s
Revisión crítica Phi-4 Mini menos de 1 min
Title, meta, alt, FAQ Qwen 3.5 4B menos de 1 min
Reestructurar un borrador largo La cadena completa unos 7 min

Preguntas frecuentes

¿De verdad hacen falta 4 modelos?

No. Si tuviera que quedarme con uno, sería Qwen 3.5 4B, más Qwen 2.5 Coder 3B para VS Code. Los demás son especialistas a los que recurro de vez en cuando.

¿Sustituye a una IA en línea?

Para mí, no. Normalmente uso una IA en línea para mis proyectos de las tardes y los fines de semana. Lo local es la rueda de repuesto, y la caja fuerte para lo que debe quedarse en casa.

¿Bastan 4 GB de VRAM?

Para un modelo de 2000 a 4000 millones de parámetros cada vez, sí. Más allá, se desborda a la RAM y se vuelve lento. 32 GB de RAM ayudan mucho.

Conclusión

En el día a día, mi IA local no es una fábrica de artículos. Es un asistente para tareas pequeñas: el trozo de código olvidado, la meta description, la revisión. La cadena de 4 la reservo para los borradores largos.

Y cuando se cae la conexión, sigo avanzando en lugar de mirar cómo parpadea el router.