Instalar una IA local para programar en un PC modesto (GTX 1650 Super)

¿Por qué una IA local para programar?

En menos de una hora, instalé un asistente de código que funciona íntegramente en mi PC, sin suscripción ni conexión a internet. Escribe a 65 tokens por segundo en una tarjeta gráfica de 2019 con solo 4 GB de memoria.

Uso IA en línea todos los días. Pero tienen tres inconvenientes cuando desarrollas para clientes:

  • La confidencialidad: el código va a servidores de terceros. En un proyecto de cliente, no es poca cosa.
  • El coste: las suscripciones y los créditos de API se acumulan rápido.
  • La dependencia: sin red, no hay asistente.

Una IA local resuelve estos tres puntos. La pregunta era si mi PC, bastante modesto, sería suficiente. Aquí tienes el paso a paso completo, con mis mediciones reales.

Mi configuración y lo que permite

La memoria de la tarjeta gráfica (VRAM) lo decide todo. Es la que fija el tamaño del modelo que se puede ejecutar rápido.

Componente Mi equipo Impacto para la IA
Tarjeta gráfica NVIDIA GTX 1650 Super, 4 GB de VRAM El factor limitante
RAM 32 GB Permite que un modelo más grande se desborde a ella, a costa de la velocidad
Procesador Intel Core i5-11400F (6 núcleos, 12 hilos) Apoyo correcto
Sistema Windows 64 bits Ollama lo soporta de forma nativa

Para conocer tu propia configuración, abre PowerShell y ejecuta:

Get-CimInstance Win32_Processor | Select-Object Name
[math]::Round((Get-CimInstance Win32_ComputerSystem).TotalPhysicalMemory/1GB,1)
nvidia-smi --query-gpu=name,memory.total --format=csv

Con 4 GB de VRAM, hay que apuntar a modelos de unos 3.000 millones de parámetros en cuantización Q4. Elegí Qwen2.5-Coder 3B: está especializado en código, pesa 1,9 GB y cabe entero en la tarjeta.

Paso 1: actualizar el controlador e instalar Ollama

Un controlador NVIDIA reciente es imprescindible para que la IA use la tarjeta gráfica. El mío era de 2022 (versión 517). Lo actualicé a la versión 617.14 desde la web de NVIDIA y reinicié.

Ollama es el programa que descarga y ejecuta los modelos en local. En Windows, basta con un solo comando:

winget install Ollama.Ollama

Cierra PowerShell, vuelve a abrirlo y comprueba la instalación:

ollama --version
nvidia-smi --query-gpu=driver_version --format=csv

Si winget no está disponible, el instalador se descarga en ollama.com/download.

Paso 2: primer modelo y prueba de velocidad

El modelo se descarga y se ejecuta con el mismo comando:

ollama run qwen2.5-coder:3b "Escribe una función en Python que compruebe si una cadena es un palíndromo"

La descarga ocupa 1,9 GB. La primera carga en memoria tarda unos segundos y luego la respuesta aparece palabra por palabra.

Para comprobar que la tarjeta gráfica hace el trabajo, abre una segunda ventana de PowerShell:

ollama ps

En mi equipo, el modelo ocupa 2,2 GB y la columna PROCESSOR muestra 100% GPU. Nada se desborda al procesador.

Para medir la velocidad, se añade la opción --verbose:

ollama run qwen2.5-coder:3b --verbose "Escribe una función en JavaScript que ordene un array de objetos por fecha"
Medida Resultado
Velocidad de generación (eval rate) 65,86 tokens/s
Lectura de la pregunta (prompt eval rate) 51,37 tokens/s
Tokens generados 698
Duración total 10,9 s
Carga del modelo (ya en memoria) 7 ms

Una función completa con sus explicaciones, en menos de 11 segundos. Es una velocidad de lectura cómoda, comparable a la de un asistente en línea.

Paso 3: conectar la IA a VS Code con Continue

La extensión Continue conecta VS Code con Ollama. Añade un chat sobre el código y el autocompletado. Ya tenía Cline, pero está pensado para modelos más grandes que trabajan de forma autónoma. Con un modelo 3B, Continue encaja mejor.

  1. En VS Code, abre las extensiones (Ctrl+Shift+X), busca Continue e instala la extensión publicada por Continue.
  2. Haz clic en el icono de Continue en la barra lateral. No introduzcas ninguna clave de API: sirven para las IA en línea.
  3. Abre el archivo de configuración desde «Main Config», o directamente en C:\Users\<tú>\.continue\config.yaml.
  4. Sustituye su contenido por:
name: IA local
version: 1.0.0
schema: v1
models:
  - name: Qwen Coder 3B (local)
    provider: ollama
    model: qwen2.5-coder:3b
    roles:
      - chat
      - edit
      - apply
      - autocomplete
  1. Guarda y elige Qwen Coder 3B (local) en el selector de modelo.

Uso a propósito el mismo modelo para el chat y el autocompletado. La tarjeta solo carga uno, lo que evita saturar los 4 GB de VRAM.

Uso diario:

  • Ctrl+L sobre código seleccionado: haces una pregunta en el chat.
  • Ctrl+I: pides una modificación directamente en el archivo.
  • Mientras escribes código, aparece una sugerencia en gris. Tab para aceptarla.

Caso práctico: usarla para WordPress y SEO

Aquí es donde el modelo local me resulta más útil en el día a día: tareas técnicas cortas y repetitivas, a menudo sobre código de clientes que prefiero mantener en mi equipo.

Prepararla para WordPress

Continue acepta reglas permanentes en config.yaml. Añado este bloque bajo models: para que cada respuesta respete las buenas prácticas de WordPress:

rules:
  - Eres un desarrollador WordPress senior. Respondes en español.
  - Respeta los WordPress Coding Standards y usa prefijos en las funciones (ej. pxv_).
  - Escapa siempre las salidas (esc_html, esc_attr, esc_url) y sanea las entradas (sanitize_text_field).
  - Usa hooks (add_action, add_filter) en lugar de modificar el núcleo o el tema padre.

Truco: en el chat, escribe @ seguido del nombre de un archivo (functions.php, una plantilla) para dárselo como contexto al modelo.

Lo que funciona bien en desarrollo WordPress

Tarea Ejemplo de petición
Hooks y snippets «Añade un filtro que elimine los emojis de WordPress del head»
Custom post types «Crea un CPT «proyecto» con una taxonomía «sector»»
Consultas «Escribe un WP_Query de las 3 últimas entradas de la categoría SEO»
Shortcodes «Crea un shortcode [cta] con un título y un enlace como parámetros»
Depuración Pegar un error PHP del debug.log y pedir la explicación
Redirecciones «Convierte esta lista de URL en reglas 301 para .htaccess»

Lo que funciona bien en SEO técnico

Tarea Ejemplo de petición
Datos estructurados «Genera un JSON-LD LocalBusiness para un restaurante en Madrid»
Regex de Search Console «Escribe una regex que filtre las consultas que contengan presupuesto o precio»
Etiquetas hreflang «Genera las etiquetas hreflang FR/EN/ES para esta URL»
Tratamiento de exportaciones «Escribe un script en Python que liste las páginas sin meta description en este CSV»
Etiquetas en masa «Propón un title de menos de 60 caracteres para cada una de estas 10 páginas»

Lo que no le confío

  • La redacción de artículos: Qwen2.5-Coder está especializado en código. Sus textos son correctos pero planos, y no conoce la actualidad del posicionamiento.
  • La estrategia SEO: elección de palabras clave, análisis de la competencia, enlazado interno de todo un sitio. Le falta perspectiva y datos actualizados.
  • El código en producción sin revisión: siempre compruebo el escapado de datos y pruebo en un entorno de preproducción antes de desplegar.

En resumen: el modelo local es mi asistente para el código WordPress y el SEO técnico, no para el contenido ni la estrategia.

Los límites, y mi veredicto

Un modelo 3B no es un asistente en línea de gama alta. Es rápido y útil, pero hay que saber qué pedirle.

Un ejemplo revelador: le pedí «una función que calcule el IVA al 20 % de un precio sin impuestos». Devolvió una función que calcula el importe del IVA, no el precio con IVA. Es correcto, pero mínimo: un modelo pequeño se toma la petición al pie de la letra. Hay que ser preciso en las instrucciones.

Bueno para Menos bueno para
Autocompletado, funciones cortas Arquitectura de un proyecto entero
Explicar un fragmento de código Razonar sobre varios archivos
Regex, scripts, conversiones Agentes autónomos (Cline y similares)
Trabajar sin conexión y con confidencialidad Peticiones vagas o ambiguas

Para ir más allá con el mismo equipo, se puede probar qwen2.5-coder:7b. Es más acertado, pero se desborda de la VRAM a la RAM, así que será más lento.

Mi veredicto: para un desarrollador con una tarjeta gráfica de 4 GB, una IA local ya es una ganancia real en el día a día. Complementa a un asistente en línea sin sustituirlo: reservo lo local para el código de clientes y las tareas repetitivas, y la nube para los problemas complejos. Todo gratis, en menos de una hora de instalación.