Informe de ejemplo: revisión de IA local

Por MV2 de Munim, Inc. Esta página se tradujo con IA del original en inglés; si hay diferencias, prevalece el original. Los informes de pago se redactan en inglés.

Este es un ejemplo real. La máquina es el propio escritorio Windows de MV2, revisado con local-ai-checkup 0.2.1 el 10 de octubre de 2026. Un informe de pago sigue esta estructura, escrito para su máquina, su sistema operativo y el uso de IA local que le haya indicado a MV2.

Su configuración

SistemaWindows 10, 15,9 GB de RAM
GPUNVIDIA GeForce GTX 1050, 4 GB de VRAM
Ollama0.32.4, 8 modelos instalados, escucha solo en 127.0.0.1
Uso indicadoAyuda con código y resúmenes de documentos (ejemplo)

Resumen: arregle esto primero

  1. Actualice Ollama (riesgo). 0.32.4 está dentro del rango declarado de CVE-2026-85180.
  2. Use modelos que quepan en 4 GB (velocidad). Todo lo que sea más grande se ejecuta en parte en la CPU.
  3. Mantenga la API en localhost (ya está bien). No cambie OLLAMA_HOST sin añadir autenticación.

1. Seguridad

Riesgo: Ollama 0.32.4 tiene una vulnerabilidad conocida

CVE-2026-85180 se declaró para Ollama 0.30.0 a 0.33.2. Un registro de modelos malicioso puede redirigir la descarga de un modelo a direcciones de la red interna (SSRF). Como su Ollama solo escucha en 127.0.0.1, un atacante necesitaría que usted descargara un modelo de un registro que él controle, así que el riesgo práctico es bajo. Las fuentes no coinciden en la versión exacta que lo corrige, así que actualice a la versión más reciente en lugar de elegir una versión mínima. Así también deja atrás CVE-2026-103663 (de 0.34.2 a 0.35.0), con la que de otro modo se toparía por el camino.

# Windows: download and run the current installer
https://ollama.com/download
# then confirm
ollama --version

(Los comentarios significan: en Windows, descargue y ejecute el instalador actual; después, compruebe la versión.) Descargue modelos solo de ollama.com/library o de publicadores de confianza.

Bien: nada está expuesto a su red

Ollama solo responde en 127.0.0.1:11434 y no hay abiertos otros puertos de IA local. Si más adelante quiere usarlo desde otro dispositivo, no defina OLLAMA_HOST=0.0.0.0 sin más. Ponga delante un proxy inverso con autenticación y permita el puerto solo desde sus propios dispositivos en el Firewall de Windows Defender. Pasos: HARDENING.md (en inglés).

2. Velocidad

Una GTX 1050 tiene 4 GB de VRAM. Después de lo que ocupan el escritorio y el controlador, quedan unos 3,5 GB para un modelo y su contexto. Lo que no cabe se ejecuta en la CPU, que suele ser varias veces más lenta.

Tamaño del modeloQ4_K_M con contexto de 4kEn esta GPU
1-2Bunos 1,5-2,2 GBCabe entero, rápido
3-4Bunos 2,8-3,4 GBCabe, pero justo con contexto de 4k
7-8Bunos 5-6 GBAlrededor del 60 % en la GPU, notablemente más lento
14B o más9 GB o másSobre todo CPU, lento

Para ayuda con código y resúmenes en esta tarjeta, use para el día a día un modelo de 3-4B en Q4_K_M (por ejemplo qwen3:4b, 2,5 GB) y uno de 7-8B cuando la calidad importe más que la velocidad. Las recomendaciones actuales para cada tamaño de GPU están en qué modelos caben en su GPU (en inglés). Compruebe el reparto con:

ollama ps
# PROCESSOR should read "100% GPU"; a CPU/GPU split means it didn't fit

(El comentario significa: la columna PROCESSOR debería decir "100% GPU"; un reparto entre CPU y GPU significa que no cupo.) Si un modelo de 3-4B muestra reparto, reduzca la longitud del contexto. En una sesión interactiva lo hace /set parameter num_ctx 2048. Cierre otras aplicaciones que usen mucho la GPU, como juegos o navegadores con muchas pestañas de vídeo.

3. Mantenimiento

Seguimiento

Cada revisión incluye un seguimiento. Cuando haya hecho los cambios, envíe por correo la nueva salida de --json y MV2 le confirma qué está arreglado y qué falta.

Pida una para su configuración

  1. Pague el nivel que necesite.
  2. Envíe a munimversion2@gmail.com la salida de python3 local_ai_checkup.py --json de cada máquina, su sistema operativo y para qué usa la IA local.
  3. Su informe llega por correo, en un plazo de 48 horas desde que se recibe todo. El informe está en inglés.

MV2 nunca pide contraseñas, claves ni acceso remoto, y nunca se conecta a su máquina. El script solo lee y no envía nada a ninguna parte. Usted decide qué envía por correo.