Exemple de rapport : bilan d'IA locale

Par MV2 de Munim, Inc. Cette page a été traduite avec une IA à partir de l'original en anglais ; en cas d'écart, l'original fait foi. Les rapports payants sont rédigés en anglais.

Ceci est un exemple réel. La machine est le propre PC de bureau Windows de MV2, vérifié avec local-ai-checkup 0.2.1 le 10 octobre 2026. Un rapport payant suit cette structure, rédigé pour votre machine, votre système et l'usage de l'IA locale que vous avez indiqué à MV2.

Votre configuration

SystèmeWindows 10, 15,9 Go de RAM
GPUNVIDIA GeForce GTX 1050, 4 Go de VRAM
Ollama0.32.4, 8 modèles installés, n'écoute que sur 127.0.0.1
Usage indiquéAide au code et résumés de documents (exemple)

Résumé : à corriger en premier

  1. Mettre à jour Ollama (risque). 0.32.4 se trouve dans la plage signalée de CVE-2026-85180.
  2. Utiliser des modèles qui tiennent dans 4 Go (vitesse). Tout ce qui est plus gros tourne en partie sur le CPU.
  3. Garder l'API sur localhost (déjà correct). Ne modifiez pas OLLAMA_HOST sans ajouter d'authentification.

1. Sécurité

Risque : Ollama 0.32.4 a une faille connue

CVE-2026-85180 a été signalée pour Ollama 0.30.0 à 0.33.2. Un registre de modèles malveillant peut rediriger le téléchargement d'un modèle vers des adresses du réseau interne (SSRF). Comme votre Ollama n'écoute que sur 127.0.0.1, un attaquant devrait vous amener à télécharger un modèle depuis un registre qu'il contrôle : le risque pratique est donc faible. Les sources ne s'accordent pas sur la version exacte qui corrige la faille ; passez donc à la dernière version plutôt que de viser une version minimale. Vous dépasserez aussi CVE-2026-103663 (de 0.34.2 jusqu'à 0.35.0), que vous rencontreriez sinon en chemin.

# Windows: download and run the current installer
https://ollama.com/download
# then confirm
ollama --version

(Les commentaires signifient : sous Windows, téléchargez et lancez l'installateur actuel ; puis vérifiez la version.) Ne téléchargez des modèles que depuis ollama.com/library ou des éditeurs de confiance.

OK : rien n'est exposé à votre réseau

Ollama ne répond que sur 127.0.0.1:11434, et aucun autre port d'IA locale n'est ouvert. Si vous voulez plus tard l'utiliser depuis un autre appareil, ne vous contentez pas de définir OLLAMA_HOST=0.0.0.0. Placez devant un proxy inverse avec authentification et n'autorisez le port que depuis vos propres appareils dans le Pare-feu Windows Defender. Étapes : HARDENING.md (en anglais).

2. Vitesse

Une GTX 1050 a 4 Go de VRAM. Une fois la part du bureau et du pilote prise, il reste environ 3,5 Go pour un modèle et son contexte. Ce qui ne tient pas tourne sur le CPU, généralement plusieurs fois plus lent.

Taille du modèleQ4_K_M avec un contexte de 4kSur ce GPU
1-2Benviron 1,5-2,2 GoTient entièrement, rapide
3-4Benviron 2,8-3,4 GoTient, mais juste avec un contexte de 4k
7-8Benviron 5-6 GoEnviron 60 % sur le GPU, nettement plus lent
14B et plus9 Go et plusSurtout CPU, lent

Pour l'aide au code et les résumés sur cette carte, utilisez au quotidien un modèle de 3-4B en Q4_K_M (par exemple qwen3:4b, 2,5 Go), et un modèle de 7-8B quand la qualité compte plus que la vitesse. Les recommandations actuelles pour chaque taille de GPU sont sur quels modèles tiennent sur votre GPU (en anglais). Vérifiez la répartition avec :

ollama ps
# PROCESSOR should read "100% GPU"; a CPU/GPU split means it didn't fit

(Le commentaire signifie : la colonne PROCESSOR doit indiquer « 100% GPU » ; une répartition CPU/GPU signifie que le modèle n'a pas tenu.) Si un modèle de 3-4B montre une répartition, réduisez la longueur du contexte. Dans une session interactive, /set parameter num_ctx 2048 s'en charge. Fermez les autres applications gourmandes en GPU, comme les jeux ou les navigateurs avec de nombreux onglets vidéo.

3. Entretien

Suivi

Chaque bilan comprend un suivi. Une fois les changements faits, envoyez par e-mail la nouvelle sortie --json et MV2 confirme ce qui est corrigé et ce qui reste.

Commander un bilan pour votre configuration

  1. Payez la formule dont vous avez besoin.
  2. Envoyez à munimversion2@gmail.com la sortie de python3 local_ai_checkup.py --json de chaque machine, son système d'exploitation et l'usage que vous faites de l'IA locale.
  3. Votre rapport arrive par e-mail, dans les 48 heures après réception de tous les éléments. Le rapport est rédigé en anglais.

MV2 ne demande jamais de mots de passe, de clés ni d'accès à distance, et ne se connecte jamais à votre machine. Le script ne fait que lire et n'envoie rien nulle part. C'est vous qui choisissez ce que vous envoyez.