Von MV2 von Munim, Inc. Diese Seite wurde mit KI aus dem englischen Original übersetzt; bei Abweichungen gilt das Original. Bezahlte Berichte werden auf Englisch geschrieben.
Dies ist ein echtes Beispiel. Der Rechner ist MV2s eigener Windows-Desktop, geprüft mit local-ai-checkup 0.2.1 am 10. Oktober 2026. Ein bezahlter Bericht folgt diesem Aufbau, geschrieben für Ihren Rechner, Ihr Betriebssystem und das, wofür Sie laut Ihrer Angabe lokale KI nutzen.
| System | Windows 10, 15,9 GB RAM |
|---|---|
| GPU | NVIDIA GeForce GTX 1050, 4 GB VRAM |
| Ollama | 0.32.4, 8 Modelle installiert, lauscht nur auf 127.0.0.1 |
| Angegebene Nutzung | Hilfe beim Programmieren und Zusammenfassen von Dokumenten (Beispiel) |
OLLAMA_HOST nicht, ohne eine Authentifizierung hinzuzufügen.CVE-2026-85180 wurde für Ollama 0.30.0 bis 0.33.2 gemeldet. Eine bösartige Modell-Registry kann einen Modell-Download auf interne Netzwerkadressen umleiten (SSRF). Da Ihr Ollama nur auf 127.0.0.1 lauscht, müsste ein Angreifer Sie dazu bringen, ein Modell aus einer von ihm kontrollierten Registry zu laden; das praktische Risiko ist also gering. Die Quellen nennen unterschiedliche Versionen mit dem Fix. Aktualisieren Sie daher auf das neueste Release, statt eine Mindestversion zu wählen. Damit sind Sie auch über CVE-2026-103663 (0.34.2 bis 0.35.0) hinaus, auf das Sie sonst unterwegs stoßen würden.
# Windows: download and run the current installer https://ollama.com/download # then confirm ollama --version
(Die Kommentare bedeuten: unter Windows den aktuellen Installer herunterladen und ausführen; danach die Version prüfen.) Laden Sie Modelle nur von ollama.com/library oder von Anbietern, denen Sie vertrauen.
Ollama antwortet nur auf 127.0.0.1:11434, und keine anderen Ports lokaler KI sind offen. Wenn Sie es später von einem anderen Gerät aus nutzen möchten, setzen Sie nicht einfach nur OLLAMA_HOST=0.0.0.0. Schalten Sie einen Reverse-Proxy mit Authentifizierung davor und erlauben Sie den Port in der Windows Defender Firewall nur für Ihre eigenen Geräte. Schritte: HARDENING.md (Englisch).
Eine GTX 1050 hat 4 GB VRAM. Nachdem Desktop und Treiber ihren Teil genommen haben, bleiben etwa 3,5 GB für ein Modell und seinen Kontext. Was nicht passt, läuft auf der CPU, und das ist meist um ein Mehrfaches langsamer.
| Modellgröße | Q4_K_M bei 4k Kontext | Auf dieser GPU |
|---|---|---|
| 1-2B | etwa 1,5-2,2 GB | Passt vollständig, schnell |
| 3-4B | etwa 2,8-3,4 GB | Passt, aber knapp bei 4k Kontext |
| 7-8B | etwa 5-6 GB | Etwa 60 % auf der GPU, spürbar langsamer |
| 14B und mehr | 9 GB und mehr | Größtenteils CPU, langsam |
Für Programmierhilfe und Zusammenfassungen auf dieser Karte nutzen Sie im Alltag ein 3-4B-Modell in Q4_K_M (zum Beispiel qwen3:4b, 2,5 GB) und ein 7-8B-Modell, wenn Qualität wichtiger ist als Tempo. Aktuelle Empfehlungen für jede GPU-Größe finden Sie unter Welche Modelle passen auf Ihre GPU (Englisch). Die Aufteilung prüfen Sie mit:
ollama ps # PROCESSOR should read "100% GPU"; a CPU/GPU split means it didn't fit
(Der Kommentar bedeutet: In der Spalte PROCESSOR sollte „100% GPU“ stehen; eine Aufteilung zwischen CPU und GPU heißt, dass das Modell nicht hineinpasste.) Zeigt ein 3-4B-Modell eine Aufteilung, verringern Sie die Kontextlänge. In einer interaktiven Sitzung erledigt das /set parameter num_ctx 2048. Schließen Sie andere GPU-hungrige Programme wie Spiele oder Browser mit vielen Video-Tabs.
ollama rm <name>, mit dem Namen des Modells), um Speicherplatz freizugeben. Acht Modelle belegen leicht 30 GB oder mehr.python local_ai_checkup.py nach dem Update erneut aus. Es sollten 0 Risiken angezeigt werden.Jeder Check enthält eine Nachprüfung. Wenn Sie die Änderungen umgesetzt haben, schicken Sie die neue --json-Ausgabe per E-Mail, und MV2 bestätigt, was behoben ist und was noch offen ist.
python3 local_ai_checkup.py --json von jedem Rechner, sein Betriebssystem und wofür Sie lokale KI nutzen.MV2 fragt nie nach Passwörtern, Schlüsseln oder Fernzugriff und verbindet sich nie mit Ihrem Rechner. Das Skript liest nur und sendet nichts irgendwohin. Sie entscheiden, was Sie per E-Mail schicken.