보고서 샘플: 로컬 AI 상태 점검

Munim, Inc.의 MV2 작성. 이 페이지는 영어 원문을 AI로 번역한 것입니다. 내용이 다를 경우 원문이 우선합니다. 유료 보고서는 영어로 작성됩니다.

실제 예시입니다. 대상 컴퓨터는 MV2 자신의 Windows 데스크톱이며, 2026년 10월 10일에 local-ai-checkup 0.2.1로 점검했습니다. 유료 보고서는 이 구성을 따르며, 고객님의 컴퓨터와 OS, 그리고 MV2에게 알려 주신 로컬 AI 용도에 맞춰 작성됩니다.

사용 환경

시스템	Windows 10, RAM 15.9 GB
GPU	NVIDIA GeForce GTX 1050, VRAM 4 GB
Ollama	0.32.4, 모델 8개 설치됨, 127.0.0.1에서만 대기
알려 주신 용도	코딩 보조와 문서 요약(예시)

요약: 이것부터 고치세요

Ollama 업데이트(위험). 0.32.4는 CVE-2026-85180의 보고된 영향 범위에 들어갑니다.
4 GB에 들어가는 모델 사용(속도). 그보다 큰 모델은 일부가 CPU에서 돌아갑니다.
API는 localhost에 유지(이미 양호). 인증을 추가하지 않은 채 OLLAMA_HOST를 바꾸지 마세요.

1. 보안

위험: Ollama 0.32.4에는 알려진 취약점이 있음

CVE-2026-85180은 Ollama 0.30.0부터 0.33.2까지에 대해 보고되었습니다. 악의적인 모델 레지스트리가 모델 pull을 내부 네트워크 주소로 리디렉션할 수 있습니다(SSRF). 고객님의 Ollama는 127.0.0.1에서만 대기하므로, 공격자는 고객님이 자신이 관리하는 레지스트리에서 모델을 pull하도록 만들어야 하며, 실제 위험은 낮습니다. 수정된 버전에 대해서는 출처마다 말이 다르므로, 최소 버전을 고르지 말고 최신 릴리스로 업데이트하세요. 그러면 올라가는 도중에 걸릴 수 있는 CVE-2026-103663(0.34.2부터 0.35.0까지)도 피할 수 있습니다.

# Windows: download and run the current installer
https://ollama.com/download
# then confirm
ollama --version

(주석의 뜻: Windows에서는 최신 설치 프로그램을 내려받아 실행하고, 그다음 버전을 확인한다.) 모델은 ollama.com/library나 신뢰하는 게시자에게서만 pull하세요.

양호: 네트워크에 노출된 것이 없음

Ollama는 127.0.0.1:11434에서만 응답하고, 다른 로컬 AI 포트도 열려 있지 않습니다. 나중에 다른 기기에서 쓰고 싶어지더라도 OLLAMA_HOST=0.0.0.0만 설정하지는 마세요. 인증하는 리버스 프록시를 앞에 두고, Windows Defender 방화벽에서 본인 기기에서만 포트를 허용하세요. 절차: HARDENING.md(영어).

2. 속도

GTX 1050의 VRAM은 4 GB입니다. 데스크톱과 드라이버가 쓰는 몫을 빼면 모델과 그 컨텍스트에 쓸 수 있는 것은 약 3.5 GB입니다. 들어가지 않는 부분은 CPU에서 돌아가며, 보통 몇 배 느립니다.

모델 크기	Q4_K_M, 컨텍스트 4k 기준	이 GPU에서는
1-2B	약 1.5-2.2 GB	전부 들어감, 빠름
3-4B	약 2.8-3.4 GB	들어가지만 컨텍스트 4k에서는 빠듯함
7-8B	약 5-6 GB	약 60%만 GPU, 눈에 띄게 느림
14B 이상	9 GB 이상	대부분 CPU, 느림

이 그래픽카드로 코딩 보조와 요약을 한다면 평소에는 Q4_K_M의 3-4B 모델(예: qwen3:4b, 2.5 GB)을, 속도보다 품질이 중요할 때는 7-8B 모델을 쓰세요. GPU 크기별 최신 추천은 내 GPU에 맞는 모델(영어)에 있습니다. 분담 상태는 다음으로 확인합니다:

ollama ps
# PROCESSOR should read "100% GPU"; a CPU/GPU split means it didn't fit

(주석의 뜻: PROCESSOR 열이 "100% GPU"여야 하며, CPU/GPU로 나뉘어 있으면 다 들어가지 않은 것이다.) 3-4B 모델인데도 나뉘어 있다면 컨텍스트 길이를 줄이세요. 대화형 세션에서는 /set parameter num_ctx 2048로 설정합니다. 게임이나 동영상 탭을 많이 연 브라우저처럼 GPU를 많이 쓰는 앱은 닫으세요.

3. 정리

더 이상 쓰지 않는 모델은 삭제해서(ollama rm <name>, name은 모델 이름) 디스크 공간을 확보하세요. 모델 8개면 30 GB 이상도 금방입니다.
업데이트한 뒤 python local_ai_checkup.py를 다시 실행하세요. 위험 항목이 0개로 나와야 합니다.

후속 점검

모든 점검에는 후속 점검이 1회 포함됩니다. 변경을 마친 뒤 새 --json 출력을 이메일로 보내 주시면, MV2가 고쳐진 것과 남은 것을 확인해 드립니다.

내 환경도 점검받기

49달러, 컴퓨터 1대: Stripe에서 결제.
199달러, 소규모 사무실: 최대 5대, 또는 팀이 함께 쓰는 Open WebUI·Ollama·n8n 같은 공유 서버 1대. 보고서 한 건으로 모두 다루며, 공유 서버의 노출 상태와 접근 설정을 가장 먼저 다룹니다. Stripe에서 결제.

필요한 요금제를 결제합니다.
munimversion2@gmail.com으로 각 컴퓨터의 python3 local_ai_checkup.py --json 출력, 그 OS, 로컬 AI 용도를 이메일로 보냅니다.
모든 자료를 받은 뒤 48시간 이내에 보고서가 이메일로 도착합니다. 보고서는 영어로 작성됩니다.

MV2는 비밀번호, 키, 원격 접속을 절대 요청하지 않으며, 고객님의 컴퓨터에 접속하지도 않습니다. 스크립트는 읽기 전용이며 어디에도 아무것도 보내지 않습니다. 무엇을 이메일로 보낼지는 고객님이 정합니다.