[컴퓨터 놀이] 코알못도 했다! 나만의 홈서버 구축기 (4) — Ollama로 내 PC에서 AI 돌리기

e스포츠, pc 설정, rgb 조명의 무료 스톡 사진

내 서버에서 AI를 돌린다고?

ChatGPT, Gemini, Claude… 다들 클라우드 AI를 쓰고 있죠. 근데 이런 생각 해본 적 없나요?

“내 컴퓨터에서 AI를 돌리면 무료에, 내 데이터도 안 나가잖아?”

맞습니다. 로컬 LLM(Large Language Model)을 돌리면 구독료도 없고, 대화 내용이 외부 서버로 전송되지 않아요. 프라이버시 완벽 보장이죠.

근데 현실은… 좀 다릅니다. 1편에서 소개한 제 SER9 MAX에 직접 AI를 올려봤는데, 결론부터 말하면 “돌아는 간다. 근데 느리다.”

DeepSeek AI 인터페이스를 보여주는 MacBook으로 디지털 혁신을 선보입니다.
Photo by Matheus Bertelli / Pexels

Ollama — 로컬 LLM 엔진

Ollama는 내 컴퓨터에서 AI 모델을 돌릴 수 있게 해주는 프로그램입니다. 어려울 것 같죠? 설치는 AI한테 시켰습니다. 터미널에 명령어 몇 줄 넣으면 끝이에요.

설치가 끝나면 ollama run qwen3:14b 한 줄로 AI가 대답하기 시작합니다. 모델은 알아서 다운로드되고, 별도 설정 없이 바로 채팅이 가능해요.

현재 돌릴 수 있는 오픈소스 모델이 수십 개가 넘습니다. Llama, Qwen, Gemma, Mistral, DeepSeek… 전부 무료. 원하는 걸 골라 쓰면 됩니다.

Open WebUI — 브라우저에서 ChatGPT처럼

터미널에서 채팅하는 건 솔직히 불편합니다. 그래서 Open WebUI를 설치했어요. 브라우저에서 ChatGPT와 똑같은 인터페이스로 AI랑 대화할 수 있는 프로그램이에요.

이것도 설치는 AI한테 시켰습니다. Docker 컨테이너 하나 올리면 끝.

제일 좋은 건 와이프도 접속한다는 거예요. 같은 네트워크에 있으면 폰이든 태블릿이든 브라우저만 열면 됩니다. 계정도 만들 수 있어서 대화 기록도 각자 관리되고요. 2편에서 설정한 Tailscale로 외부에서도 접속 가능합니다.

DeepSeek 애플리케이션이 있는 대화형 AI 인터페이스를 보여주는 노트북 이미지.
Photo by Matheus Bertelli / Pexels

스펙과 성능의 현실 — 핵심은 여기

로컬 AI 얘기에서 제일 중요한 게 “내 컴퓨터로 돌릴 수 있는가?”입니다. 솔직한 실측 데이터를 공유할게요.

제 서버 스펙

항목 사양
CPU AMD Ryzen 7 255 (8코어 16스레드)
RAM DDR5 32GB
GPU 내장 그래픽(AMD Radeon 780M) — 사실상 없음
저장장치 NVMe SSD 1TB
OS Windows 11 + WSL2 (Linux)

실측 성능 (qwen3:14b 모델)

항목 수치
응답 속도 5.5 토큰/초
간단한 질문 응답 약 25초
RAM 점유 약 10GB
양자화 Q4_K_M (9.3GB)

ChatGPT나 Gemini가 1초 만에 답하는 걸, 제 서버는 25초 걸립니다. 체감으로 5~10배 느려요. 글자가 한 자 한 자 천천히 나타나는 걸 보고 있으면… 인내심 테스트입니다.

왜 이렇게 느린가?

GPU가 없기 때문입니다. AI 연산은 GPU(그래픽카드)에 최적화되어 있는데, 제 미니PC에는 내장 그래픽밖에 없어요. AMD 780M iGPU는 WSL2 환경에서 AI 가속으로 사용할 수 없다는 것도 확인했습니다. 결국 CPU로만 연산하니까 느린 거예요.

NVIDIA GPU가 있는 PC라면? 같은 모델이 5~10배 빨라집니다. RTX 4060 정도면 30토큰/초 이상 나와요. 하지만 일반 미니PC에는 외장 GPU를 달 수 없으니, 이건 데스크톱이나 게이밍 노트북 영역이에요.

RAM이 곧 모델 크기를 결정한다

로컬 AI에서 제일 중요한 스펙은 RAM입니다. 모델 전체가 메모리에 올라가거든요.

RAM 돌릴 수 있는 모델 체감 품질
8GB 7B (70억 파라미터) 간단한 대화 가능, 복잡한 건 한계
16GB 14B (140억 파라미터) 일상 대화 무난, 일반 업무 가능
32GB 14B + 여유 / 30B급 시도 가능 14B를 편하게 + 다른 서비스 병행
64GB+ 70B (700억 파라미터) ChatGPT에 근접한 품질

7B vs 14B vs 70B — 크기가 곧 품질입니다. 7B는 간단한 대화는 되지만 복잡한 질문에서 헛소리를 자주 합니다. 14B가 “그래도 쓸만하다”고 느끼는 최소 기준선이에요. 70B는 품질이 확 올라가지만 RAM도 40GB 이상 필요합니다.

제가 32GB인 이유도 이겁니다. 14B 모델을 올리면서 다른 Docker 서비스들(Immich, WordPress, n8n 등)도 동시에 돌려야 하니까요.

선명한 노란색 표면의 T-Force Delta RGB DDR5 메모리 모듈.
Photo by Andrey Matveev / Pexels

그래서 쓸만한가?

솔직하게 정리하면 이렇습니다.

쓸만한 경우:

  • 단순 대화, 번역, 요약 — 느려도 결과물은 나옴
  • 프라이버시가 중요한 내용 — 회사 기밀 문서 분석 등
  • 인터넷 없이 쓰고 싶을 때 — 비행기, 오프라인 환경
  • AI 기능을 다른 프로그램에 연결할 때 — API 호출 무제한, 무료

안 쓸만한 경우:

  • 코딩, 복잡한 분석 — 클라우드 AI가 압도적으로 잘함
  • 빠른 응답이 필요할 때 — 25초 기다릴 인내심이 없다면
  • 최신 정보가 필요할 때 — 로컬 모델은 학습 시점 이후 정보를 모름

결론적으로, 로컬 AI의 핵심 가치는 “무료”“프라이버시”입니다. 성능을 기대하면 실망하고, 이 두 가지가 중요한 사람에게는 충분한 가치가 있어요.

다음 편 예고

지금까지 서버 조립부터 원격 접속, 사진 백업, 로컬 AI까지 왔습니다. 다음 편에서는 이 모든 걸 하나로 묶어주는 핵심 — AI 에이전트와 텔레그램 봇을 다뤄볼게요. 텔레그램으로 말 걸면 AI가 알아서 일하는, 진짜 “내 졸개” 만들기입니다.

EP.5 — AI 에이전트 + 텔레그램: 내 서버에 비서를 두다, 기대해주세요.

[컴퓨터 놀이] 코알못도 했다\! 나만의 홈서버 구축기 (3) — Immich로 구글 포토 완전 대체하기 📸🏠

gmail, google 포토, 가젯의 무료 스톡 사진

지난 3편에서 블로그를 세웠으니, 이번엔 진짜 실용적인 걸 합니다.

사진 백업.

매달 구글 포토에 2,900원, 아이클라우드에 1,100원. 두 개 합치면 한 달에 4,000원. 1년이면 48,000원. 별것 아닌 것 같지만, 이걸 내 서버에서 무료로 돌릴 수 있다면?

결론부터 말하면, 홈서버에 Immich를 올리고 나서 구글 포토 구독을 해지했습니다. 사진 35,000장 이상이 자동으로 백업되고 있고, 밖에서도 Tailscale 덕에 그냥 됩니다. 제가 한 건? 역시 AI한테 시킨 것뿐이에요.

Photo gallery on smartphone
Photo by Leila Abboud / Pexels

구글 포토, 왜 떠나게 됐을까?

솔직히 구글 포토 좋습니다. AI 검색도 되고, 앨범 자동 정리도 되고. 근데 문제는:

  1. 15GB 무료 용량은 순삭. 핸드폰으로 사진 좀 찍으면 3개월이면 꽉 찹니다.
  2. 유료 전환하면 끝이 없음. 100GB 쓰다가 200GB 쓰다가… 평생 구독료.
  3. 내 사진인데 남의 서버에 있음. 구글이 정책 바꾸면? 서비스 종료하면?

아이클라우드도 마찬가지. 아이폰 사진 백업용으로 50GB 쓰고 있었는데, 이것도 매달 나가는 돈.

“내 서버가 있는데 왜 남한테 돈 내고 맡기지?” 이 생각이 들면 이미 반은 온 겁니다.

Immich가 뭔데?

Immich는 한마디로 셀프호스팅 구글 포토입니다.

  • 📱 모바일 앱 — 갤럭시든 아이폰이든 자동 백업
  • 🔍 AI 검색 — “바다”, “고양이” 검색하면 알아서 찾음
  • 🗺️ 지도 뷰 — GPS 정보로 어디서 찍었는지 지도에 표시
  • 👥 얼굴 인식 — 사람별로 자동 분류
  • 📂 앨범 — 공유 앨범, 타임라인 전부 지원
  • 🔒 내 서버 — 데이터가 내 집에만 있음

구글 포토에서 할 수 있는 거 거의 다 됩니다. 무료이고, 오픈소스이고, 용량 제한 없음. 하드 용량이 곧 내 용량.

클로즈업 사진에서 나무 표면 위의 핸드폰
Photo by Markus Winkler / Pexels

설치: Docker Compose 한 방

1편에서 Docker 세팅 다 해놨죠? 그 위에 그냥 올리면 됩니다.

# docker-compose.yml (핵심만)
services:
  immich-server:
    image: ghcr.io/immich-app/immich-server:release
    ports:
      - "2283:2283"
    volumes:
      - ./upload:/usr/src/app/upload
    environment:
      - DB_PASSWORD=your_secure_password_here
      - REDIS_HOSTNAME=redis

  immich-machine-learning:
    image: ghcr.io/immich-app/immich-machine-learning:release

  redis:
    image: redis:7-alpine

  database:
    image: tensorchord/pgvecto-rs:pg16-v0.2.1

Claude한테 “Immich 설치해줘” 하면 이 파일을 만들고 docker compose up -d까지 쳐줍니다. 저는 구경만 했어요.

설치 끝나면 http://서버IP:2283으로 접속. 관리자 계정 만들면 바로 쓸 수 있습니다.

갤럭시에서 자동 백업 설정

  1. Play 스토어에서 Immich 검색 → 설치
  2. 서버 주소 입력: http://192.168.xxx.xxx:2283

    – 집 밖에서도 쓰려면 Tailscale IP 사용 (2편 참고!)

  3. 로그인 → 자동 백업 켜기
  4. 끝.

진짜 이게 끝입니다. 이제 사진 찍으면 자동으로 홈서버에 올라갑니다.

저는 갤럭시 S25 울트라 기준으로 사진 35,000장 이상을 올렸습니다. 시간은? 3~4일 걸렸어요. 근데 솔직히 신경도 안 썼습니다. 앱 깔고 자동 백업 켜놓고 그냥 평소처럼 살았어요. 출근하고, 밥 먹고, 자고 — 그러다 며칠 뒤에 앱 열어보니까 다 올라가 있더라고요. 그게 이 방식의 장점입니다. 한번 켜놓으면 알아서 됩니다.

Cloud backup and storage
Photo by Jakub Zerdzicki / Pexels

아이폰도 됩니다

아이폰 유저도 똑같습니다.

  1. App Store에서 Immich 설치
  2. 서버 주소 + 로그인
  3. 자동 백업 ON

아이클라우드에 있는 기존 사진은 이렇게 옮깁니다:

  1. Mac 사진 앱 → 설정 → “이 Mac에 원본 다운로드”
  2. 전부 내려받기 (용량 주의, 수십 GB일 수 있음)
  3. immich-go라는 도구로 한꺼번에 업로드

구글 포토도 같은 방법입니다. Google Takeout으로 내보내기 → immich-go로 업로드. 중복 사진은 자동으로 걸러냅니다. 구글이든 아이클라우드든 같은 사진이 있으면 한 장만 남겨요.

밖에서도 내 사진에 접근하기

2편에서 Tailscale 세팅해놨던 거, 여기서 빛을 발합니다.

Immich 앱 서버 주소를 Tailscale IP(100.xx.xx.xx:2283)로 넣어두면, 카페에서든 출장지에서든 해외에서든 내 홈서버 사진에 접근됩니다. VPN이니까 보안도 걱정 없고요.

이전 편을 안 읽었다면 2편: Tailscale로 어디서든 접속하기를 참고하세요.

AI 기능: 구글 포토 안 부럽다

Immich에는 Machine Learning 서버가 내장돼 있습니다. 설치하면 자동으로 돌아가요.

사진 검색

검색창에 “음식” 치면 음식 사진만 나옵니다. “바다”, “산”, “자동차” — 다 됩니다. 구글 포토랑 똑같은 AI 검색인데, 내 서버에서 돌아가는 겁니다.

얼굴 인식

사람 얼굴을 자동으로 인식해서 그룹으로 묶어줍니다. “이 사람은 누구?” 하고 이름 붙여주면, 그 사람이 찍힌 사진을 한 번에 볼 수 있어요.

지도 뷰

사진에 GPS 정보가 있으면 세계지도 위에 점으로 찍어줍니다. “작년 여행 때 어디서 찍었더라?” 할 때 유용합니다.

실제로 얼마나 절약되나?

계산해봅시다.

항목 월 비용 연 비용
구글 포토 100GB 2,900원 34,800원
아이클라우드 50GB 1,100원 13,200원
합계 4,000원 48,000원
Immich (셀프호스팅) 0원 0원

서버 전기세? SER9 MAX는 TDP 54W입니다. 24시간 켜놔도 월 전기세 약 2,000원 수준. 근데 이건 블로그, AI 비서, 로컬 LLM 등 다른 서비스도 같이 돌리는 거라 사진 백업만의 비용은 사실상 0원입니다.

하드 용량만 남아있으면 무제한 백업. 1TB SSD 하나 더 꽂으면 10년은 걱정 없습니다.

주의할 점

솔직하게 단점도 말합니다.

  1. 서버가 꺼지면 접근 불가. 정전이나 PC 재부팅 중에는 사진을 못 봅니다. 다만 앱에 캐시가 있어서 최근 사진은 오프라인에서도 보입니다.
  2. 백업의 백업이 필요. 홈서버 SSD가 고장나면 사진이 날아갑니다. 외장하드나 NAS에 이중 백업을 권장합니다.
  3. 초기 업로드 시간. 35,000장 기준 3~4일 걸렸습니다. 근데 백그라운드에서 알아서 되니까 그냥 잊고 살면 됩니다. 어느 날 열어보면 다 끝나있어요.
  4. 공유 앨범은 아직 제한적. 구글 포토처럼 링크 하나로 아무나 볼 수 있는 기능은 아직 완벽하지 않습니다.

그래도 “내 사진은 내 서버에”라는 철학이 맞는 사람이라면, 위 단점은 감수할 만합니다.

다음 편 예고

사진도 내 서버에 백업하고, 블로그도 세우고, 원격 접속도 되고. 이제 이 서버에 AI를 심을 차례입니다.

다음 편에서는:

  • OpenClaw + Telegram — AI 비서를 내 서버에 올리고 텔레그램으로 대화하기
  • 아침마다 날씨, 뉴스, 일정을 정리해서 보내주는 모닝 브리핑 봇
  • 블로그 글도 써주고, 사진도 생성하고, 코딩도 해주는 나만의 AI 졸개 이야기

코드 한 줄 모르는 제가 AI 비서까지 만든 이야기, 기대해주세요.

이 글은 AI(Claude Code)가 작성하고, 코알못 인간이 감수했습니다. 🤖✨

[컴퓨터 놀이] 코알못도 해냈다! 나만의 홈서버 구축기 (1) – SER9 MAX와 Windows 11, WSL2, Docker로 시작하기 💻🚀 (feat. Claude & Claude Code)

선명한 노란색 배경에 골드 인증을 받은 고효율 850W 전원 공급 장치입니다.

[컴퓨터 놀이] 코알못도 해냈다! 나만의 홈서버 구축기 (1) – SER9 MAX와 Windows 11, WSL2, Docker로 시작하기 💻🚀 (feat. Claude & Claude Code)

안녕하세요, 토스터입니다! 🙋‍♂️ 오늘은 제가 직접 경험한 흥미로운 프로젝트, 바로 나만의 홈서버 구축기 첫 번째 이야기를 들려드리려고 합니다. 솔직히 말씀드리면, 저는 코드나 컴퓨터에 대해 정말 아무것도 모르는 일자무식입니다. 그런 제가 클라우드 서비스의 불어나는 비용과 내 데이터의 주권에 대한 고민 끝에 ‘나만의 놀이터’를 만들기로 결심했고, 그 시작은 바로 미니 PC, Beelink SER9 MAX였습니다. 이 모든 여정의 시작은 Claude와 함께했고, 설치 과정은 Claude Code가 알아서 척척 진행해줬다는 점도 특별한 포인트가 될 거예요!

asus rog, led 팬, pc 게임의 무료 스톡 사진
Photo by Andrey Matveev / Pexels

1. 왜 홈서버를 구축하고 싶었을까? 그리고 SER9 MAX 픽! ✨

처음에는 클라우드 서버를 사용했어요. 하지만 시간이 지날수록 매달 나가는 비용이 부담되기 시작했고, 무엇보다 내 소중한 데이터들이 어딘가에 저장되어 있다는 막연한 불안감이 들더군요. 그래서 ‘내 손으로 직접 관리하는 서버’를 만들어보자고 마음먹었습니다. 나만의 공간, 나만의 규칙으로 운영되는 디지털 놀이터를 꿈꾼 거죠. 🏰

홈서버 구축을 위해 어떤 하드웨어를 선택할지 고민이 많았는데, 여러 미니 PC들을 비교하다가 Beelink SER9 MAX에 꽂혔습니다. 10기가비트 이더넷, 듀얼 M.2 NVMe 슬롯, DDR5 메모리, 그리고 효율적인 AMD Ryzen 7 H255 프로세서까지! 작은 크기에 비해 엄청난 스펙을 자랑하더군요. 아마존에서 주문하고 설레는 마음으로 기다렸던 기억이 생생합니다. 📦 이 모든 탐색과 결정 과정에서 Claude가 다양한 정보 검색과 비교 분석을 도와줘서 큰 도움이 됐습니다.

Mini PC desk setup
Photo by Nikhil Pawar / Pexels

2. Windows 11, 홈서버 OS로 괜찮을까? 🤔

SER9 MAX를 받고 보니, 프리인스톨된 Windows 11이 깔려 있더군요. 보통 홈서버 하면 리눅스를 많이 떠올리지만, 저는 Windows 환경에 익숙하고, 당장 리눅스 서버 OS를 새로 설치하는 것도 번거로웠습니다. 그래서 일단 Windows 11을 그대로 사용해보기로 했습니다.

장점은 명확했습니다. 익숙한 UI/UX 덕분에 초기 설정이 정말 편리했고, 다양한 Windows용 소프트웨어와의 호환성도 좋았죠. 미디어 서버나 간단한 파일 공유 같은 용도로는 충분히 매력적이었습니다. 하지만 단점도 분명했습니다. 리눅스 기반 서버 OS에 비해 시스템 리소스 소모가 많고, Windows 업데이트 후 강제 재부팅이 필요한 경우가 있어 24시간 안정적인 운영에는 신경 써야 할 부분이 많았습니다. 특히 Windows 11 Home 버전은 원격 데스크톱 서버 기능이나 Hyper-V 같은 고급 기능이 없다는 점도 아쉬웠습니다.

키보드의 클로즈업
Photo by Nothing Ahead / Pexels

3. Windows 속 작은 리눅스 세상, WSL2 설치기 🐧

홈서버에 `Docker`를 설치하기 위해서는 `WSL2(Windows Subsystem for Linux 2)`가 필수라는 것을 알게 되었습니다. `Docker Desktop`이 `WSL2` 백엔드를 통해 Windows에서 Linux 기반 컨테이너를 실행하기 때문이죠. 처음에는 복잡할까 봐 걱정했지만, 저는 Claude Code에게 설치를 맡겼더니 알아서 척척 진행해줬습니다.

관리자 권한으로 PowerShell을 열고 `wsl –install` 명령어를 입력하니, `WSL`과 함께 기본 `Linux` 배포판(저는 `Ubuntu`가 설치되었습니다)이 자동으로 설치되더군요. 재부팅 후 `wsl –set-default-version 2` 명령으로 `WSL2`를 기본 버전으로 설정하는 것까지, Claude Code가 알아서 다 처리해줘서 저는 전혀 헤매지 않고 한 번에 성공했습니다! 마치 Windows 안에 나만의 작은 리눅스 서버가 생긴 것 같아 신기했습니다. 🤩

Linux terminal command line
Photo by Nemuel Sereti / Pexels

4. 컨테이너의 마법, Docker Desktop 설치 및 연동 🐳

`WSL2` 설치를 마쳤으니, 이제 홈서버의 핵심인 `Docker Desktop`을 설치할 차례였습니다. `Docker Desktop`은 `WSL2` 백엔드를 통해 `Windows`에서 `Linux` 기반 컨테이너를 쉽게 구축하고 실행할 수 있도록 해주는 정말 강력한 도구죠.

`Docker` 공식 웹사이트에서 `Docker Desktop for Windows`를 다운로드하고 설치를 시작했습니다. 설치 과정에서 “Use WSL 2 instead of Hyper-V” 옵션이 선택되어 있는지 꼼꼼히 확인했고, 설치 후 `Docker Desktop` 설정에서 `Resources > WSL Integration` 탭으로 이동하여 `Ubuntu` 배포판과의 통합을 활성화했습니다. 이 모든 과정도 Claude Code가 알아서 다 처리해줘서 저는 그저 지켜보기만 하면 됐습니다.

마지막으로 `Ubuntu` 터미널을 열고 `docker –version`과 `docker run hello-world` 명령을 입력했을 때, “Hello from Docker!” 메시지가 출력되는 것을 보고 정말 뿌듯했습니다. 🎉 이제 복잡한 서버 환경도 컨테이너 단위로 간단하게 관리할 수 있게 된 거죠!

Linux terminal command line
Photo by Nemuel Sereti / Pexels
www, 가상의, 기술의 무료 스톡 사진
Photo by icon0 com / Pexels

5. 마무리: 홈서버 구축의 첫걸음을 떼며 💖

이렇게 SER9 MAX를 시작으로 `Windows 11`에 `WSL2`, 그리고 `Docker`까지 설치하며 나만의 홈서버를 구축하는 첫걸음을 성공적으로 내디뎠습니다. 이 모든 과정에서 ClaudeClaude Code가 마치 유능한 조수처럼 옆에서 정확한 정보와 명령어를 제공하고 실행해줘서 정말 든든했습니다. 저처럼 코드나 컴퓨터에 대해 잘 모르는 사람도 충분히 해낼 수 있다는 것을 느꼈습니다. 🤝

다음 연재에서는 오늘 구축한 환경 위에 `Docker Compose`를 활용하여 다양한 홈서버 서비스를 올리고, 외부에서도 안전하게 접근할 수 있도록 네트워크 설정을 하는 방법에 대해 이야기해볼까 합니다. 기대해주세요! 😉