[로컬 LLM] 맥북에 로컬 LLM 설치하기
LM Studio와 Open WebUI를 기반으로 맥북에서 로컬 LLM 환경을 구축한 실전 기록입니다. 모델 선택 기준, Docker·MCP·RAG 구성, 메모리 자동 관리, AnythingLLM에서 갈아탄 이유까지 실제 사용 경험 중심으로 정리했습니다.
카테고리
LM Studio와 Open WebUI를 기반으로 맥북에서 로컬 LLM 환경을 구축한 실전 기록입니다. 모델 선택 기준, Docker·MCP·RAG 구성, 메모리 자동 관리, AnythingLLM에서 갈아탄 이유까지 실제 사용 경험 중심으로 정리했습니다.
코덱스 프롬프트의 네 가지 구성 요소(목표, 맥락, 제약, 완료 조건)와 좋은/나쁜 예시를 비교합니다. 스레드 네 종류(로컬, 클라우드, 워크트리, 채팅)와 컨텍스트 윈도우·자동 요약(Compaction) 관리법을 다룹니다. 커스터마이징 8개 레이어를 도입 순서대로 정리했습니다. AGENTS.md로 프로젝트 규칙을 고정하고, config.toml로 모델·승인·샌드박스를 설정하고, Rules로 명령 허용·차단을 정하고, 스킬로 반복 작업을 패키지화하고, 플러그인으로 배포하고, MCP로 외부 도구를 연결하고, 훅스로 에이전트 루프에 스크립트를 끼우고, 서브에이전트로 작업을 병렬 분리하는 구조입니다.
오픈AI 코덱스는 의도를 설명하면 파일을 읽고 명령을 실행하고 코드를 수정하는 코딩 에이전트입니다. 앱, IDE 익스텐션, CLI, 웹(클라우드) 네 가지 환경에서 사용할 수 있습니다. 에이전트 루프·스레드·샌드박싱 세 가지 개념으로 작동하며, gpt-5.5부터 gpt-5.3-codex-spark까지 모델을 선택할 수 있습니다. 챗GPT 플랜별 가격 정책과 크레딧 시스템을 다루고, 되돌릴 수 없는 데이터 변환·API 키 노출·불안정 테스트 환경·전체 리팩토링·풀 액세스 자동화 등 코덱스에 맡기면 안 되는 다섯 가지 작업을 정리했습니다.
벡터 RAG는 비슷한 페이지는 잘 찾지만, 페이지 사이의 관계는 알지 못합니다. 그 빈자리를 채우는 흐름이 온톨로지, 지식 그래프, 그리고 둘과 RAG를 결합한 GraphRAG입니다. 각 개념이 무엇이고 어떻게 연결되는지, 다중 홉 추론에서 어떤 차이를 만드는지, 그리고 실제 도입에는 어떤 비용이 따르는지를 짚어봅니다.
ChatGPT는 셰익스피어를 분석하면서도, 정작 우리 회사 위키는 모릅니다. 도메인 지식의 부재와 시간적 단절을 푸는 방법 중 사실상의 표준이 된 것이 RAG(검색 증강 생성)입니다. 오픈북 시험을 떠올리면 됩니다. 모델은 그대로 둔 채 답할 때마다 외부 문서를 꺼내다 끼워주는 방식이죠. 정의와 파이프라인, 임베딩과 벡터 DB의 작동 원리, 그리고 다중 홉 추론에서 왜 막히는지까지 살펴봅니다.
현재 생성형 AI의 근간이 되는 거대 언어 모델(LLM)은 확률적 연산에 기반하고 있기 때문에 실제 세계를 인식하기에는 비효율적이에요. 그렇게 등장한 세계 모델(World Model)의 개념을 이해해 보세요.
AI는 생산성을 몇 배로 높여준다고는 하는데, 오히려 무작정 더 많이 일하고 있는 건 아닐까요? AI 시대의 역설적 현실과 수단이 목적이 되는 현상을 함께 살펴보고, 진정한 목적이 무엇인지 다시 생각해 봐요.
무비판적으로 AI를 활용해 프로덕트를 관리하는 것은 극단적으로 말을 타는 것과 비슷해요. 실행과 작동에만 치중하게 되면 기술 부채는 지속적으로 쌓이고, 조직적인 균열이 발생하기 시작해요. 이는 어떻게 구체적으로 발생하는지에 대해 다룹니다.
2025년 IT의 미래를 바꿀 두 가지 핵심 기술, 공간 컴퓨팅과 소형 언어 모델을 소개해요.