Mac 안의 AI를 꺼내 쓴다는 발상은 생각보다 매력적이다
로컬 AI 도구를 찾는 사람들은 대체로 비슷한 이유를 말한다. API 키를 만들고 싶지 않거나, 클라우드로 프롬프트를 보내기 싫거나, 셸 스크립트 안에 가벼운 AI 응답을 붙이고 싶다는 식이다. 그런데 막상 로컬 모델을 돌리려 하면 설치와 모델 관리가 생각보다 번거롭다.
apfel이 눈에 띄는 이유는 바로 이 준비 과정을 줄여주기 때문이다. 이미 Apple Silicon Mac 안에 들어 있는 Apple의 온디바이스 FoundationModels를 CLI와 로컬 서버 형태로 바로 꺼내 쓰게 해준다는 점이 핵심이다.
apfel은 어떤 도구인가
apfel은 Apple의 온디바이스 FoundationModels 언어 모델을 터미널에서 쓰게 해주는 오픈소스 도구다. 공식 사이트와 GitHub 기준으로, CLI, 대화형 채팅, OpenAI 호환 로컬 서버 형태를 제공한다. localhost:11434/v1 주소를 통해 다른 도구가 OpenAI 방식으로 붙게 하는 것도 가능하다. stdin/stdout 워크플로, 파일 첨부, JSON 출력, 스트리밍, 시스템 프롬프트, tool calling, MCP 연결도 지원한다. apfel 공식 사이트 (영어주의) GitHub 저장소 (영어주의)
MIT 라이선스라 apfel 자체에 구독료나 토큰 과금은 없다. 이 점만으로도 Apple Silicon Mac을 쓰는 기술 사용자에게는 꽤 선명한 장점이 된다.
즉 apfel은 Mac 안의 작은 로컬 AI를 터미널과 로컬 API 서버로 꺼내 쓰는 래퍼라고 보면 이해가 쉽다.
왜 반응이 나왔나
초기 반응이 뜨거웠던 이유는 거대한 성능보다 사용 방식에 있다.
- API 키가 필요 없다
- 프롬프트를 클라우드로 보내지 않아도 된다
- curl과 OpenAI 호환 엔드포인트로 붙일 수 있다
- 셸 스크립트와 짧은 자동화 흐름에 넣기 쉽다
Reddit, Hacker News, Privacy Guides 커뮤니티에서도 이 지점이 반복해서 언급됐다. 로컬에서 빠르게 뜨고, 응답이 가볍고, 프라이버시 측면에서 흥미롭다는 평가다. Hacker News 반응 (영어주의) Privacy Guides 토론 (영어주의)
좋은 쪽은 짧고 로컬한 작업이다
apfel이 잘 맞는 작업은 꽤 분명하다.
- 짧은 텍스트 질의응답
- 터미널에서 바로 응답을 받아오는 작업
- 개인적인 텍스트 처리
- 셸 자동화에 가벼운 AI 응답 붙이기
OpenAI 호환 서버를 제공한다는 점도 장점이다. 기존 로컬 AI 클라이언트나 도구가 OpenAI식 엔드포인트를 받을 수 있다면 연결을 시도해볼 수 있다. 다만 모든 통합이 매끄럽진 않다. GitHub 이슈에는 curl에서는 동작했지만 특정 편집기 연동이 잘 안 됐다는 사례도 보인다.
한계는 결국 안쪽 모델에서 온다
apfel의 병목은 도구 껍데기보다 안쪽 모델이다. 사용자는 Apple Foundation Model을 다른 모델로 바꿀 수 없다. 컨텍스트도 4,096토큰으로 제한된다. 이 숫자는 긴 문서 요약, 큰 로그 분석, 본격적인 코딩 보조에는 꽤 작다.
초기 사용자들도 이 부분을 반복해서 지적했다. 빠르고 사적인 로컬 AI라는 매력은 있지만, Claude나 GPT급 품질을 기대하면 실망하기 쉽다는 반응이다. guardrail과 refusal에 대한 불만도 나온다. 단순한 요청까지 피한다고 느끼는 사용자도 있었고, 만든 사람도 4k 컨텍스트와 강한 guardrail을 주요 한계로 언급했다.
그래서 apfel은 범용 비서보다 짧은 로컬 도우미에 더 가깝다.
설치 전에 볼 조건도 분명하다
apfel은 Apple Silicon Mac용 도구다. Intel Mac은 지원하지 않는다. 설치 문서 기준으로 macOS 26.4 이상이 필요하고, Apple Intelligence가 활성화되어 있으며 온디바이스 모델이 준비돼 있어야 한다. apfel이 별도 모델 다운로드를 요구하지 않는다고 해도, Apple Intelligence 자체는 Apple 설정 과정에서 먼저 준비돼야 한다. 설치 문서 (영어주의) Apple Intelligence 지원 조건 (영어주의)
또 로컬 서버를 켤 때는 보안도 같이 봐야 한다. localhost 서버, CORS, 브라우저 origin, 토큰 설정 같은 요소가 얽히기 때문에, 개인 기기에서 잠깐 쓰는 것과 상시 서버처럼 열어두는 건 완전히 다른 문제다.
누구에게 맞을까
apfel이 잘 맞는 쪽은 비교적 분명하다.
- Apple Silicon Mac을 쓰는 기술 사용자
- 짧은 로컬 질의응답이 필요하다
- 셸 자동화에 AI를 가볍게 붙이고 싶다
- API 키 없는 실험을 해보고 싶다
반대로 이런 경우에는 다른 도구가 더 현실적일 수 있다.
- 긴 문서 요약이 필요하다
- 대용량 로그 분석을 자주 한다
- 본격 코딩 보조를 원한다
- GUI 중심의 안정적인 생산성 도구가 필요하다
이런 경우에는 Ollama, Open WebUI, Jan, Claude, Claude Code 같은 대안이 더 잘 맞을 수 있다.
내 생각
apfel은 꽤 흥미로운 도구다. Mac 안에 이미 들어 있는 로컬 AI를 별도 비용 없이, 비교적 간단하게 꺼내 쓸 수 있다는 점은 분명 매력적이다.
다만 이 도구를 과대평가하면 금방 실망할 수 있다. 진짜 장점은 클라우드 대체급 성능이 아니라 설치와 호출이 가벼운 로컬 실험 도구라는 데 있다. 그 정도로 보면 충분히 재미있고, 범용 AI 비서로 보면 아직 좁다.
관련 글
같은 맥락에서 이어서 읽기 좋은 글들입니다.