로컬 AI 앱을 열었는데 모델 이름과 숫자가 수십 개 나오면 시작하기도 전에 포기하기 쉽다. Jan은 처음 실행할 때 기본 로컬 모델을 자동으로 내려받고 다운로드가 끝나면 바로 대화를 시작하게 해준다.
Jan이 쉬운 이유
Jan은 Windows, macOS, Linux용 앱을 제공한다. 계정을 만들지 않아도 되고 기본 설정은 내 컴퓨터에서 실행되는 로컬 모델이다.
다른 모델을 받을 때는 Hub에서 검색한다. 각 모델에는 현재 컴퓨터에서 잘 맞는지, 느릴 수 있는지, 실행하기 어려운지를 보여주는 적합도 표시가 붙는다.
설치와 첫 대화
Jan 공식 홈페이지에서 운영체제에 맞는 앱을 내려받는다. 처음 실행하면 기본 모델 파일을 받으므로 인터넷과 수GB의 저장 공간이 필요하다.
다운로드가 끝나면 채팅창에 짧은 질문을 입력한다.
로컬 AI와 클라우드 AI의 차이를
컴퓨터를 잘 모르는 사람에게 세 문장으로 설명해줘.첫 답변에는 모델을 메모리에 올리는 시간이 포함돼 느릴 수 있다. 두 번째 질문부터 빨라지는 경우가 있다.
한글이 어색하다면
질문 끝에 자연스러운 한국어로 답하라고 적는다. 그래도 만족스럽지 않다면 Hub에서 다국어 모델을 찾아 적합도가 ‘Fits’인 권장 버전을 내려받는다.
모델을 여러 개 받기보다 같은 질문을 두 모델에 물어 속도와 품질을 비교하는 편이 좋다.
정말 로컬인지 확인하기
모델 선택기에서 Local 모델인지 확인한다. OpenAI·Anthropic·Google 제공자가 표시되면 클라우드 모델일 수 있다.
모델 다운로드 뒤 인터넷을 끄고 질문했을 때 답변이 나오면 기본 대화는 로컬로 작동하는 것이다. 웹 검색과 외부 커넥터는 인터넷을 사용한다.
문서를 넣기 전에는 공개된 짧은 자료로 요약 정확도를 시험한다. 로컬로 처리된다는 것과 답변이 정확하다는 것은 별개다.
Jan은 터미널 없이 첫 대화를 원하는 사람에게 적합하다. 모델과 문서, 로컬 API를 더 직접 관리하고 싶다면 다음 단계로 LM Studio를 살펴볼 수 있다.
관련 글
같은 맥락에서 이어서 읽기 좋은 글들입니다.