로컬 PC에 여러 LLM(Large Language Model)를 다운로드 받아 ChatGPT처럼 쉽게 사용할 수 있는 프로그램이다.
프로그램 이름 : LM Studio
홈페이지 : https://lmstudio.ai/
간단설명 : 로컬 PC에서 LLM(Large Language Model)을 쉽게 실행해 주는 프로그램
장점은 아래와 같다. (공식홈페이지 내용 번역)
1. 홈페이지에서 OS에 알맞게 다운로드 및 설치
2. 처음 실행하면 LM Studio의 최신 업데이트 내용을 알려준다.
3. 최초 실행시에는 LLM 모델이 없기 때문에 다운로드 받아야 한다.
우측하단에 버튼을 누르면 다운로드 창이 축소된다.
4. 다운로드 창이 내려가며, 빨강색 영역이 보여지게 되는데,
해당영역은 대표적인 LLM 모델을 다운로드 할 수 있는 모델들이 나온다.
마우스 휠로 내려 다른 모델들도 다운로드 할 수 있다.
5. 테스트로 LLaMa인 Llama-2-7b-Chat-GGML 모델을 다운로드 해보겠다.
우측 하단에 다운로드 버튼을 누르면 다운로드가 시작된다.
6. 다운로드 완료 후 왼쪽에 대화 아이콘을 누른다.
7. 프리셋 설정관련 팝업이 뜨는데 아래 Dismiss를 눌러 닫는다.
8. 상단 Select a model to load 버튼을 눌러 앞서 다운로드 받은 모델을 선택 한다.
9. 모델이 로딩 되며, 로딩이 완료가 되면 ChatGPT 처럼 대화를 할 수 있다.
