요새 AI가 언론에 많이 노출되면서 핫하다.
특히 Meta에서 Llama 모델을 개발하고 공개했다는 뉴스가 나온 후
개인용 컴퓨터에서도 AI를 구현할 수 있겠구나는 생각이 들기 시작해
여기에 대해 조금 검색해보니 Meta가 공개한 AI를 활용한 Ollama라는 오픈소스 프로젝트가 있고
이를 활용하여 개인용 컴퓨터에 LLM(대규모 언어 모델)을 쉽게 실행할 수 있게 되어있다는 것을 알게되어
이를 활용하여 내 컴퓨터에 AI를 구축해보고자 한다.
(참고로 Ollama는 Open Source Large Language Medel Meta AI)
먼저, Ollama를 내 컴퓨터에 다운 받아 설치하고 실행하는 방법은 아래와 같다.
- 윈도우 / macOS 등에서 설치하기
- Ollama GitHub 공식 페이지 접속 (https://github.com/ollama/ollama)
- 처음에 뭔가 폴더 같은 내용이 나와도 당황하지 말고 아래로 스크롤 다운
- 그러면 아래의 그림을 찾을 수 있는데, 거기서 자기 운영 체제에 맞춰 다운로드하고 실행하면 끝
생각보다 설치하기 쉽다.
그리고 실행은 해당 프로그램을 실행하면 되는데,
내가 사용하는 macOS 기준으로 먼저 이야기 하자면
아래와 같이 터미널로 접속해서 ollama를 치면 사용방법이 나오는데,
예를 들면 ollama -h 는 ollama의 사용하는데 있어 도움이 되는 내용을 보겠다는 내용이고
ollama list 는 내가 현재 다운 받아놓은 LLM 모델 리스트를 보겠다는 내용이다.
자... 그럼 Ollama를 실행하는 법을 알았으니 진짜 실행할 LLM 모델을 다운받아야 하는데...
LLM 모델을 다운받으려면 https://ollama.com/library 사이트로 가자
그럼 아래와 같은 화면이 뜰 것이다.
여기서 설명을 쭉 읽어보고 본인에게 맞는 모델을 다운받고 난 후
모델을 다운 받아놓은 폴더에 들어가서 "ollama run 해당모델" 식으로 실행하면 된다.
