메타의 대규모 언어모델, LLAMA2 오픈소스 발표 (다운로드 방법)

지난 해 11월 OpenAI에서 공개된 ChatGPT 이후 뜨거운 관심을 받고 있는 대규모 언어 모델 시장.

올해 초 Meta AI가 LLAMA(라마)를 공개한 이후 약 5개월만에 LLAMA2를 무려 오픈소스로 공개했다.

 

오픈소스로 공개된 LLAMA 2는 기존 LLAMA 모델의 업그레이드 버전이며 상업적으로도 이용 가능하다.

클라우드 기반으로 공개된 ChatGPT와는 달리 개인 PC에서도 다운로드 받아 사용할 수 있다는 점이 가장 큰 차이점이다.

 

LLAMA2는 매개변수 70억개(7B), 130억개(13B), 700억개(70B)를 가진 3가지 모델로 이뤄져있다.

70B 모델이 GPT-3.5 수준이라고 알려져있는데, ChatGPT를 사용하는 것보다 자유도가 높고 비용이 훨씬 저렴하다.

 

LLAMA2의 모델 설명

 

다운로드

모델을 다운로드 하는 방법은 홈페이지(링크)에 접속해 신청하면 된다.

Download the Model 클릭

 

이름, 이메일, 국가, 소속 등 몇 가지 정보들을 기입한 뒤 진행하면 된다.

몇 가지 정보를 기입 후 최하단의 동의 체크 후 진행

다음으로 진행하면 다운로드 요청이 받아들여졌다는 문구가 노출된다. 이 다음 이메일을 확인하면,

 

개인 메일로 다운로드 받을 수 있는 방법이 전송된다. Github repository를 통해 다운로드를 받을 수 있다.

해당 링크로 접속한 뒤 Git clone을 통해 repository를 다운로드 받는다.

 

 

그러면 아래와 같은 파일들이 다운로드 되는데, 이중 download라는 이름을 가진 shell script를 실행시킨다.

download.sh 파일을 실행시키면 아래와 같이 email과 다운로드 받을 모델을 선택하라는 창이 뜨는데, 거기에 맞게 입력해주면 다운로드 받을 수 있다.

(주의 : wget 과 md5sum이 미리 설치되어 있어야 한다.)

wget 설치 방법 (링크)

md5sum 설치 방법 (링크)

일반인이 사용하기에는 13B 모델이 적합해보여 13B를 선택했다. 70B는 아무래도 너무 무거울 듯 싶어서...

13B 모델로 간단히 활용해 맛보기해 볼 예정이다.

chat이 붙어 있는 모델도 있는 것을 보아 ChatGPT 처럼 대화형 모델인 것 같다. 이 모델들도 추후 활용해보고자 한다.