본문 바로가기

Llama2

AI가 바꿔줄 미래에 대한 준비 [5탄] LLaMA Meta AI는 DeepMind의 연구 결과에 영감을 얻어 추론 compute budget을 고려한 GPT-3(175B) 보다 더 작으면서 고성능 모델인 LLaMA을 발표하였다. Meta AI LLaMA의 간략한 특징은 다음과 같다. 4가지 버전 형태로 릴리즈 (6.7B, 13B, 32.5B, 65.2B) Model Parallelism: 6.7B(1-way), 13B(2-way), 32.5B(4-way), 65.2B(8-way) LLaMA(13B)이 GPT3(175B)보다 1/10 이상 모델 사이즈가 작지만 모든 벤치마크에서 GPT3(175B)를 압도하는 성능을 갖음 6.7B 모델은 Single GPU(V100)에 실행 가능함 LLaMA(65B)은 DeepMind의 Chinchilla(70B.. 2023. 4. 13.
AI가 바꿔줄 미래에 대한 준비 [2탄] 오늘부터는 AI가 어떻게 사람의 말과 생각을 이해할 수 있을지에 대해서 작성해 보도록 하겠습니다. 진행할 목차는 아래와 같습니다. 1. AI 언어 모델이란? 2. AI 언어 모델의 역사. 3. AI 언어 모델 중 Best Language Model 1. AI 언어 모델이란? AI 언어 모델은 인공지능 기술을 사용하여 자연어 처리를 수행하는 모델입니다. 이 모델은 기계 학습을 기반으로 하며, 입력된 단어나 문장을 이해하고 처리하여 적절한 출력을 생성합니다. AI 언어 모델은 다양한 분야에서 활용됩니다. 예를 들어, 챗봇, 기계 번역, 자동 요약, 텍스트 생성, 검색 엔진, 음성 인식, 감성 분석 등이 있습니다. 이러한 분야에서 AI 언어 모델은 사람이 수행하는 자연어 처리와 유사한 작업을 수행할 수 있습니.. 2023. 4. 11.