01화 LLM의 핵심원리 - Atte... | 매거진에 참여하세요

인사이트/로그개발 관련
작성일 : 24.06.04

01화 LLM의 핵심원리 - Atte...

#LLM #핵심원리 #논리 #엔진 #구조 #비밀 #어텐션 #자연어처리 #LMM작동원리

👉 본문을 50%이상을 읽으면 '여기까지다' 퀘스트가 완료됩니다(로그인 필수)

텍스트(text) 데이터는 더이상 연속적인 데이터가 아니다. | 자연어를 구성하는 텍스트 데이터는 단어의 위치에 따라 문맥과 의미가 전혀 달라진다는 점에서 날씨, 주가, 분기별 매출 등과 같이 연속 데이터(sequential data)의 성격을 띱니다. 이러한 자연어의 특성을 충분히 반영하기 위해, 자연어처리(NLP) 태스크에는 주로 RNN 계열의 모델(Vanilla RNN, LSTM, GRU)을 사용한다는 것을 많은

출처 : https://brunch.co.kr/@harryban0917/279