Attention is all you need | 때로는 더하는 것보다 빼는 것에서 위대한 혁신이 나오죠. 꼭 필요한 기능만 남겨두고 군더더기를 모두 빼버리고 스마트폰 혁신의 아이콘이 된 아이폰처럼, 언어모델 개발에서도 빼기를 통해 혁신을 시도한 이들이 있습니다. 2017년 구글의 엔지니어와 연구자들은 그들이 발표한 논문 'Attention is all you need(어텐션만 있으면 된다)’에서 자연어
출처 : https://brunch.co.kr/@harryban0917/281