트랜스포머3
-
<지식 사전> 인공지능(AI)의 발전 역사 ③ - 딥러닝의 시대 (2010~2019)
안녕하세요, 카카오클라우드입니다. 2012년, 한 딥러닝 모델이 세계적인 이미지 인식 대회 'ImageNet Challenge'에서 압도적인 성능 차이로 우승을 차지했습니다. 이는 AI 역사의 중요한 전환점이 되었습니다. 기계학습의 시대를 지나 인간의 뇌를 모방한 심층 신경망이 AI의 새로운 지평을 열기 시작한 것입니다. 지난 편에서 기계학습의 발전과 한계를 살펴보았다면, 이번에는 딥러닝이 어떻게 AI의 패러다임을 완전히 바꾸어놓았는지 알아보겠습니다. 1. 딥러닝 혁명의 시작2012년 토론토 대학의 제프리 힌튼 교수 연구팀이 개발한 'AlexNet'은 기존 이미지 인식 오류율을 26%에서 15%로 낮추며 놀라운 성과를 보여줬습니다. 이는 세 가지 핵심 요소가 만난 결과였습니다. 1) 빅데이터의 등장인터넷..
IT 클라우드 인사이트/IT 지식사전 2024. 11. 22. -
<지식 사전> 트랜스포머(Transformer)가 뭔데? AI 혁명의 핵심 모델, 알기 쉽게 들여다보기
안녕하세요, 카카오클라우드입니다. 오늘은 AI 기술의 판도를 바꾼 '트랜스포머(Transformer)'에 대해 자세히 알아보려고 합니다. ChatGPT, BERT 등 현재 AI 기술의 근간이 되는 이 혁신적인 모델, 과연 어떤 원리로 작동하며 어떤 변화를 가져왔을까요? 배경 지식이 없는 분들도 쉽게 이해할 수 있도록 최대한 풀어서 설명해 드리겠습니다. 1. Transformer란 무엇인가?Transformer는 2017년 구글이 "Attention Is All You Need"라는 논문에서 발표한 딥러닝 모델입니다. 주로 자연어 처리(Natural Language Processing, 이하 NLP) 분야에서 혁신을 일으켰지만, 현재는 컴퓨터 비전, 음성 인식 등 다양한 분야에서 활용되고 있습니다. 기존의..
IT 클라우드 인사이트/IT 지식사전 2024. 7. 3. -
<지식 사전> 대형 언어 모델(LLMs)에 대해 제대로 알고 계신가요? - 원리부터 활용까지 A to Z
안녕하세요, 카카오클라우드입니다. 최근 AI 기술의 급격한 발전 속에서 '대형 언어 모델(Large Language Models, LLMs)'이라는 단어를 자주 접하게 되셨을 텐데요. GPT-4, BERT, LLaMA 등의 이름이 낯설지 않으시죠? LLMs는 AI 분야의 최전선에서 혁신을 이끌어가는 핵심 기술로 주목받고 있습니다. 하지만 LLMs가 정확히 어떤 기술이고, 어떤 원리로 작동하는지, 또 우리의 삶에 어떤 영향을 미칠지 잘 모르시는 분들이 많을 거예요. 그래서 오늘은 LLMs에 대한 모든 것을 파헤쳐보려 합니다. LLMs의 정의부터 핵심 개념인 Transformer, GPT와 BERT 등 대표적인 LLMs의 특징, 그리고 실제 활용 사례까지 하나하나 살펴볼게요. 또한 LLMs가 안고 있는 한..
IT 클라우드 인사이트/IT 지식사전 2024. 5. 29.