LLM의 대표주자 GPT, 이름의 ‘T’가 뭔지 아세요? 바로 트랜스포머(Transformer)예요. 2017년에 등장한 이 구조 하나가 오늘날 AI 혁명의 출발점이 됐어요. ChatGPT도, 번역기도, 이미지 생성 AI도 전부 이걸 기반으로 해요.
이름은 거창하지만 핵심 아이디어는 의외로 직관적이에요. 오늘 쉽게 풀어볼게요.
트랜스포머란? — 문장 전체를 한눈에 보기
트랜스포머의 핵심은 문장 전체를 한꺼번에 보고, 단어들 사이의 관계를 파악하는 거예요. 앞 단어부터 하나씩 차례로 읽는 게 아니라, 문장을 통째로 펼쳐놓고 본다는 게 포인트예요.
핵심 비결 — 어텐션(Attention)
트랜스포머의 진짜 무기는 어텐션이에요. ‘주목한다’는 뜻 그대로, 문장에서 어떤 단어가 어떤 단어와 관련 있는지에 집중하는 기술이에요.
예를 들어 “민수는 사과를 좋아해서 그것을 매일 먹는다”에서, ‘그것’이 ‘사과’를 가리킨다는 걸 알아야 하잖아요. 어텐션이 바로 이 연결을 잡아내요. 멀리 떨어진 단어끼리의 관계도 놓치지 않죠.
이전 방식과 뭐가 달랐나요?
트랜스포머 이전 AI는 문장을 앞에서부터 한 단어씩 순서대로 읽었어요. 그래서 느리고, 문장이 길어지면 앞부분을 까먹었죠.
| 이전 방식 | 트랜스포머 |
|---|---|
| 한 단어씩 순서대로 | 문장 전체를 동시에 |
| 느리고 긴 문맥에 약함 | 빠르고 문맥 파악에 강함 |
비유 — 회의를 듣는 두 방식
회의 내용을 이해한다고 해볼게요. 이전 방식은 녹취를 처음부터 한 줄씩 듣는 사람이에요. 트랜스포머는 회의록 전체를 펼쳐놓고 중요한 발언끼리 선을 긋는 사람이고요. 누가 더 빨리 핵심을 잡겠어요? 당연히 후자죠.
왜 혁명이라고 부르나요?
이 구조 덕분에 AI가 긴 문맥을 빠르고 정확하게 이해하게 됐어요. 그 결과 자연스러운 대화, 번역, 요약, 심지어 이미지·음성까지 다 가능해졌죠. 지금 우리가 쓰는 거의 모든 AI가 트랜스포머의 후손이에요.
자주 묻는 질문 (FAQ)
Q. 트랜스포머랑 GPT는 같은 건가요?
GPT가 트랜스포머 구조를 바탕으로 만든 모델이에요. 트랜스포머는 설계도, GPT는 그 설계도로 지은 건물에 가까워요.
Q. 영화 트랜스포머랑 관련 있나요?
전혀요. 이름만 같아요. 여기선 ‘변환한다’는 의미에서 따온 거예요.
Q. 어텐션은 토큰이랑 관계있나요?
네. AI는 글을 토큰으로 쪼갠 뒤, 어텐션으로 그 토큰들 사이의 관계를 따져요. 둘이 함께 작동해요.
정리
트랜스포머는 문장 전체를 한눈에 보고 단어 관계를 파악하는 AI 구조예요. 핵심 기술인 ‘어텐션’ 덕분에 긴 문맥도 빠르고 정확하게 이해하죠. 요즘 AI 거의 전부가 이 구조 위에 서 있어요.
다음번엔 “토크나이저 — AI가 글을 쪼개는 법”을 정리해볼게요. AI가 우리 글을 어떻게 잘게 잘라서 이해하는지, 한국어가 왜 토큰을 더 많이 먹는지 풀어볼게요!