요즘 다들 LLM 얘기 하던데, 도대체 뭔가요?

저번 주에 회사 팀장님이 회의에서 이런 말씀을 하시더라고요.

“우리도 이제 LLM 좀 활용해야 하지 않겠어?”

다들 끄덕끄덕 하는데 솔직히 저는 속으로 “LLM이 뭐지…?” 싶었어요. ChatGPT는 아는데 LLM은 뭔가 다른 건가 싶기도 하고.

찾아보고 직접 써보면서 알게 된 걸 비개발자 눈높이에서 풀어볼게요. 저처럼 회의에서 못 알아듣고 끄덕끄덕했던 분들한테 도움이 됐으면 좋겠어요.

LLM, 풀어쓰면 그냥 “글 잘 쓰는 AI”예요

LLM은 Large Language Model의 약자예요. 우리말로 하면 대규모 언어모델이고요.

이름이 좀 거창한데, 사실 별거 아니에요. 그냥 “인터넷에 있는 글을 어마어마하게 많이 읽고 학습해서, 사람처럼 글을 잘 쓰게 된 AI”라고 보시면 돼요.

대표적인 게 우리가 다 아는 그것들이에요.

ChatGPT (OpenAI)
Claude (Anthropic)
Gemini (구글)
Grok (X, 옛날 트위터)
HyperCLOVA X (네이버)

이게 다 LLM이에요. ChatGPT는 LLM의 한 종류인 거죠. 마치 “스마트폰” 안에 갤럭시, 아이폰이 있는 것처럼요.

그래서 LLM은 어떻게 작동하는 건데?

여기서부터가 진짜 신기한 부분이에요.

제가 처음 알았을 때 가장 놀랐던 건, LLM이 사실 “다음에 올 단어를 예측하는” 기계라는 거였어요.

예를 들어볼게요. “아침에 일어나서 양치를 ___” 이렇게 문장이 있으면, 우리도 자연스럽게 “했다”가 떠오르잖아요? LLM도 똑같아요. 다만 인간보다 훨씬 더 많은 텍스트를 봤기 때문에, 단순한 단어 예측이 아니라 문맥 전체를 이해해서 답을 만들어내는 거예요.

책을 100만 권 읽은 사람이 있다고 생각해보세요. 그 사람한테 “조선시대 농민의 하루는 어땠을까?” 물어보면, 본인이 직접 살아본 건 아니지만 읽은 책들을 종합해서 그럴듯한 답을 해주겠죠? LLM이 딱 그런 식이에요.

학습량이 좀 무서운 수준이에요

GPT-4 같은 경우, 학습한 텍스트 양이 대략 책 수백만 권 분량이라고 해요. 사람이 평생 책만 읽어도 못 따라잡는 양이죠. 그러니까 우리 회사 업무 관련 질문 정도는 거의 다 답할 수 있는 거예요.

그럼 LLM이랑 AI랑 머신러닝이랑 뭐가 달라요?

이거 진짜 헷갈리죠. 저번 글에서 AI > 머신러닝 > 딥러닝 순서로 포함관계 설명드렸는데, LLM은 어디 들어가냐면요.

AI > 머신러닝 > 딥러닝 > LLM

네, LLM은 딥러닝의 한 종류예요. 그중에서도 “언어”에 특화된 거고요.

딥러닝 중에는 이미지 인식하는 것도 있고(예: 자율주행차 카메라), 음성 인식하는 것도 있고(예: 시리), 그중에 글을 다루는 게 LLM이에요.

실제로 어디에 쓰이고 있냐면

이게 가장 중요한 부분이에요. 그래서 LLM이 뭐냐는 것보다 “이걸로 뭘 할 수 있냐”가 더 궁금하잖아요.

1. 글쓰기 도우미

이메일, 보고서, 블로그 글… 진짜 사람만큼 써줘요. 저도 회사 보고서 초안 잡을 때 ChatGPT나 Claude 자주 써요. 30분 걸릴 일이 5분이면 끝나거든요.

2. 번역

구글 번역보다 LLM이 훨씬 자연스러워요. 특히 긴 문장이나 전문 용어 들어간 문서 번역할 때 차이가 확 나요.

3. 코딩 도우미

이건 저처럼 비개발자한테 진짜 혁명이에요. 저도 요즘 Claude Code라는 거 써서 간단한 자동화 프로그램 만들고 있는데, 코딩 1도 모르는 제가 만들 수 있더라고요. (이건 나중에 따로 글 쓸게요)

4. 자료 조사 & 요약

긴 PDF나 보고서 던져주면 핵심만 뽑아줘요. 50페이지짜리 문서를 5분 만에 파악할 수 있어요.

5. 고객 응대 챗봇

요즘 쇼핑몰이나 은행 챗봇이 갑자기 똑똑해진 거 느끼셨죠? 그게 다 LLM 때문이에요.

그런데 LLM도 단점이 있어요

마냥 좋은 것만은 아니에요. 직접 써보면서 느낀 한계점들도 있거든요.

가끔 자신만만하게 거짓말을 해요

이걸 업계에선 “할루시네이션(환각)”이라고 불러요. 모르는 걸 모른다고 안 하고, 그럴듯하게 지어내는 거예요.

저도 한 번 당했어요. ChatGPT한테 책 추천받았는데, 진짜 그럴듯한 제목이랑 저자명이 나왔거든요. 근데 찾아보니까 존재하지 않는 책이더라고요. 완전 지어낸 거였어요.

그래서 LLM이 알려준 정보는 항상 한 번 더 확인해야 해요.

회사 내부 자료는 모르죠

당연한 얘기지만, LLM이 우리 회사 매뉴얼을 알 리가 없잖아요. 그래서 “우리 회사 휴가 규정 알려줘” 이런 건 못 해요.

이걸 해결하는 기술이 RAG라는 건데, 이것도 나중에 따로 다뤄볼게요.

비개발자도 LLM 써야 할까?

제 결론은 “무조건 써야 한다”예요.

제가 진짜 실감한 게, LLM은 “잘하는 사람”이 더 잘하게 만들어주는 도구더라고요. 엑셀 잘 쓰는 사람이 더 빨리 일 끝내는 것처럼요.

저는 부동산 일도 하고 있는데, 매물 설명 글 쓰는 데 예전에는 한 시간씩 걸렸어요. 지금은 LLM한테 키워드 몇 개 주고 초안 받은 다음, 제 스타일로 다듬으면 10분이면 끝나요.

처음엔 어색하지만, 한 달만 써보시면 없으면 못 살아요. 진짜로.

그래서 어떻게 시작하면 되냐

가장 추천하는 건 일단 무료로 다 써보는 것이에요.

ChatGPT – chat.openai.com
Claude – claude.ai
Gemini – gemini.google.com

회원가입 다 무료로 가능하고, 어느 정도까지는 무료로 쓸 수 있어요. 같은 질문을 셋한테 다 던져보면서 “어, 얘가 답이 더 맘에 드네” 싶은 걸 메인으로 쓰시면 돼요.

저는 글쓰기는 Claude, 검색 결합한 답변은 Gemini, 이미지 생성은 ChatGPT 이런 식으로 나눠 쓰고 있어요.

오늘은 여기까지

LLM이 뭔지, 왜 요즘 다들 이거 얘기하는지 좀 감이 오셨을까요?

다음 글에서는 LLM 쓸 때 꼭 알아야 하는 “프롬프트”에 대해 다뤄볼게요. 같은 LLM이라도 어떻게 물어보냐에 따라 답변 퀄리티가 천지차이거든요.

혹시 “이건 도대체 무슨 말이야?” 싶은 AI 용어 있으시면 댓글로 남겨주세요. 다음 글 주제로 다뤄보겠습니다.

요즘 다들 LLM 얘기 하던데, 도대체 뭔가요?