AI 모델 이름을 보면 ‘Llama 7B’, ’70B’, ‘405B’ 같은 숫자가 붙어 있죠. 이 B가 붙은 숫자가 대체 뭘까요? 바로 파라미터(Parameter)의 개수예요. 그리고 이 숫자가 클수록 똑똑하다는 말, 반은 맞고 반은 틀려요.
오늘은 파라미터가 뭔지, 숫자가 크면 정말 좋은지 쉽게 풀어볼게요.
파라미터란? — AI의 ‘조절 손잡이’
파라미터는 AI가 학습하면서 스스로 조절하는 수많은 작은 손잡이(노브)예요. 이 손잡이들을 미세하게 맞춰가며 “이럴 땐 이렇게 답해야지”를 익혀요. 학습이란 결국 이 손잡이들을 적절한 값으로 맞추는 과정이에요.
사람 뇌로 비유하면 신경 사이의 연결(시냅스)과 비슷해요. 연결이 많고 잘 조율될수록 복잡한 걸 처리할 수 있죠.
그래서 B가 뭔가요?
B는 Billion(십억)이에요. ‘7B’면 손잡이가 70억 개, ’70B’면 700억 개, ‘405B’면 4,050억 개라는 뜻이에요. 상상하기 힘들 만큼 많죠.
많으면 무조건 똑똑한가요?
대체로 파라미터가 많을수록 더 똑똑하고 복잡한 일을 잘해요. 하지만 꼭 비례하진 않아요. 단점도 분명하거든요.
| 큰 모델(70B+) | 작은 모델(7B 등) |
|---|---|
| 똑똑함, 복잡한 추론 강함 | 덜 똑똑하지만 충분히 쓸 만 |
| 무겁고 느리고 비쌈 | 빠르고 싸고 가벼움 |
| 고성능 서버 필요 | 노트북·폰에서도 가능 |
게다가 잘 만든 작은 모델이 대충 만든 큰 모델보다 나을 때도 많아요. 크기가 전부는 아니라는 거죠.
작은 모델의 가치
요즘은 작고 효율적인 모델이 주목받아요. 폰에서 바로 돌아가고, 비용이 싸고, 빠르니까요. 모든 일에 700억짜리 모델을 쓸 필요는 없어요. 간단한 일엔 작은 모델이 오히려 합리적이에요. 큰 망치로 압정을 박을 필요는 없잖아요.
자주 묻는 질문 (FAQ)
Q. ChatGPT는 몇 B인가요?
회사가 정확히 공개하지 않는 경우가 많아요. 상용 모델은 파라미터 수를 비밀로 하기도 해요.
Q. 파라미터가 많으면 할루시네이션이 줄어드나요?
어느 정도 도움은 되지만 완전히 막진 못해요. 크기와 별개로 생기는 문제예요.
Q. 비개발자가 이 숫자를 신경 써야 하나요?
크게는 아니에요. 다만 “큰 숫자=무조건 좋음”이 아니란 것만 알면, 모델 고를 때 속지 않아요.
정리
파라미터는 AI가 학습으로 조절하는 수많은 작은 손잡이이고, 7B·70B는 그 개수(십억 단위)예요. 많을수록 대체로 똑똑하지만 무겁고 비싸요. 크기가 전부는 아니며, 작고 효율적인 모델도 그 나름의 큰 가치가 있어요.
다음번엔 “양자화(Quantization) — AI를 가볍게 만드는 법”을 정리해볼게요. 그 큰 모델을 어떻게 폰에서도 돌아가게 압축하는지, 그 비결을 풀어볼게요!