같은 질문을 ChatGPT에 두 번 넣었는데 답이 다르게 나온 적 있죠? “방금이랑 왜 다르지?”, “내가 뭘 잘못 눌렀나?” 싶었을 거예요. 결론부터 말하면 이건 고장도, 실수도 아니에요. 온도(Temperature)라는 설정 하나 때문이에요.
온도는 AI가 답을 만들 때 얼마나 모험을 할지 정하는 값이에요. 이 개념 하나만 제대로 잡아두면 AI 답변이 왜 들쭉날쭉한지 이해되고, 더 나아가 원하는 답을 끌어내는 요령까지 생겨요. 오늘은 비개발자도 바로 써먹을 수 있게 풀어볼게요.
온도(Temperature)란? — 단어를 고르는 모험심
AI(정확히는 LLM)는 답을 쓸 때 한 글자, 한 단어씩 “다음에 올 단어”를 확률로 골라요. 예를 들어 “오늘 날씨가 정말 ___” 다음에 올 단어로 AI는 머릿속에 이런 후보를 둬요.
- 좋다 (70%)
- 맑다 (15%)
- 끝내준다 (10%)
- 우중충하다 (5%)
이때 온도가 이 확률을 어떻게 쓸지 결정해요.
- 온도가 낮으면 → 가장 확률 높은 “좋다”만 거의 항상 고름. 안전하고 일관됨.
- 온도가 높으면 → “끝내준다”, “우중충하다” 같은 낮은 확률 단어도 과감하게 집음. 신선하지만 들쭉날쭉.
식당에서 메뉴 고르는 거랑 똑같아요. 온도가 낮은 사람은 “늘 먹던 김치찌개”만 시키고, 온도가 높은 사람은 “오늘은 처음 보는 메뉴 도전!” 하는 사람이에요. → 어느 쪽이 정답인 게 아니라, 상황에 따라 다른 거예요.
온도는 보통 0부터 2까지예요
대부분의 AI(ChatGPT API 기준)에서 온도는 0에서 2 사이 숫자로 설정해요.
| 온도 | 성격 | 결과 |
|---|---|---|
| 0 ~ 0.3 | 거의 모험 안 함 | 매번 거의 같은 답, 정확하고 딱딱함 |
| 0.7 ~ 1.0 | 기본값 근처 | 자연스럽고 적당히 다양함 |
| 1.3 ~ 2.0 | 모험 많이 함 | 창의적이지만 가끔 엉뚱하거나 말이 꼬임 |
여기서 오해 하나 짚고 갈게요. 온도 0이라고 100% 똑같은 답이 보장되는 건 아니에요. 거의 일정해지긴 하지만, AI 내부의 다른 요소 때문에 미세하게 달라질 수 있어요. “온도가 낮을수록 일관성이 올라간다” 정도로 이해하면 딱 맞아요.
같은 질문, 온도만 바꾸면 답이 이렇게 달라져요
말로만 들으면 와닿지 않으니 예를 볼게요. “바다를 한 문장으로 표현해줘”라고 똑같이 시켰을 때예요.
온도 0.2 (낮음)
바다는 넓고 푸른 물이 펼쳐진 곳이다.
온도 1.0 (중간)
바다는 햇빛을 머금고 끝없이 일렁이는 푸른 들판이에요.
온도 1.8 (높음)
바다는 수평선에 비밀을 숨겨둔 채 숨 쉬는, 짠 내 나는 거인의 심장 같아요.
보이시죠? 낮은 온도는 사실 위주로 무난하게, 높은 온도는 비유와 표현이 화려하지만 과한 쪽으로 가요. 같은 AI, 같은 질문인데 온도 하나로 성격이 완전히 달라지는 거예요.
그럼 언제 높이고 언제 낮춰요?
이게 진짜 핵심이에요. 용도에 맞추면 돼요.
낮은 온도가 좋은 경우
번역, 요약, 코드 작성, 데이터 정리, 사실 확인 — 정확하고 일관된 답이 필요할 때
높은 온도가 좋은 경우
카피라이팅, 소설·시 쓰기, 네이밍, 아이디어 브레인스토밍 — 다양하고 신선한 답이 필요할 때
저도 처음엔 블로그 제목을 뽑을 때 매번 비슷비슷한 것만 나와서 답답했거든요. 알고 보니 정확성 위주의 낮은 온도로 쓰고 있던 거였어요. “좀 더 과감하고 다양하게 뽑아줘”라고 바꿨더니, 그제야 안 뻔한 제목들이 쏟아지더라고요. 반대로 사실을 정리할 땐 온도가 높으면 할루시네이션(없는 사실을 지어내는 현상)이 늘어서, 일부러 차분하게 눌러줘야 했고요.
비개발자도 온도를 바꿀 수 있나요?
일반 ChatGPT 화면에는 온도 슬라이더가 따로 없어요. 하지만 방법이 있어요. 바로 말로 부탁하는 거예요.
- “좀 더 창의적으로 / 다양하게 / 과감하게 써줘” → 온도를 높인 것 같은 효과
- “정확하게 / 사실만 / 매번 같은 형식으로 써줘” → 온도를 낮춘 것 같은 효과
AI가 내부 숫자를 진짜로 바꾸는 건 아니지만, 이런 지시를 받으면 그에 맞춰 답의 성격을 조절해줘요. 그래서 비개발자라면 숫자를 직접 만질 필요 없이 이 표현들만 알아도 충분해요.
직접 숫자로 조절하고 싶다면 플레이그라운드(AI 회사가 제공하는, 설정을 직접 만지는 실험용 화면)나 API를 쓰면 돼요. 이건 프롬프트 작성법에 익숙해진 다음에 천천히 도전해도 늦지 않아요.
자주 묻는 질문 (FAQ)
Q. 온도를 0으로 하면 항상 똑같은 답이 나오나요?
거의 같아지지만 100%는 아니에요. 일관성이 크게 올라간다고 이해하면 돼요. 같은 답이 꼭 필요하면 “매번 동일한 형식으로 답해줘”라고 덧붙이는 게 좋아요.
Q. 온도랑 top-p는 뭐가 달라요?
top-p는 “확률 상위 몇 %의 단어 안에서만 고르게” 제한하는 또 다른 설정이에요. 온도가 모험심이라면, top-p는 후보의 범위를 자르는 칼이에요. 보통 둘 중 하나만 조절하는 걸 권장하고, 비개발자라면 온도만 알아도 충분해요.
Q. ChatGPT 무료 버전에서도 온도가 적용되나요?
네, 적용돼요. 다만 사용자가 직접 숫자를 바꿀 수 없게 기본값으로 고정돼 있을 뿐이에요. 그래서 “말로 부탁하기”가 현실적인 방법이에요.
Q. 답이 자꾸 이상해지는데 온도 때문일까요?
온도가 너무 높으면 말이 꼬이거나 엉뚱해질 수 있어요. “더 정확하고 차분하게 답해줘”라고 해보세요. 그래도 이상하면 온도가 아니라 질문(프롬프트)을 더 구체적으로 다듬는 게 답일 때가 많아요.
정리
온도(Temperature)는 AI가 답을 고를 때의 모험심이라고 기억하면 돼요.
- 낮으면 → 안정적이고 일관되게 (번역·요약·사실 정리)
- 높으면 → 창의적이고 다양하게 (글쓰기·아이디어)
답이 매번 다른 건 고장이 아니라 온도가 적당히 높게 잡혀 있어서예요. 그리고 비개발자는 숫자 대신 “창의적으로” / “정확하게”라는 말 한마디로 충분히 조절할 수 있어요.
다음번엔 “시스템 프롬프트 — ChatGPT가 미리 받는 숨은 지시”도 정리해서 올려볼게요. AI가 왜 처음부터 특정 말투로 답하는지, 그 비밀을 풀어볼게요!