AI가 자신만만하게 거짓말을 한다고요?
저도 한 번 제대로 당했어요.
ChatGPT한테 마케팅 관련 책 추천해달라고 했는데, 그럴듯한 제목이랑 저자명이 쫙 나오는 거예요. 근데 찾아보니까 존재하지 않는 책이었어요. 완전히 지어낸 거였죠.
더 황당한 건 AI가 전혀 미안한 기색 없이 아주 자신만만하게 알려줬다는 거예요.
이걸 업계에서 **할루시네이션(Hallucination)**이라고 불러요.
할루시네이션이 뭐냐면
AI가 모르는 걸 모른다고 하지 않고 그럴듯하게 만들어내는 현상이에요.
환각이라고도 번역해요. 실제로 없는 걸 있는 것처럼 보는 환각 증상이랑 비슷하다고 해서 붙은 이름이에요.
왜 이런 일이 생기나?
AI가 나쁜 의도로 거짓말하는 게 아니에요.
AI는 기본적으로 **”다음에 올 가장 그럴듯한 단어를 예측하는 기계”**예요. 모른다는 옵션보다 그럴듯한 답을 만들어내는 게 학습된 방식이거든요.
마치 이런 거예요. 시험에서 모르는 문제가 나왔는데, 답을 비워두는 것보다 그럴듯한 답을 써내는 학생처럼요. 틀릴 수 있어도 일단 쓰는 거죠.
할루시네이션이 자주 나타나는 상황
직접 써보면서 조심해야겠다 싶었던 경우들이에요.
1. 특정 인물, 책, 논문 정보
존재하지 않는 책 제목, 논문 출처, 인물 이력을 그럴듯하게 만들어내는 경우가 많아요.
2. 최신 정보
AI 학습 데이터에 없는 최근 사건을 물어보면 옛날 정보를 마치 최신인 것처럼 답하기도 해요.
3. 구체적인 수치나 통계
“한국 치킨집이 몇 개야?” 같은 구체적인 숫자 물어볼 때 그럴듯한 숫자를 만들어낼 수 있어요.
4. 법률, 의료 정보
이 분야는 특히 위험해요. 틀린 정보를 자신있게 알려줄 수 있거든요.
그럼 AI를 못 믿는 건가?
그건 아니에요. 활용도는 여전히 엄청나요.
다만 이렇게 구분해서 쓰면 돼요.
| 믿어도 되는 경우 | 꼭 확인해야 하는 경우 |
|---|---|
| 글쓰기, 요약, 번역 | 특정 사실, 수치, 통계 |
| 아이디어 브레인스토밍 | 법률, 의료 정보 |
| 코드 초안 작성 | 특정 인물, 책, 논문 |
| 설명, 개념 이해 | 최신 뉴스, 이벤트 |
할루시네이션 줄이는 실용 팁
1. 출처 요청하기
“이거 어디서 나온 정보야?”라고 물어보면 AI가 더 신중하게 답해요.
2. 중요한 정보는 직접 확인
AI가 알려준 책 제목, 논문, 통계는 구글에서 한 번 더 검색해보는 습관이 필요해요.
3. 모르면 모른다고 해달라고 요청
“확실하지 않으면 모른다고 말해줘”라고 프롬프트에 넣으면 조금 나아져요.
4. 웹 검색 기능 활용
요즘 AI들은 웹 검색 기능이 붙어있어요. 최신 정보나 구체적인 사실은 검색 기능 켜고 물어보는 게 훨씬 정확해요.
한 줄 요약
할루시네이션 = AI가 모르는 걸 그럴듯하게 지어내는 현상 중요한 사실 정보는 항상 한 번 더 확인하세요.
다음 글에서는 “임베딩, AI가 의미를 이해하는 방법” 을 다뤄볼게요. AI가 어떻게 단어의 의미를 파악하는지 신기한 원리가 숨어있어요.
궁금한 AI 용어 있으시면 댓글로 남겨주세요!