AI 그림 도구에 “간호사 그려줘”라고 하면 대부분 여성이, “CEO 그려줘”라고 하면 대부분 남성이 나오는 경우가 많아요. AI가 일부러 차별하는 걸까요? 그렇진 않아요. 이건 AI 편향(Bias)이라는 현상이에요.
오늘은 AI가 왜 이렇게 한쪽으로 쏠린 답을 하는지, 그게 왜 위험한지 쉽게 풀어볼게요. AI를 비판 없이 믿으면 안 되는 이유이기도 해요.
AI 편향이란? — 데이터의 치우침을 그대로 배움
AI는 인터넷의 방대한 글과 이미지를 보고 배워요. 그런데 그 데이터 자체가 이미 한쪽으로 치우쳐 있어요. 인터넷에 ‘간호사’ 이미지가 대부분 여성이면, AI도 “간호사=여성”으로 배우는 거죠.
즉, AI가 편견을 새로 만든 게 아니라 사회에 있던 편견을 그대로 흡수한 거예요.
비유 — AI는 사회를 비추는 거울
AI는 거울 같아요. 거울은 앞에 있는 걸 그대로 비추잖아요. 사회에 편견이 있으면 AI라는 거울에도 그 편견이 비쳐요. 문제는, 이 거울이 너무 그럴듯하고 자신만만하게 답해서 사람들이 그대로 믿어버린다는 거예요.
어떤 편향들이 있나요?
| 종류 | 예시 |
|---|---|
| 성별 편향 | 특정 직업을 한 성별로 가정 |
| 인종·지역 편향 | 특정 인종·문화를 기본값으로 취급 |
| 언어 편향 | 영어권 관점에 치우친 답 |
왜 위험한가요?
그냥 그림이면 웃고 넘길 수도 있어요. 하지만 AI가 채용 서류 심사, 대출 승인, 범죄 예측 같은 데 쓰이면 얘기가 달라져요. 편향된 AI가 특정 집단에 불리한 결정을 자동으로 반복하면, 차별이 조용히, 대규모로 확대될 수 있어요.
줄이려는 노력, 그리고 한계
AI 회사들은 RLHF 같은 방법으로 편향을 줄이려 해요. 사람이 “이 답은 편향됐어”라고 피드백을 주며 교정하는 거죠. 하지만 교정하는 사람도 자기 편향이 있고, 모든 편향을 다 잡아낼 순 없어서 완전히 없애기는 어려워요. 그래서 결국 쓰는 사람이 비판적으로 보는 게 중요해요.
자주 묻는 질문 (FAQ)
Q. 편향은 나쁜 의도로 만들어진 건가요?
아니에요. 대부분 데이터에 자연스럽게 섞여 들어간 거예요. 의도와 상관없이 생겨요.
Q. 사용자가 편향을 줄일 수 있나요?
어느 정도는요. “다양한 관점에서”, “성별·인종을 특정하지 말고”처럼 조건을 달면 쏠림이 줄어요.
Q. AI 답을 어디까지 믿어야 하나요?
특히 사람·집단에 대한 일반화는 조심하세요. AI 답은 ‘참고’지 ‘정답’이 아니에요.
정리
AI 편향은 AI가 학습 데이터 속 치우침을 그대로 배운 결과예요. AI는 사회를 비추는 거울이라, 우리 사회의 편견이 그대로 드러나죠. 줄이려는 노력은 있지만 완벽하지 않으니, 비판적으로 받아들이는 자세가 꼭 필요해요.
다음번엔 “top-p / 샘플링 — 온도의 단짝 설정”을 정리해볼게요. 지난 온도편에서 잠깐 나온 top-p가 정확히 뭔지, 온도랑 어떻게 다른지 풀어볼게요!