AI 용어

AI 그림 도구에 “간호사 그려줘”라고 하면 대부분 여성이, “CEO 그려줘”라고 하면 대부분 남성이 나오는 경우가 많아요. AI가 일부러 차별하는 걸까요? 그렇진 않아요. 이건 AI 편향(Bias)이라는 현상이에요. 오늘은 AI가 왜 이렇게 한쪽으로 쏠린 답을 하는지, 그게 왜 위험한지 쉽게 풀어볼게요. AI를 비판 없이 믿으면 안 되는 이유이기도 해요. AI 편향이란? — 데이터의 치우침을 그대로 배움 AI는 … 더 읽기

AI한테 “어제 경기 결과 알려줘”라고 하면 엉뚱한 답을 하거나 “제 정보는 ○○년까지예요”라고 발뺌하죠. 분명 똑똑한데 왜 최신 소식은 모를까요? 그 이유가 바로 지식 컷오프(Knowledge Cutoff)예요. 오늘은 AI가 왜 어제 일을 모르는지, 그리고 그걸 어떻게 보완하는지 쉽게 풀어볼게요. 이걸 알면 AI를 더 똑똑하게 쓸 수 있어요. 지식 컷오프란? — 학습이 멈춘 시점 AI는 엄청난 양의 글을 … 더 읽기

미드저니나 DALL-E에 “노을 지는 바닷가, 유화 스타일”이라고 입력하면 몇 초 만에 멋진 그림이 뚝딱 나오죠. 글자를 어떻게 그림으로 바꾸는 걸까요? 그 비밀은 디퓨전 모델(Diffusion Model)이에요. 원리가 좀 신기한데, 비유로 풀면 누구나 이해할 수 있어요. 오늘 쉽게 설명해볼게요. 디퓨전 = 노이즈에서 그림 떠오르게 하기 ‘디퓨전(diffusion)’은 ‘퍼짐’이라는 뜻이에요. 핵심 아이디어는 이거예요. 지직거리는 노이즈(모래폭풍 같은 화면)에서 시작해, 그걸 … 더 읽기

AI는 처음엔 인터넷에 있는 엄청난 양의 글을 그대로 배워요. 그런데 인터넷에는 무례한 글, 틀린 글, 위험한 글도 많잖아요. 그걸 그대로 배운 AI는 사실 꽤 거칠고 엉뚱해요. 그런데 우리가 쓰는 ChatGPT는 정중하고 도움이 되죠. 이 차이를 만든 비결이 바로 RLHF예요. 이름이 어렵지만 개념은 강아지 훈련만큼 직관적이에요. 오늘 쉽게 풀어볼게요. RLHF, 풀어보면 별거 아니에요 RLHF는 “사람의 피드백으로 … 더 읽기

지난 편에서 AI는 시스템 프롬프트라는 숨은 규칙을 따른다고 했죠. 그런데 이 규칙을 교묘하게 무너뜨리는 공격이 있어요. 바로 프롬프트 인젝션(Prompt Injection)이에요. 요즘 AI 보안에서 가장 골치 아픈 문제로 꼽혀요. 오늘은 이게 뭔지, 왜 위험한지, 그리고 비개발자인 우리가 뭘 조심해야 하는지 쉽게 풀어볼게요. 프롬프트 인젝션이란? 프롬프트 인젝션은 AI에게 몰래 숨긴 지시를 주입해서 원래 규칙을 어기게 만드는 거예요. … 더 읽기

요즘 AI 뉴스에 “생각하는 AI”, “추론 모델(Reasoning Model)”이라는 말이 자주 나와요. 기존 AI도 충분히 똑똑한데, 대체 뭐가 다르다는 걸까요? 한마디로 말하면 차이는 “답하는 방식”에 있어요. 오늘은 이 추론 모델이 기존 AI랑 어떻게 다른지, 그리고 언제 쓰면 좋은지 쉽게 풀어볼게요. 기존 AI는 ‘즉답형’이에요 보통의 AI는 질문을 받으면 거의 바로 답을 내놔요. 빠르고 편하죠. 일상적인 질문엔 이게 … 더 읽기

LLM 같은 AI는 사실 글을 그럴듯하게 쓰는 게 본업이에요. 그래서 원래는 실시간 정보도 모르고, 복잡한 계산도 은근히 틀려요. 그런데 요즘 AI는 실시간 날씨도 알려주고, 환율 계산도 정확히 하고, 예약까지 잡아주죠. 어떻게 된 걸까요? 바로 함수 호출(Function Calling) 덕분이에요. 오늘은 AI가 자기 능력 밖의 일을 어떻게 해내는지, 그 원리를 쉽게 풀어볼게요. 먼저, AI에게도 약점이 있어요 AI는 … 더 읽기

AI한테 “이런 식으로 정리해줘”라고 시켰는데 엉뚱하게 나온 적 있죠? 그런데 신기하게도, 원하는 결과물 예시 2~3개를 같이 보여주면 답이 확 좋아져요. 이 차이를 만드는 게 바로 제로샷(Zero-shot)과 퓨샷(Few-shot)이에요. 어려운 영어 같지만 개념은 정말 간단해요. 오늘 이거 하나 알아두면 AI한테 일 시킬 때 결과물 품질이 눈에 띄게 좋아질 거예요. 제로샷 — 예시 없이 그냥 시키기 제로샷은 말 … 더 읽기

ChatGPT한테 한 번도 “정중하게 답해줘”라고 시킨 적 없는데, AI는 항상 예의 바르게 답하죠? 위험한 질문은 알아서 거부하고요. 누가 시킨 것도 아닌데 말이에요. 이건 AI가 스스로 착해서가 아니에요. 시스템 프롬프트(System Prompt)라는 숨은 지시를 미리 받았기 때문이에요. 오늘은 이 “보이지 않는 지시”의 정체를 풀어볼게요. 이걸 이해하면 AI가 왜 그렇게 행동하는지 보이고, 더 나아가 비개발자도 AI를 내 입맛대로 … 더 읽기

같은 질문을 ChatGPT에 두 번 넣었는데 답이 다르게 나온 적 있죠? “방금이랑 왜 다르지?”, “내가 뭘 잘못 눌렀나?” 싶었을 거예요. 결론부터 말하면 이건 고장도, 실수도 아니에요. 온도(Temperature)라는 설정 하나 때문이에요. 온도는 AI가 답을 만들 때 얼마나 모험을 할지 정하는 값이에요. 이 개념 하나만 제대로 잡아두면 AI 답변이 왜 들쭉날쭉한지 이해되고, 더 나아가 원하는 답을 끌어내는 … 더 읽기