AI 답변, 그대로 믿어도 될까
AI 챗봇은 모르는 것도 아는 것처럼 자연스럽게 말할 때가 있습니다. 이런 현상을 흔히 환각(hallucination)이라고 부릅니다. AI를 잘 쓰는 사람은 AI를 덜 믿는 사람이 아니라, 어디를 확인해야 하는지 아는 사람입니다.
왜 틀린 말을 할까
AI 언어 모델은 “사실을 찾아서” 답한다기보다, 학습한 글을 바탕으로 가장 그럴듯한 다음 단어를 이어 붙여 문장을 만듭니다. 그래서 문장은 매끄러워도 내용이 틀릴 수 있고, 틀린 답일수록 오히려 자신 있게 들리기도 합니다. 학습 이후에 생긴 일은 알지 못하는 경우도 많습니다.
특히 틀리기 쉬운 질문
| 유형 | 예시 | 왜 위험한가 |
|---|---|---|
| 정확한 숫자 | 통계, 가격, 연도, 인구 | 비슷한 숫자를 섞어 만들어 냅니다. |
| 출처와 인용 | 논문 제목, 기사, 판례, 책의 문장 | 존재하지 않는 논문이나 기사를 지어내기도 합니다. |
| 최근 소식 | 요즘 요금, 최신 제품, 바뀐 법 | 학습 시점 이후 정보를 모를 수 있습니다. |
| 덜 알려진 사람·장소 | 작은 회사, 동네 가게, 일반인 | 정보가 적을수록 빈칸을 상상으로 채웁니다. |
| 전문 판단 | 법률, 의료, 세금, 투자 | 일반론은 맞아도 내 상황에는 틀릴 수 있습니다. |
5분 안에 하는 확인법
- 출처를 요구하고 직접 열어 보기 — “근거가 되는 자료 주소를 알려 줘”라고 한 뒤, 링크를 눌러 정말 그 내용이 있는지 봅니다. 링크가 없거나 열리지 않으면 의심하세요.
- 검색형 AI로 다시 묻기 — Perplexity, Copilot처럼 웹을 검색해 답하는 서비스에 같은 질문을 하고 출처를 비교합니다.
- 다른 챗봇과 교차 확인 — 두 서비스가 다른 답을 내면, 적어도 하나는 틀렸다는 신호입니다.
- 공식 자료로 마무리 — 법은 국가법령정보센터, 통계는 통계청, 제품 정보는 제조사 공식 사이트처럼 원래 출처에서 최종 확인합니다.
- “확실하지 않은 부분”을 묻기 — “이 답에서 확실하지 않거나 확인이 필요한 부분을 알려 줘”라고 하면 약한 고리를 스스로 짚는 경우가 많습니다.
처음부터 덜 틀리게 묻는 법
- 자료를 직접 주기 — 내가 가진 문서를 붙여 넣고 “이 글에 있는 내용만으로 답해 줘”라고 하면 지어낼 여지가 크게 줄어듭니다. NotebookLM처럼 올린 자료만 근거로 답하는 툴도 좋습니다.
- 모르면 모른다고 하게 하기 — “확실하지 않으면 모른다고 답해 줘”를 덧붙입니다.
- 날짜를 밝히기 — “2026년 10월 기준으로”처럼 시점을 적고, 최신 정보는 검색 기능이 있는 서비스에 묻습니다.
AI를 써도 괜찮은 일, 조심할 일
틀려도 바로 알아챌 수 있거나 결과를 내가 고칠 수 있는 일(글 다듬기, 아이디어 내기, 요약 초안)은 AI가 가장 빛나는 영역입니다. 반대로 틀리면 피해가 크고 내가 검증하기 어려운 일(약 복용, 계약, 세금 신고)은 AI 답을 참고만 하고 반드시 전문가나 공식 기관에 확인하세요.
AI는 똑똑한 인턴처럼 대하세요. 일은 빠르고 잘하지만, 보내기 전에 내가 한 번 검토해야 합니다.