환각

환각은 어디에서 쓰이나요?

챗GPT나 구글 AI 오버뷰가 존재하지 않는 통계나 인용문을 사실처럼 답변에 섞어 낼 때 이 말을 씁니다.

• 존재하지 않는 통계나 틀린 날짜가 섞여 나올 때
• 실제로 없는 인용문이나 링크가 그럴듯하게 나올 때
• 출처는 달려 있는데 그 출처의 내용과 다를 때

환각은 어떻게 확인하나요?

문장이 자연스럽다고 그대로 믿지 말고 원문부터 찾아봅니다. 순서대로 2가지를 확인합니다.

• 답변에 나온 고유명사·수치·날짜를 원문과 대조합니다
• 출처 링크가 실제로 열리는지, 내용이 일치하는지 확인합니다

환각이 왜 중요한가요?

확인 없이 그대로 옮기면 사실과 다른 내용을 퍼뜨리게 됩니다.

Semrush의 2025년 조사에 따르면 챗GPT는 구글 검색 순위 21위 이하의 출처를 응답의 90%가량에서 가져다 씁니다. 상위권 문서만이 아니라 검증이 약한 출처까지 폭넓게 끌어와 답을 구성한다는 뜻입니다. 그 과정에서 사실과 다른 내용이 섞여 들어갈 위험도 함께 커집니다.

환각이라는 개념은 왜 생겼나요?

생성형 AI는 다음에 올 확률이 가장 높은 단어를 이어 붙이는 방식으로 문장을 만듭니다. 근거가 부족해도 문장을 멈추지 않고 채우는 구조라, 그럴듯하지만 근거 없는 내용이 반복되며 이 현상에 이름이 붙었습니다.

내 상황에 적용하려면?

답변을 그대로 옮기기 전에 원문 출처부터 직접 확인합니다.

• 답변에 나온 수치·날짜를 원문과 대조했습니다
• 출처 링크가 실제로 열리는지 확인했습니다
• 존재를 확인할 수 없는 인용문은 옮기지 않았습니다
• 중요한 정보일수록 원문을 직접 찾아 다시 확인했습니다

환각에 대한 흔한 오해는 무엇인가요?

환각이 만들어지는 배경이 되는 답변 생성 과정은 RAG 항목에서 다룹니다. 답변이 어떤 문서를 근거로 삼았는지 확인하는 방법은 출처 표시 항목에서 다룹니다.