AI Hallucination(AI 환각)

한눈에 보는 정의

**AI 환각(Hallucination)**은 LLM(거대 언어 모델) 같은 AI 모델이 실제로는 존재하지 않는 사실, 통계, 인용문 등을 마치 진짜인 것처럼 그럴듯하고 자신 있게 만들어내는 현상을 말합니다.

자세히 알아보기

• 예문: "AI에게 논문 출처를 물었더니, 존재하지 않는 논문 제목을 지어내는 환각 현상이 나타났다."
• AI는 사실을 '검색'하는 것이 아니라 학습한 패턴을 바탕으로 '그럴듯한 다음 단어'를 예측하는 방식으로 동작하기 때문에 근본적으로 발생할 수 있는 현상입니다.
• RAG(검색 증강 생성 · 신호등 상태 표시) 처럼 실제 문서를 검색해 근거로 삼아 답변하게 하는 방식이 환각을 줄이는 대표적인 방법입니다.

관련 용어

• LLM(거대 언어 모델)
• RAG(검색 증강 생성 · 신호등 상태 표시)