XAI(설명 가능한 AI)
AI가 내놓은 답이나 판단의 이유를, 사람이 이해할 수 있는 방식으로 설명해주는 기술과 연구 분야를 뜻합니다.
한눈에 보는 정의
**XAI(Explainable AI, 설명 가능한 AI)**는 AI, 특히 복잡한 딥러닝 모델이 "왜 이런 결론을 냈는지" 그 이유를 사람이 이해할 수 있는 형태로 설명해주는 기술과 연구 분야를 말합니다.
자세히 알아보기
- 예문: "대출 심사 AI가 왜 거절 판단을 내렸는지 XAI 기법으로 근거를 보여주도록 했다."
- 의료 진단, 금융 심사처럼 결과에 대한 책임 소재와 신뢰가 중요한 분야일수록 XAI의 필요성이 커집니다.
- LLM(거대 언어 모델) 처럼 내부 구조가 매우 복잡한 모델일수록, 판단 과정을 사람이 이해하기 쉽게 설명하기 어렵다는 점이 XAI 연구의 주요 과제입니다.