사용자나 시스템이 LLM의 출력에 과도하게 의존하여 LLM의 오류, 환각(hallucinations) 또는 편향된 정보를 제대로 검증하지 않을 때 발생합니다.
잘못된 정보에 기반한 의사 결정, 중요한 시스템의 오작동, 법적 또는 윤리적 문제 발생.
LLM 출력의 한계에 대한 사용자 교육, 중요 결정에 대한 인간의 검토, 다중 소스 교차 검증, LLM 출력의 신뢰도 지표 제공.