html LLM04: 모델 서비스 거부 (Model Denial of Service)
← 목록으로 돌아가기

LLM04: 모델 서비스 거부 (Model Denial of Service)

개요

과도하게 복잡하거나 리소스 집약적인 프롬프트로 LLM에 과부하를 주어 정상적인 서비스 제공을 방해하는 공격입니다. 이는 LLM의 응답 시간 지연 또는 서비스 중단을 유발합니다.

예상되는 영향

서비스 가용성 저하, 사용자 경험 악화, 운영 비용 증가 (API 호출 비용 등).

완화 방법

입력 길이 및 복잡성 제한, 프롬프트의 비용 모델링, 속도 제한(rate limiting), 캐싱 전략, 효율적인 인프라 확장.