아래 목록에서 각 취약점을 클릭하여 자세한 내용을 확인하세요.
LLM에 의도치 않은 프롬프트를 주입하여 모델의 사전 의도를 오버라이드하거나 무시하게 만드는 공격입니다. 이는 직접적인 프롬프트 조작 또는 간접적인 데이터 소스를 통해 발생할 수 ...
LLM의 출력이 추가 검증이나 샌드박싱 없이 다른 시스템으로 전달될 때 발생합니다. 이는 XSS, CSRF, SSRF 등과 같은 고전적인 웹 취약점으로 이어질 수 있습니다....
LLM이 학습하는 데이터를 조작하여 모델의 미래 행동, 출력 또는 보안에 영향을 미치는 공격입니다. 이는 LLM이 오도된, 편향된, 또는 악의적인 정보를 생성하게 만들 수 있습니다...
과도하게 복잡하거나 리소스 집약적인 프롬프트로 LLM에 과부하를 주어 정상적인 서비스 제공을 방해하는 공격입니다. 이는 LLM의 응답 시간 지연 또는 서비스 중단을 유발합니다....
LLM 개발 및 배포 생태계 내의 구성 요소 (예: 사전 학습된 모델, 라이브러리, 플러그인, 배포 플랫폼)에 존재하는 취약점입니다....
LLM이 학습 데이터 또는 추론 과정에서 의도치 않게 민감한 정보를 노출하는 경우입니다. 이는 개인 식별 정보(PII), 영업 비밀, 기타 기밀 정보를 포함할 수 있습니다....
LLM에 통합된 플러그인이나 확장 기능이 보안 취약점 없이 설계되거나 구현되지 않았을 때 발생합니다. 이는 플러그인을 통해 백엔드 시스템에 대한 무단 접근을 허용할 수 있습니다....
LLM 또는 LLM 기반 시스템이 사용자의 의도를 넘어서거나 예상치 못한 행동을 수행할 수 있는 과도한 권한이나 자율성을 가질 때 발생합니다....
사용자나 시스템이 LLM의 출력에 과도하게 의존하여 LLM의 오류, 환각(hallucinations) 또는 편향된 정보를 제대로 검증하지 않을 때 발생합니다....
공격자가 LLM의 모델 아키텍처, 가중치 또는 학습 데이터를 무단으로 접근, 복제 또는 추출하여 지적 재산을 침해하거나 악의적으로 활용하는 것입니다....