LLM에 통합된 플러그인이나 확장 기능이 보안 취약점 없이 설계되거나 구현되지 않았을 때 발생합니다. 이는 플러그인을 통해 백엔드 시스템에 대한 무단 접근을 허용할 수 있습니다.
백엔드 시스템에 대한 무단 접근, 데이터 유출, 시스템 제어권 획득, 서비스 악용.
플러그인에 대한 엄격한 보안 검토, 최소 권한 원칙 적용, API 보안 강화, 입력 유효성 검사, 샌드박싱 환경에서 플러그인 실행.