AI · 탐지 엔진 · AI & detection engine
탈옥 (Jailbreak)
Definition
안전 가드레일을 우회해 LLM이 금지된 콘텐츠를 생성하도록 유도하는 기법이다. 프롬프트 조작으로 수행된다.
A technique that bypasses safety guardrails to make an LLM produce prohibited content. Carried out through prompt manipulation.
AI · 탐지 엔진 · AI & detection engine
안전 가드레일을 우회해 LLM이 금지된 콘텐츠를 생성하도록 유도하는 기법이다. 프롬프트 조작으로 수행된다.
A technique that bypasses safety guardrails to make an LLM produce prohibited content. Carried out through prompt manipulation.