일반 보안 · 최신 트렌드 · General security & latest trends
프롬프트 인젝션 (Prompt injection)
定義
AI 모델에 숨긴 지시를 주입해 의도와 다른 행동을 유발하는 공격(LLM 시대의 신종 위협).
Injecting hidden instructions into an AI model to make it act against intent (an LLM-era threat).
経営層（CEO·CISO）向け
AI를 업무·제품에 도입할수록 완전히 새로운 공격면이 생깁니다(예: 메일·문서 속 숨은 지시로 AI 비서를 조종). 놓치기 쉬운 것: 기존 보안 점검 항목엔 없습니다 — AI 입력의 신뢰경계, 출력 가드레일, AI가 가진 권한 최소화를 보안 검토에 새로 포함하세요.
Adopting AI in workflows/products creates an entirely new attack surface (e.g., hidden instructions in mail/docs hijacking an AI assistant). Commonly missed: it is absent from legacy checklists — add AI input trust-boundaries, output guardrails, and least-privilege for the AI’s permissions to your security review.