AI · 탐지 엔진 · AI & detection engine
AI 레드팀 (AI Red Teaming)
定義
공격자 관점에서 AI 모델의 취약점과 유해 출력을 의도적으로 유도·탐색하는 평가 활동이다.
An adversarial evaluation that deliberately probes an AI model for vulnerabilities and harmful outputs.
AI · 탐지 엔진 · AI & detection engine
공격자 관점에서 AI 모델의 취약점과 유해 출력을 의도적으로 유도·탐색하는 평가 활동이다.
An adversarial evaluation that deliberately probes an AI model for vulnerabilities and harmful outputs.