AI · 탐지 엔진 · AI & detection engine
인간 피드백 강화학습 (RLHF)RLHF
定義
인간의 선호 평가를 보상으로 삼아 모델을 정렬시키는 강화학습 기법이다. LLM의 유해 출력 억제에 쓰인다.
A reinforcement learning method that aligns models using human preference feedback as reward. Used to suppress harmful LLM outputs.