인간 피드백 강화학습 (RLHF)RLHF

정의

인간의 선호 평가를 보상으로 삼아 모델을 정렬시키는 강화학습 기법이다. LLM의 유해 출력 억제에 쓰인다.

A reinforcement learning method that aligns models using human preference feedback as reward. Used to suppress harmful LLM outputs.

더 알아보기

같은 분류의 다른 용어