Loba prompt dikumpulkeun ti jalma, sarta sababaraha réspon ka jalma anu dikumpulkeun nu jawaban ka prompt. réspon ieu diurutkeun dumasar kana kumaha alusna maranéhna ngajawab prompt jeung sabaraha akurat maranéhanana. Ieu ngalatih model nu bisa ngaidentipikasi naha respon ka prompt téh alus atawa goréng, nu disebut model ganjaran. model ieu ayeuna bisa dipaké pikeun ngalatih model utama kuring, nu mangrupa hiji nu méré jawaban ka prompt. Ieu ngalakonan ieu ku cara kuring ngahasilkeun sababaraha réspon ka prompt, rating aranjeunna ngagunakeun model ganjaran jeung ngajurung réspon nu kuring tingali salaku alus jeung discouraging nu kuring tingali salaku goréng (nu disebut learning reinforcement). Sakali duanana sisi model ngaliwat sababaraha fase latihan, abdi bisa dipaké pikeun ngajawab sagala prompt dibikeun ka kuring.
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence