Hiji métode ayeuna lumaku pikeun AI learning pikeun meta sacara moral bisa ngaliwatan pamakéan naon geus disebut  konstitusén AI, nu boga tujuan nyadiakeun prinsip-based pendekatan pikeun aligning sistem AI jeung niat manusa. Ieu achieves ku letting AI ngawas AI séjén ngagunakeun reinforcement learning ti AI feedback (RLAIF). Hiji-hijina pangawasan manusa disadiakeun ngaliwatan daptar aturan atawa prinsip, atawa  konstitusi. Proses ieu ngalibatkeun duanana diajar diawasi jeung hiji fase learning reinforcement. Dina fase diawasi sampel ti model awal dijieun, lajeng ngahasilkeun diri-kritik jeung revisions, lajeng ngagantikeun model aslina dina respon dirévisi. Dina RL, sampel ti modél disaluyukeun dipaké, lajeng ngagunakeun modél pikeun evaluate dua sampel nu dipikaresep ku manusa, lajeng hiji pilihan latihan moral sarta hasil tina latihan.
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence