Dina 2023, teu. Teu aya cara pikeun mastikeun yén masalah optimasi dirumuskeun ku cara dimana solusi optimal pikeun sistem AI pikeun diajar akun pikeun nilai manusa anu dimaksud, atanapi anu mitigates isu alignment internal sapertos mesa-optimisasi. AGI anu teu cocog sigana bakal agresif ngahargaan tujuan-perlindungan leuwih nilai manusa, sareng gancang ngembangkeun kamampuanana pikeun tujuan tunggal pikeun neraskeun fungsi utilitasna.
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence