serangan adversarial paling umumna dianggo dina sistem trial and error. Dimana input, misalna gambar panda, ngagaduhan noise ampir teu kapendak ditambihan pikeun nyasabkeun klasifikasi pikeun mikir gambarna saleresna, sapertos penguin. Prosés nambihan noise ieu diulang dugi ka susunan noise janten akurat, anu nyababkeun klasifikasi mikir yén panda asli saleresna, penguin. Ieu ngamangpaatkeun kanyataan yén klasifikasi biasana nganggo séri rumit vektor numerik sareng transformasi na pikeun ngartos naon anu ditingali. Janten sagala parobahan alit anu dilakukeun kana input tiasa nyababkeun konsekuensi anu langkung ageung sareng bahkan katégorisasi palsu.
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence