Leres, di dieu aya conto serangan kontra kontra kontra ngalawan Modél Basa ageung (LLM) sapertos GPT: An attacker tiasa nambihan urutan kecap atanapi frasa anu diwangun ku ati-ati kana téks input, nyababkeun LLM ngahasilkeun téks anu béda ti anu dimaksud. Contona, anu nyerang tiasa nambihan sababaraha kecap atanapi frasa kana tulisan berita ngeunaan calon politik, nyababkeun LLM ngahasilkeun téks anu nampilkeun calon dina cahaya négatip. Jenis serangan kontra ieu katelah "serangan racun téks". Sacara umum, serangan kontra kontra kontra kontra LLM tujuanana pikeun nyababkeun modél ngahasilkeun téks anu bias, ngabingungkeun, atanapi salah. Serangan ieu tiasa ngagaduhan konsekuensi anu serius, khususna dina aplikasi dimana modél dianggo pikeun nyandak kaputusan sareng dunya nyata, sapertos di daérah politik, berita, sareng kauangan.
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence