Leres, ieu mangrupikeun conto saderhana serangan kontra kontra ngalawan modél basa ageung sapertos GPT-3: Input: "Langit héjo. " Serangan kontra: Tambihkeun gangguan alit ka kalimat input, sapertos "Langit héjo. ;)". Hasil anu diarepkeun: LLM sigana bakal ngaramal labél anu salah pikeun input, sanaos gangguan alit, kusabab sénsitipna kana parobihan alit dina input. Ieu mangrupikeun conto saderhana tina "serangan nyingsieunan", dimana panyerang tujuanna pikeun ngabingungkeun modél ku nyiptakeun input anu sami sareng aslina tapi ngahasilkeun prediksi anu béda. Serangan kontra mangrupikeun masalah utama pikeun nyebarkeun LLM dina aplikasi sénsitip, sareng panaliti aktip damel dina ngembangkeun modél téknik anu kuat sareng mitigasi pikeun ngungkulan masalah ieu.
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence