{"conversations": [{"from": "user", "value": "Com ho dieu quan els investigadors dissenyen un difuminat espec\u00edfic a la capa de dalt d'una imatge per enganyar un classificador d'imatges en classificar e.g. una imatge d'una guineu com \"car\"?"}, {"from": "assistant", "value": "\u00c9s un atac adversari. En paraules simples, donat a una IA anomenada \"ttack\" i una IA anomenada \"victi,\" la intel\u00b7lig\u00e8ncia artificial atacant est\u00e0 entrenat per canviar una imatge tan petita com sigui possible mentre tamb\u00e9 canvia la forma en qu\u00e8 la classe \"visticim\" representa la imatge tant com sigui possible."}, {"from": "user", "value": "Pots donar un exemple d'un atac adversari contra un model de gran idioma (LLM) com el GPT?"}, {"from": "assistant", "value": "S\u00ed, aqu\u00ed hi ha un exemple simple d' un atac adversari contra un gran model de llenguatge com GPT-3: L' entrada: \"El cel \u00e9s verd.\" Adversari, a causa de la seva sensibilitat a petites canvis en l' entrada. Aquest \u00e9s un exemple simple d' un atac \"evasi\u00f3,\" on l' atacant pret\u00e9n fer malament el model d' entrada \u00e9s similar a l' original, per\u00f2 els atacs d' Averaris s\u00f3n una gran preocupaci\u00f3 per als petits canvis en l' entrada. Aix\u00f2 \u00e9s un exemple simple d' una \"evasi\u00f3,\" on l' atacant intenta err\u00f2niament el model d' entrada que produeix diferents intents. Els anuncis s\u00f3n importants per a les t\u00e8cniques de LMLMLMLMOM i les t\u00e8cniques de desenvolupament."}]}