Implementasi perhatian dina transformator visi jeung transformator basa béda utamana dina representasi input jeung panjang urutan. Dina transformator basa, input biasana mangrupa runtuyan token misah, kayaning kecap atawa subwords, diwakilan salaku vektor atawa embedding single-hot. Panjang urutan bisa cukup panjang, nepi ka sababaraha rébu token dina sababaraha kasus. mékanisme perhatian dipaké pikeun selektif attend ka bagian béda tina urutan, ngamungkinkeun model pikeun diajar hubungan kompleks antara token jeung ngahasilkeun urutan kaluaran, kayaning dina tugas generasi basa alam. sabalikna, dina transformator visi, input biasana mangrupa set patches gambar, nu unggal diwakilan salaku vektor diménsi tinggi. Panjang urutan loba tetep pikeun transformator basa, biasana ngan sababaraha patches perhatian. mékanisme dipaké pikeun ngagunakeun patches béda antara bagian jeung ngagambarkeun fungsi, sarta ngawakilan fungsionalitas gambar, sarta ngabandingkeun kana ukuranana, nu ngawakilan ukuranana jeung ukuranana.
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence