1. Aranjeunna ngusulkeun arsitéktur modél Transformer anu ngan ukur ngandelkeun mékanisme perhatian pikeun ngitung perwakilan data input na. Éta ngaleungitkeun lapisan anu uih atanapi konvolusi anu umum dina modél sateuacanna. 2. Mékanisme perhatian ngamungkinkeun unggal posisi dina sékmen input pikeun ngiringan sadaya posisi dina sékmen kaluaran, ngamungkinkeun éta pikeun néwak kagumantungan global. Ieu ngajantenkeun modél langkung kuat tibatan arsitéktur sateuacanna. 3. Transformer ngahontal hasil anu paling canggih dina tarjamahan mesin, ngéléhkeun modél anu langkung lami anu uih sareng konvolusi. Ieu nunjukkeun poténsi modél dumasar perhatian. 4. Makalah éta ngapopulérkeun mékanisme perhatian sareng ngadorong langkung seueur padamelan pikeun ngungkeun perhatian kana sababaraha masalah dina NLP sareng domain sanés. Mékanisme perhatian ayeuna seueur dianggo dina modél deep learning. 5. Maka
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence