Pasti! modél transformator mangrupikeun jinis arsitéktur jaringan saraf anu diwanohkeun dina makalah "Attention Is All You Need" ku Google dina 2017. Disebut transformator kusabab dumasar kana ideu perhatian diri, anu ngamungkinkeun modél pikeun fokus kana bagian-bagian input nalika ngolah éta. Arsitéktur transformator utamina dianggo pikeun tugas sapertos pamrosésan basa alami (NLP) anu ngalibetkeun input sékuénsial, sapertos téks. Modél diwangun ku encoder sareng dekoder. Encoder dina sékuénsi input sareng ngahasilkeun set kaayaan disumputkeun, anu teras dilebetkeun ka decoder pikeun ngahasilkeun sékuénsi output. Salah sahiji komponén konci modél transformator nyaéta mékanisme perhatian-bébas. Self-attention ngamungkinkeun modél pikeun ngukur pentingna komponén input input input anu béda.
spam fails_task pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence