Modél Basa ageung (LLM) ningkatkeun kinerja ku ningkatkeun ukuran set data sareng jumlah parameter dina modél, sareng kuantitas optimal tina salah sahiji faktor bakal bénten dumasar kana jumlah komputasi anu aya di tangan anjeun. Perkiraan pikeun modél optimal sareng ukuran set data pikeun anggaran FLOP anu dipasihkeun nganggo hukum skaling Chinchilla (Hoffman 2022) tiasa dipendakan di handap: Token Modél Ukuran FLOP Anggaran FLOP --- --- --- --- 4.00E+08E+1992E+89E+89E+09E+09E+09E+20020E+02E10 2.00E10 1.00E10 1.23E10 2.23E10 3.23E12 3.23E12 3.23E12 1.23E12 1.23E12 1.23E12 1.23E12 1.23E12 1.23E12 1.23E12 1.23E12 1.23
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence