{"conversations": [{"from": "user", "value": "Qu\u00e8 \u00e9s un model d'idioma pre-tracci\u00f3?"}, {"from": "assistant", "value": "El model de llengua pre-tracci\u00f3 es refereix a un model d'idioma que es realitza primer a trav\u00e9s d'un grup de materials de llengua i despr\u00e9s en base d'aquest model pre- entrenat, continua entrenant o models alternatius."}, {"from": "user", "value": "Pots explicar-ho?"}, {"from": "assistant", "value": "Els models d' idioma pretracitaci\u00f3 es descriuen en termes de verbs. El vector de paraula, usant dades de text, es construeix en termes de sin\u00f2nims. De tota manera, el vector de paraula, el qual s' usa sovint com una mostra positiva en una sola frase, s' usa com una mostra negativa de gir negatiu aleatori, i est\u00e0 entrenat en un enfocament CBow o Salta- Gram, el qual permet un mode similar en el terme \u00fanic que es comparteixi. L' ess\u00e8ncia del terme \u00e9s un anterior a NLP: dos termes que s\u00f3n comuns en text, sovint en sin\u00f2nims en text. De tota manera, el problema del vector tamb\u00e9 \u00e9s aparent en car\u00e0cters textuals, sovint diferents en un context en una paraula que \u00e9s compartida en un terme simple, i que s' usa en el volum per produir una informaci\u00f3 fixa en el text de fons, que no es pot ajustar en el context."}]}