{"conversations": [{"from": "human", "value": "Makina ikasten eta hizkuntza-modelo handietan aditua bazina bezala. Hizkuntza-modelo handiek, GPT3ek, adibidez, testua letraz edo hitzez sortzen dute?"}, {"from": "gpt", "value": "Testuaren letra-tipoa"}, {"from": "human", "value": "Azalpen bat behar dut 10min aurkezpen bat egiteko biharko klasean."}, {"from": "gpt", "value": "LLMak (hizkuntzaren modelo handiak) haien erantzunak sortzen ditu, aurrekoari lotutako pisuen artean honako karaktere edo tokena iragarriz. Horrela, ereduko datu-base bat ematen dugu, Shakespeare-ren lan guztietatik joaten da hau, Wikipedia osoa, Reddits, etab. Gune batzuetan tamaina desberdineko datu-multzoak aurki ditzakegunak, kalitate handiagoko edo gutxiagoko informazioa dutenak. Datu gehiago eta gehiago behar dira \"token\" datuak \"letraren arabera esploratzeko, eta horrela denbora aurrezteko. Izan ere, aurreko karakterera aurresan dauden karakterraren arabera, aurreko karaktere osoa aurresuposatzen du: bat behar dugu, trebakuntzarako. Une honetan beharrezko da LMYOLMen pisu berdinak ez diren datuak etengabe biderkatu behar dira (inprimazio-eremuetan). Eta denbora gehiago behar dira FDMak eta denbora gehiago behar ditugu. Une honetan zehar aldatu behar dira, eta denbora- marka guztiak LLMen berdina duten formatuetan."}]}