{"conversations": [{"from": "user", "value": "Com puc comen\u00e7ar una introducci\u00f3 al meu TFG sobre l'arquitectura de Xarxes Neuronals Transformers?"}, {"from": "assistant", "value": "Et recomano que miris moltes de les eines que ja s'han o s'estan creant en base als Transformers, tals com els models GPT de OpenAI o BERT de Google. Sabies que GPT-2, el model antecessor de GPT-3, en el qual es basa ChatGPT, \u00e9s de lliure acc\u00e9s?"}]}