Costruisci il tuo (not so) Large Language Model

I LLMs sono il prodotto della Industry 4.0 che piú ha influenzato l'attuale avanzata della GenAI e infiammato la nostra immaginazione con le infinite possibilità applicative. In questo talk faremo un passo indietro nel tempo e guarderemo alla loro evoluzione, dai modelli pre-deep learning a quelli attuali basati sull'architettura Transformers. Infine proveremo a costruire un Large Language Model da (quasi) 0 e discuteremo la differenza fra pre-training e fine-tuning e i loro vantaggi e svantaggi