Modelli micro, vantaggi macro. Cosa c'è oltre gli LLM?

Oggi, parlare di intelligenza artificiale sembra significare automaticamente parlare di LLM multimodali. Complici l’hype e una certa inesperienza diffusa, questi modelli ultra-potenti vengono spesso impiegati anche per task semplici, dove soluzioni molto più leggere (ed efficienti) sarebbero più che sufficienti. In questo intervento analizzeremo insieme come integrare l’AI a livello di prodotto in modo pragmatico, valutando quando ha senso scomodare un LLM e quando, invece, modelli più piccoli portano vantaggi più grandi in termini di costi, prestazioni e sostenibilità tecnica.