Che cos'è Llama 3.1 405B di Meta? Come funziona, casi d'uso e altro

Che cos'è Llama 3.1 405B?

Llama 3.1 è un aggiornamento puntuale di Llama 3 (annunciato nell’aprile 2024). Llama 3.1 405B è la versione di punta del modello che, come suggerisce il nome, ha 405 miliardi di parametri.

Fonte: Meta AI

Llama3.1 405B nella classifica LMSys Chatbot Arena

Avere 405 miliardi di parametri la mette in lizza per un’alta posizione nella classifica LMSys Chatbot Arena, una misura delle prestazioni basata su voti ciechi degli utenti.

Negli ultimi mesi, il primo posto è oscillato tra versioni di OpenAI GPT-4, Anthropic Claude 3 e Google Gemini. Al momento, GPT-4o detiene la corona, ma il più piccolo Claude 3.5 Sonnet è al secondo posto, e l’imminente Claude 3.5 Opus potrebbe prendersi la prima posizione se verrà rilasciato prima che OpenAI aggiorni GPT-4o.

Ciò significa che la competizione al vertice è dura e sarà interessante vedere come Llama 3.1 405B si confronterà con questi concorrenti. In attesa che Llama 3.1 405B compaia in classifica, alcuni benchmark sono riportati più avanti nell’articolo.

Capacità multilingue

L’aggiornamento principale da Llama 3 a Llama 3.1 è un migliore supporto per le lingue diverse dall’inglese. I dati di addestramento di Llama 3 erano al 95% in inglese, quindi rendeva poco in altre lingue. L’aggiornamento 3.1 offre supporto per tedesco, francese, italiano, portoghese, hindi, spagnolo e thai.

Contesto più lungo

I modelli Llama 3 avevano una finestra di contesto—la quantità di testo su cui si può ragionare in una volta—di 8k token (circa 6mila parole). Llama 3.1 la porta a 128k più moderno, rendendolo competitivo con altri LLM all’avanguardia.

Questo risolve una debolezza importante per la famiglia Llama. Per casi d’uso enterprise come il riassunto di documenti lunghi, la generazione di codice che coinvolge contesto da un’ampia codebase o conversazioni prolungate nei chatbot di supporto, una finestra di contesto lunga che può contenere centinaia di pagine di testo è essenziale.

Licenza Open Model

I modelli Llama 3.1 sono disponibili sotto la Open Model License Agreement personalizzata di Meta. Questa licenza permissiva concede a ricercatori, sviluppatori e aziende la libertà di usare il modello sia per scopi di ricerca sia commerciali.

In un aggiornamento significativo, Meta ha anche ampliato la licenza per consentire agli sviluppatori di utilizzare gli output dei modelli Llama, incluso il 405B, per migliorare altri modelli.

In sostanza, questo significa che chiunque può sfruttare le capacità del modello per far avanzare il proprio lavoro, creare nuove applicazioni ed esplorare le possibilità dell’AI, purché rispetti i termini delineati nell’accordo.

Come funziona Llama 3.1 405B?

Questa sezione spiega i dettagli tecnici di come funziona Llama 3.1 405B, inclusi architettura, processo di addestramento, preparazione dei dati, requisiti computazionali e tecniche di ottimizzazione.

Architettura Transformer con accorgimenti 

Llama 3.1 405B si basa su una classica architettura Transformer solo decoder, un impianto comune a molti grandi modelli linguistici di successo.

Pur mantenendo invariata la struttura di base, Meta ha introdotto piccole modifiche per migliorare stabilità e prestazioni durante l’addestramento. In particolare, l’architettura Mixture-of-Experts (MoE) è stata volutamente esclusa, dando priorità a stabilità e scalabilità nel processo di training.

Fonte: Meta AI

Il diagramma illustra come Llama 3.1 405B elabora il linguaggio. Si parte dal testo in input, diviso in unità più piccole chiamate token, poi convertite in rappresentazioni numeriche dette token embeddings.

Questi embedding vengono poi elaborati attraverso più livelli di self-attention, dove il modello analizza le relazioni tra i diversi token per comprenderne rilevanza e contesto nell’input.

Le informazioni raccolte dai livelli di self-attention vengono poi fatte passare in una rete feedforward, che elabora e combina ulteriormente tali informazioni per ricavarne significato. Questo processo di self-attention e feedforward si ripete più volte per approfondire la comprensione del modello.

Infine, il modello utilizza queste informazioni per generare una risposta token per token, costruendo sugli output precedenti per creare un testo coerente e pertinente. Questo processo iterativo, noto come decodifica autoregressiva, consente al modello di produrre una risposta fluida e contestualmente appropriata al prompt di input.

Processo di addestramento in più fasi

Lo sviluppo di Llama 3.1 405B ha comportato un processo di training multistadio. Inizialmente, il modello è stato pre-addestrato su una vasta e diversificata raccolta di dataset comprendenti trilioni di token. Questa esposizione a enormi quantità di testo consente al modello di apprendere grammatica, fatti e capacità di ragionamento dai pattern e dalle strutture incontrate.

Dopo il pre-training, il modello affronta cicli iterativi di supervised fine-tuning (SFT) e direct preference optimization (DPO). L’SFT prevede l’addestramento su compiti e dataset specifici con feedback umano, guidando il modello a produrre output desiderati.

La DPO, invece, si concentra sul perfezionamento delle risposte del modello in base alle preferenze raccolte da valutatori umani. Questo processo iterativo migliora progressivamente la capacità del modello di seguire istruzioni, la qualità delle risposte e ne assicura la sicurezza.

Qualità e quantità dei dati

Meta afferma di aver posto grande enfasi sulla qualità e sulla quantità dei dati di addestramento. Per Llama 3.1 405B, ciò ha comportato un rigoroso processo di preparazione dei dati, con ampio filtraggio e pulizia per migliorarne la qualità complessiva.

Interessante notare che lo stesso modello 405B viene utilizzato per generare dati sintetici, poi incorporati nel processo di training per affinare ulteriormente le capacità del modello.

Scalare dal punto di vista computazionale

Addestrare un modello grande e complesso come Llama 3.1 405B richiede un’enorme quantità di potenza di calcolo. Per dare un’idea, Meta ha usato oltre 16.000 delle GPU più potenti di NVIDIA, le H100, per addestrare il modello in modo efficiente.

Sono stati inoltre apportati miglioramenti significativi all’intera infrastruttura di training per gestire l’immensa scala del progetto, consentendo al modello di apprendere e migliorare in modo efficace.

Quantizzazione per l’inferenza

Per rendere Llama 3.1 405B più utilizzabile nelle applicazioni reali, Meta ha applicato una tecnica chiamata quantizzazione, che consiste nel convertire i pesi del modello dalla precisione a 16 bit (BF16) a quella a 8 bit (FP8). È come passare da un’immagine ad altissima risoluzione a una leggermente inferiore: si preservano i dettagli essenziali riducendo la dimensione del file.

Allo stesso modo, la quantizzazione semplifica i calcoli interni del modello, facendolo girare molto più velocemente ed efficientemente su un singolo server. Questa ottimizzazione rende più semplice ed economico per altri sfruttare le capacità del modello.

Casi d’uso di Llama 3.1 405B

Llama 3.1 405B offre vari potenziali impieghi grazie alla sua natura open-source e alle sue ampie capacità.

Generazione di dati sintetici

La capacità del modello di generare testo che somiglia da vicino al linguaggio umano può essere usata per creare grandi quantità di dati sintetici.

Questi dati sintetici possono essere preziosi per addestrare altri modelli linguistici, potenziare tecniche di data augmentation (rendendo i dati esistenti più vari) e sviluppare simulazioni realistiche per varie applicazioni.

Distillazione di modelli

La conoscenza incorporata nel modello 405B può essere trasferita a modelli più piccoli ed efficienti tramite un processo chiamato distillazione.

Pensa alla distillazione del modello come a insegnare a uno studente (un modello di AI più piccolo) le conoscenze di un esperto (il modello più grande Llama 3.1 405B). Questo permette al modello più piccolo di imparare ed eseguire compiti senza richiedere lo stesso livello di complessità o risorse computazionali del modello più grande.

Ciò rende possibile eseguire capacità AI avanzate su dispositivi come smartphone o laptop, che hanno potenza limitata rispetto ai server usati per addestrare il modello originale.

Un esempio recente di distillazione è il GPT-4o mini di OpenAI, una versione distillata di GPT-4o.

Ricerca e sperimentazione

Llama 3.1 405B è un prezioso strumento di ricerca, che consente a scienziati e sviluppatori di esplorare nuovi orizzonti nell’elaborazione del linguaggio naturale e nell’intelligenza artificiale.

La sua natura aperta favorisce sperimentazione e collaborazione, accelerando il ritmo delle scoperte.

Soluzioni specifiche per settore

Adattando il modello a dati specifici di particolari settori, come sanità, finanza o istruzione, è possibile creare soluzioni AI personalizzate che rispondano alle sfide e alle esigenze uniche di quei domini.

Enfasi sulla sicurezza di Llama 3.1 405B

Meta dichiara di porre grande enfasi nel garantire la sicurezza dei modelli Llama 3.1.

Fonte: Meta AI

Prima di rilasciare Llama 3.1 405B, sono stati condotti ampi esercizi di "red teaming". In questi esercizi, esperti interni ed esterni agiscono come avversari, cercando di indurre il modello a comportamenti dannosi o inappropriati. Questo aiuta a individuare potenziali rischi o vulnerabilità nel comportamento del modello.

Oltre ai test pre-rilascio, Llama 3.1 405B è sottoposto a fine-tuning sulla sicurezza. Questo processo include tecniche come il Reinforcement Learning from Human Feedback (RLHF), in cui il modello impara ad allineare le proprie risposte a valori e preferenze umane. Questo aiuta a mitigare output dannosi o di parte, rendendo il modello più sicuro e affidabile nell’uso reale.

Meta ha inoltre introdotto Llama Guard 3, un nuovo modello di sicurezza multilingue progettato per filtrare e segnalare contenuti dannosi o inappropriati generati da Llama 3.1 405B. Questo ulteriore livello di protezione aiuta a garantire che gli output del modello rispettino linee guida etiche e di sicurezza.

Fonte: Meta AI

Un’altra funzionalità di sicurezza è Prompt Guard, che mira a prevenire gli attacchi di prompt injection. Questi attacchi inseriscono istruzioni malevole nei prompt degli utenti per manipolare il comportamento del modello. Prompt Guard filtra tali istruzioni, proteggendo il modello da potenziali abusi.

Fonte: Meta AI

Inoltre, Meta ha integrato Code Shield, una funzione che si concentra sulla sicurezza del codice generato da Llama 3.1 405B. Code Shield filtra in tempo reale suggerimenti di codice non sicuri durante l’inferenza e offre protezione per l’esecuzione sicura di comandi per sette linguaggi di programmazione, il tutto con una latenza media di 200 ms. Ciò aiuta a mitigare il rischio di generare codice che potrebbe essere sfruttato o costituire una minaccia alla sicurezza.

Fonte: Meta AI

Benchmark di Llama 3.1 405B

Meta ha sottoposto Llama 3.1 405B a una rigorosa valutazione su oltre 150 benchmark diversi. Questi benchmark coprono un ampio spettro di compiti e abilità linguistiche, dalla conoscenza generale e il ragionamento al coding, alla matematica e alle capacità multilingue.

Fonte: Meta AI

Llama 3.1 405B si comporta in modo competitivo con modelli closed-source di punta come GPT-4, GPT-4o e Claude 3.5 Sonnet in molti benchmark. In particolare, mostra una forza notevole nei compiti di ragionamento, con punteggi di 96,9 su ARC Challenge e 96,8 su GSM8K. Eccelle anche nella generazione di codice, con un punteggio di 89,0 nel benchmark HumanEval.

Oltre ai benchmark automatici, Meta AI ha condotto ampie valutazioni umane per misurare le prestazioni di Llama 3.1 405B in scenari reali.

Fonte: Meta AI

Sebbene Llama 3.1 405B sia competitivo in queste valutazioni, non supera costantemente gli altri modelli. Si comporta alla pari con GPT-4-0125-Preview (il modello GPT-4 di OpenAI rilasciato in anteprima a inizio 2024) e con Claude 3.5 Sonnet, vincendo e perdendo all’incirca la stessa percentuale di valutazioni. È leggermente dietro a GPT-4o, vincendo solo il 19,1% dei confronti.

Dove posso accedere a Llama 3.1 405B?

Puoi accedere a Llama 3.1 405B tramite due canali principali:

1. Download diretto da Meta: i pesi del modello possono essere scaricati direttamente dal sito ufficiale di Llama di Meta: llama.meta.com
2. Hugging Face: Llama 3.1 405B è disponibile anche sulla piattaforma Hugging Face, un popolare hub per la condivisione e l’accesso a modelli di machine learning.

Rendendo il modello facilmente accessibile, Meta mira a permettere a ricercatori, sviluppatori e organizzazioni di sfruttarne le capacità in varie applicazioni e contribuire all’avanzamento dell’AI—leggi di più sui principi di Meta riguardo all’open-source nell’lettera di Mark Zuckerberg.

La famiglia di modelli Llama 3.1

Mentre Llama 3.1 405B attira i titoli per le sue dimensioni, la famiglia Llama 3.1 offre altri modelli pensati per diversi casi d’uso e vincoli di risorse. Questi modelli condividono i progressi della versione 405B ma sono adattati a esigenze specifiche.

Llama 3.1 70B: versatile

Il modello Llama 3.1 70B trova un equilibrio tra prestazioni ed efficienza, rendendolo un’ottima scelta per un’ampia gamma di applicazioni.

Eccelle in compiti come il riassunto di testi lunghi, la creazione di agenti conversazionali multilingue e l’assistenza alla scrittura di codice.

Pur essendo più piccolo del 405B, resta competitivo con altri modelli open e closed di dimensioni simili in vari benchmark. Le dimensioni ridotte ne facilitano anche il deployment e la gestione su hardware standard.

Fonte: Meta AI

Llama 3.1 8B: leggero ed efficiente

Il modello Llama 3.1 8B privilegia velocità e basso consumo di risorse. È ideale per scenari in cui questi fattori sono cruciali, come il deployment su dispositivi edge, piattaforme mobile o in ambienti con risorse computazionali limitate.

Nonostante le dimensioni ridotte, offre prestazioni competitive rispetto a modelli di dimensioni simili in vari compiti (vedi tabella sopra).

Se ti interessa fare fine-tuning di Llama 3.1 8B, leggi questo tutorial su Fine-tuning di Llama 3.1 per la classificazione di testi.

Miglioramenti condivisi in tutti i modelli Llama 3.1

Tutti i modelli Llama 3.1 condividono diversi miglioramenti chiave:

• Finestra di contesto estesa (128K token): la finestra di contesto, ovvero la quantità di testo che il modello può considerare in una volta, è stata aumentata significativamente a 128.000 token. Ciò consente ai modelli di elaborare input molto più lunghi e mantenere il contesto in conversazioni o documenti estesi.
• Supporto multilingue: tutti i modelli ora supportano otto lingue: inglese, tedesco, francese, italiano, portoghese, hindi, spagnolo e thai. Questo supporto più ampio ne estende l’applicabilità a un pubblico globale.
• Uso degli strumenti e ragionamento migliorati: i modelli sono stati potenziati con migliori capacità di utilizzo degli strumenti e di ragionamento, rendendoli più versatili e abili nella gestione di compiti complessi.
• Sicurezza migliorata: su tutti i modelli Llama 3.1 sono stati applicati test e fine-tuning rigorosi per mitigare potenziali rischi e promuovere un uso responsabile dell’AI. Ciò include sforzi per ridurre bias e output dannosi.

LLM grandi vs. piccoli: il dibattito

Il rilascio di Llama 3.1 405B, pur impressionante per scala, apre una discussione sulla dimensione ottimale dei modelli linguistici nell’attuale panorama dell’AI.

Come anticipato nell’introduzione, concorrenti come Mistral e Falcon hanno optato per modelli più piccoli, sostenendo che offrano un approccio più pratico e accessibile. Questi modelli più piccoli spesso richiedono meno risorse computazionali, rendendoli più facili da distribuire e da adattare a compiti specifici.

Tuttavia, i sostenitori di modelli grandi come Llama 3.1 405B sostengono che la loro grandezza consente di catturare una maggiore profondità e ampiezza di conoscenze, portando a prestazioni superiori su una gamma più ampia di compiti. Indicano anche il potenziale di questi grandi modelli di fungere da "modelli di base" su cui costruire modelli più piccoli e specializzati tramite distillazione.

Il dibattito tra LLM grandi e piccoli si riduce in definitiva a un compromesso tra capacità e praticità. Sebbene i modelli più grandi offrano un potenziale maggiore per prestazioni avanzate, comportano anche maggiori richieste computazionali e potenziali impatti ambientali dovuti al consumo energetico. I modelli più piccoli, invece, possono sacrificare parte delle prestazioni in favore di maggiore accessibilità e facilità di deployment.

Il rilascio da parte di Meta di Llama 3.1 405B insieme a varianti più piccole come i modelli 70B e 8B sembra riconoscere questo compromesso. Offrendo una gamma di dimensioni, soddisfano esigenze e preferenze diverse all’interno della comunità AI.

In definitiva, la scelta tra LLM grandi e piccoli dipenderà dallo specifico caso d’uso, dalle risorse disponibili e dalle caratteristiche prestazionali desiderate. Con l’evoluzione del settore, è probabile che entrambi gli approcci coesistano, ognuno col proprio spazio nel variegato panorama delle applicazioni AI.

Conclusione

Il rilascio della famiglia Llama 3.1, in particolare del modello 405B, rappresenta un contributo significativo al campo dei grandi modelli linguistici open-source.

Sebbene le sue prestazioni non superino costantemente tutti i modelli chiusi, le sue capacità e l’impegno di Meta per trasparenza e collaborazione offrono una nuova via per lo sviluppo dell’AI.

La disponibilità di più dimensioni di modello e i miglioramenti condivisi ampliano le potenziali applicazioni per ricercatori, sviluppatori e organizzazioni.

Condividendo apertamente questa tecnologia, Meta sta favorendo un ambiente collaborativo che potrebbe accelerare i progressi nel settore, rendendo l’AI avanzata più accessibile.

L’impatto di Llama 3.1 sul futuro dell’AI resta da vedere, ma il suo rilascio sottolinea la crescente importanza delle iniziative open-source nella ricerca di tecnologie AI responsabili e benefiche.