QwQ 32B: caratteristiche, accesso, confronto con DeepSeek-R1 e altro ancora

Cos'è QwQ-32B?

QwQ-32B non è un semplice modello AI in stile chatbot: appartiene a una categoria diversa, quella dei modelli di ragionamento.

Mentre la maggior parte dei modelli AI generici, come GPT-4.5 o DeepSeek-V3, sono progettati per generare testi fluidi e conversazionali su un'ampia gamma di argomenti, i modelli di ragionamento si concentrano sullo scomporre i problemi in modo logico, lavorare per passaggi e arrivare a risposte strutturate.

Nell'esempio qui sotto, possiamo vedere direttamente il processo di pensiero di QwQ-32B:

Quindi, a chi è destinato QwQ-32B? Se cerchi un modello per scrivere, fare brainstorming o riassumere, non è questo.

Ma se ti serve qualcosa per affrontare problemi tecnici, verificare soluzioni multi-step o aiutare in ambiti come ricerca scientifica, finanza o sviluppo software, QwQ-32B è pensato proprio per quel tipo di ragionamento strutturato. È particolarmente utile per ingegneri, ricercatori e sviluppatori che hanno bisogno di un'AI capace di gestire flussi logici, non solo di generare testo.

C'è anche una tendenza più ampia nel settore da considerare. Analogamente all'ascesa dei small language models (SLM), con QwQ-32B potremmo assistere alla nascita dei "modelli di ragionamento piccoli" (termine totalmente inventato da me). Perché lo dico? Beh, c'è una differenza di 20 volte tra i 671B parametri di DeepSeek-R1 e i 32B di QwQ-32B, eppure QwQ-32B si avvicina comunque nelle prestazioni (come vedremo sotto nella sezione benchmark).

Architettura di QwQ-32B

QwQ-32B è costruito per ragionare su problemi complessi, e gran parte di questo deriva dal suo addestramento. A differenza dei modelli AI tradizionali che si basano solo su pretraining e fine-tuning, QwQ-32B integra il reinforcement learning (RL), un metodo che consente al modello di affinare il suo ragionamento imparando per tentativi ed errori.

Questo approccio di training sta guadagnando terreno nell'AI, con modelli come DeepSeek-R1 che utilizzano RL multi-stage per ottenere capacità di ragionamento più forti.

Come il reinforcement learning migliora il ragionamento dell'AI

La maggior parte dei modelli linguistici impara prevedendo la parola successiva in una frase basandosi su enormi quantità di testi. Sebbene questo funzioni bene per la fluidità, non li rende necessariamente bravi nella risoluzione dei problemi.

Il reinforcement learning cambia le cose introducendo un sistema di feedback: invece di generare semplicemente testo, il modello viene ricompensato quando trova la risposta giusta o segue un percorso di ragionamento corretto. Nel tempo, questo aiuta l'AI a sviluppare un miglior giudizio nell'affrontare problemi complessi come matematica, coding e ragionamento logico.

QwQ-32B va oltre integrando capacità di tipo agentico, che gli permettono di adattare il ragionamento in base al feedback dell'ambiente. Ciò significa che, invece di limitarsi a memorizzare schemi, il modello può usare strumenti, verificare gli output e perfezionare dinamicamente le risposte. Questi miglioramenti lo rendono più affidabile per compiti di ragionamento strutturato, dove la semplice previsione di parole non basta.

Modello più piccolo, training più intelligente

Uno degli aspetti più impressionanti dello sviluppo di QwQ-32B è l'efficienza. Pur avendo solo 32 miliardi di parametri, raggiunge prestazioni paragonabili a DeepSeek-R1, che ne ha 671 miliardi (con 37 miliardi attivati). Ciò suggerisce che scalare il reinforcement learning può essere tanto impattante quanto aumentare la dimensione del modello.

Un altro aspetto chiave del design è la finestra di contesto da 131.072 token, che gli consente di elaborare e mantenere informazioni su lunghi passaggi di testo.

Benchmark di QwQ-32B

QwQ-32B è progettato per competere con i modelli di ragionamento all'avanguardia, e i suoi risultati nei benchmark mostrano che si avvicina sorprendentemente a DeepSeek-R1, pur essendo molto più piccolo. Il modello è stato testato su una serie di benchmark che valutano matematica, coding e ragionamento strutturato, dove spesso ha ottenuto prestazioni pari o vicine a quelle di DeepSeek-R1.

Fonte: Qwen

Ottime prestazioni in matematica e ragionamento logico

Uno dei risultati più significativi arriva da AIME24, un benchmark pensato per testare la risoluzione di problemi matematici. QwQ-32B ha ottenuto 79,5, appena dietro DeepSeek-R1 a 79,8 e ben davanti a o1-mini di OpenAI (63,6) e ai modelli distillati di DeepSeek (70,0–72,6). È particolarmente impressionante se si considera che QwQ-32B ha solo 32 miliardi di parametri rispetto ai 671 miliardi di DeepSeek-R1.

Un altro benchmark chiave, IFEval, che testa il ragionamento funzionale e simbolico, ha visto QwQ-32B performare a un livello competitivo, con un punteggio di 83,9—leggermente sopra DeepSeek-R1! È solo di poco dietro a o1-mini di OpenAI, che guida questa categoria con 84,8.

Capacità di coding e comportamento agentico

Per i modelli AI pensati per assistere nello sviluppo software, i benchmark di coding sono essenziali. In LiveCodeBench, che misura la capacità di generare e migliorare codice, QwQ-32B ha ottenuto 63,4, leggermente dietro a DeepSeek-R1 con 65,9 ma nettamente davanti a o1-mini di OpenAI con 53,8. Questo suggerisce che il reinforcement learning ha avuto un ruolo significativo nel migliorare la capacità di QwQ-32B di ragionare iterativamente sui problemi di coding, anziché generare soluzioni isolate.

QwQ-32B ha ottenuto 73,1 su LiveBench, una valutazione delle capacità generali di problem solving, superando di poco il punteggio di 71,6 di DeepSeek-R1. Entrambi i modelli hanno totalizzato punteggi significativamente più alti rispetto a o1-mini di OpenAI, che ha raggiunto 59,1. Questo rafforza l'idea che modelli piccoli ma ben ottimizzati possano colmare il divario con i grandi sistemi proprietari, almeno nei compiti strutturati.

QwQ-32B si distingue nel ragionamento funzionale

Forse il risultato più interessante è su BFCL, un benchmark che valuta il ragionamento funzionale in senso ampio. Qui, QwQ-32B ha raggiunto 66,4, superando DeepSeek-R1 (60,3) e o1-mini di OpenAI (62,8). Questo suggerisce che l'approccio di training di QwQ-32B, in particolare le capacità agentiche e le strategie di reinforcement learning, gli conferisce un vantaggio nelle aree in cui la risoluzione dei problemi richiede flessibilità e adattamento piuttosto che semplici schemi memorizzati.

Come accedere a QwQ-32B

QwQ-32B è completamente open source, il che lo rende uno dei pochi modelli di ragionamento ad alte prestazioni accessibili a chiunque voglia sperimentare. Che tu voglia testarlo in modo interattivo, integrarlo in un'applicazione o eseguirlo sull'hardware di cui disponi, ci sono diversi modi per accedere al modello.

Interagisci online con QwQ-32B

Per chi vuole solo provare il modello senza configurare nulla, Qwen Chat offre un modo semplice per interagire con QwQ-32B. L'interfaccia web in stile chatbot ti consente di testare direttamente le capacità di ragionamento, matematica e coding del modello. Anche se non è flessibile come eseguirlo in locale, fornisce un modo immediato per vederlo all'opera.

Per provarlo, devi accedere a https://chat.qwen.ai/ e creare un account. Una volta dentro, inizia selezionando il modello QwQ-32B nel menu di scelta dei modelli:

La modalità Thinking (QwQ) è attivata di default e non può essere disattivata con questo modello. Puoi iniziare a inviare prompt nell'interfaccia di chat:

Scarica e distribuisci da Hugging Face e ModelScope

Gli sviluppatori che desiderano integrare QwQ-32B nei propri workflow possono scaricarlo da Hugging Face o ModelScope. Queste piattaforme forniscono accesso ai pesi del modello, alle configurazioni e agli strumenti di inferenza, semplificando la distribuzione per ricerca o produzione.

Conclusione

QwQ-32B mette in discussione l'idea che solo i modelli enormi possano ottenere buone prestazioni nel ragionamento strutturato. Pur avendo molti meno parametri di DeepSeek-R1, offre risultati solidi in matematica, coding e problem solving multi-step, mostrando che tecniche di training come il reinforcement learning e l'ottimizzazione del contesto lungo possono avere un impatto significativo.

Ciò che mi colpisce di più è la sua disponibilità open source. Mentre molti modelli di ragionamento ad alte prestazioni restano chiusi dietro API proprietarie, QwQ-32B è accessibile su Hugging Face, ModelScope e Qwen Chat, rendendo più semplice per ricercatori e sviluppatori testarlo e costruirci sopra.