Guida a OpenAI o1: come funziona, casi d’uso, API e altro

Come funziona OpenAI o1

La prima cosa che noterai interagendo con o1 è che impiega visibilmente più tempo a generare risposte rispetto a GPT-4o. Questa pausa deliberata riflette l’enfasi del modello sul ragionamento. O1 passa più tempo a “pensare” prima di rispondere, il che gli consente di affrontare compiti complessi e risolvere problemi più difficili in logica, matematica, coding e scienze.

OpenAI o1-preview sta affrontando un problema di logica

Reinforcement learning e chain-of-thought

Il ragionamento superiore di o1 è ottenuto tramite una combinazione di reinforcement learning e chain-of-thought.

Attraverso il reinforcement learning, il modello impara a perfezionare il proprio processo di pensiero, esplorando strategie diverse, riconoscendo gli errori e adattando l’approccio per arrivare alla soluzione più accurata e logica.

Dall’altro lato, il chain-of-thought reasoning è una tecnica per scomporre problemi complessi in componenti più piccoli e gestibili. Questo approccio permette a o1 di “pensare prima di rispondere”, un po’ come pianificare meticolosamente i passaggi di una ricetta complessa prima di iniziare a cucinare.

Esplicitando il proprio processo di ragionamento, o1 può individuare potenziali errori in anticipo e aumentare la probabilità di arrivare alla soluzione corretta, proprio come noi esseri umani siamo meno inclini a sbagliare quando delineiamo con cura il nostro pensiero.

Il fatto che OpenAI o1 utilizzi il chain-of-thought lo rende particolarmente efficace in campi come matematica, scienze e coding, dove ottenere una risposta corretta richiede spesso più passaggi.

Un nuovo paradigma nell’allocazione del compute

Un elemento chiave che distingue OpenAI o1 è la riallocazione strategica delle risorse computazionali. Mentre gli LLM tradizionali si sono concentrati principalmente su enormi dataset di pretraining, o1 sposta l’enfasi sulle fasi di training e inferenza.

Questo cambiamento mostra che destinare più compute a queste fasi può portare a notevoli guadagni nelle capacità di ragionamento complesso.

Fonte: OpenAI

Il grafico sopra mostra l’impatto dell’aumento delle risorse computazionali sulle prestazioni del modello o1 di OpenAI nell’affrontare l’impegnativa AIME (American Invitational Mathematics Examination). Mostra due grafici, ciascuno con l’accuratezza del modello rispetto alla potenza di calcolo dedicata al training o al testing (inferenza).

In entrambi i grafici è evidente una chiara correlazione positiva: all’aumentare delle risorse computazionali, cresce anche l’accuratezza del modello nel risolvere i problemi AIME al primo tentativo. È interessante notare che la relazione è più marcata nel grafico del test-time, suggerendo che concedere al modello più tempo per “pensare” durante la risoluzione porta a miglioramenti significativi delle prestazioni.

Questa osservazione sottolinea la natura compute-intensive di o1, evidenziandone la dipendenza da risorse computazionali sostanziali. Tuttavia, l’andamento crescente in entrambi i grafici implica anche che sono possibili ulteriori guadagni di accuratezza con ancora più compute, aprendo prospettive promettenti per lo sviluppo futuro delle capacità di ragionamento dell’AI.

Benchmark di OpenAI O1: migliore nei compiti a forte ragionamento

Per mostrare le capacità di ragionamento migliorate di o1 rispetto a GPT-4o, OpenAI ha valutato il modello su una varietà di benchmark impegnativi di matematica, coding e scienze.

Esami umani

Le valutazioni su esami umani mostrano che o1 supera costantemente GPT-4o e o1-preview.

Le barre piene mostrano l’accuratezza pass@1 e l’area ombreggiata mostra le prestazioni del voto di maggioranza (consenso) con 64 campioni. Fonte: OpenAI

Forse l’osservazione più sorprendente è il grande salto di prestazioni tra GPT-4o e o1 (e persino o1-preview) sui benchmark di matematica e coding.

E sebbene il miglioramento nell’ambito scientifico sia meno marcato, è degno di nota che sia o1-preview sia il modello o1 completamente ottimizzato superino esperti umani su domande di livello PhD. Ciò mostra il potenziale di o1 nell’affrontare problemi complessi del mondo reale e persino nel superare le prestazioni umane in certi domini.

Benchmark ML

Osservando i risultati sui benchmark di ML, i progressi di o1 nel ragionamento sono piuttosto evidenti. Sia su MathVista (un benchmark di matematica) sia su MMLU, o1 mostra notevoli incrementi di accuratezza rispetto a GPT-4o.

Fonte: OpenAI

Una versione specializzata di o1, nota come o1-ioi, ha dimostrato abilità superiori nel coding ottenendo il 49° percentile alle Olimpiadi Internazionali di Informatica 2024, anche in condizioni di competizione rigorose.

Nei contest simulati (vedi grafico sotto), le prestazioni di o1-ioi sono salite ancora più in alto, superando il 93% dei concorrenti.

Fonte: OpenAI

Casi d’uso di OpenAI o1

Le capacità di ragionamento di OpenAI o1 lo rendono particolarmente adatto alla risoluzione di problemi complessi in scienze, coding e matematica.

Ricerca scientifica

I ricercatori in ambito sanitario, per esempio, potrebbero sfruttare o1 per annotare dati complessi di sequenziamento cellulare, mentre i fisici potrebbero usarlo per generare le sofisticate formule matematiche richieste dalla ricerca in ottica quantistica.

Coding

Dalla proposta di ottimizzazioni del codice e generazione di test case all’automazione dei code review e alla facilitazione della condivisione della conoscenza, o1 ha il potenziale per aumentare significativamente la produttività degli sviluppatori e semplificare i flussi di lavoro.

Inoltre, la capacità di o1 di comprendere e generare codice ne estende l’utilità oltre il semplice coding. Può aiutare nella pianificazione dei progetti, nell’analisi dei requisiti e nel design dell’architettura software, supportando gli sviluppatori nel creare soluzioni più efficaci.

Sebbene le capacità complete di o1 siano ancora in sviluppo, le funzionalità attuali sono già promettenti. Man mano che OpenAI continua a perfezionare il modello, o1 probabilmente diventerà uno strumento prezioso per gli sviluppatori, favorendo l’innovazione e influenzando il futuro dello sviluppo software.

Come descritto nella sezione sui benchmark, il modello o1 mostra un grande potenziale nell’ambito del coding.

Matematica

Anche il campo della matematica potrebbe trarre notevoli benefici dalle capacità avanzate di ragionamento di o1. Le sue solide prestazioni su benchmark come AIME suggeriscono potenziali applicazioni nella risoluzione di equazioni complesse, nella dimostrazione di teoremi e nell’esplorazione di nuovi concetti matematici, a beneficio sia degli studenti sia dei ricercatori.

Casi d’uso a forte ragionamento

Oltre ai domini specifici, il focus di o1 sul ragionamento potrebbe renderlo una risorsa preziosa per qualsiasi attività che richieda pensiero critico e deduzione logica. Dai puzzle e gli indovinelli all’analisi di argomentazioni complesse e al supporto per decisioni informate, o1 potrebbe aprire nuovi modi di risolvere problemi.

Come accedere a OpenAI o1

Se hai un abbonamento a ChatGPT Plus o ChatGPT Team, puoi accedere al modello o1 direttamente dall’interfaccia di ChatGPT. Seleziona o1 dal menu a discesa del selettore di modelli in alto nella pagina. 

Ricorda che con un account ChatGPT Plus o Team, parti con 50 messaggi a settimana con OpenAI o1 e 50 messaggi al giorno con OpenAI o1-mini.

API di OpenAI o1

Sebbene o1 sia accessibile in ChatGPT per gli abbonati Plus e Team, sviluppatori e ricercatori che necessitano di maggiore flessibilità e opzioni di integrazione troveranno più adatta alle loro esigenze l’API di OpenAI o1.

Limitazioni beta

Anche se il modello o1 non è più in anteprima nell’interfaccia di chat, al momento della stesura di questo articolo (6 dicembre 2024), l’API offre accesso solo a due varianti del modello o1:

• o1-preview: questa è l’anteprima iniziale del modello o1 completo, progettata per affrontare problemi complessi che richiedono ampia conoscenza generale.
• o1-mini: una versione più veloce ed economica di o1, adatta a compiti di coding, matematica e scienze in cui un’ampia conoscenza generale potrebbe non essere necessaria.

Sia o1-preview sia o1-mini sono accessibili tramite il chat completions endpoint, rendendo semplice integrarli in progetti esistenti. Il processo consiste nella selezione del modello desiderato (ad es., model="o1-preview") al momento delle chiamate API. Per imparare passo passo a usare o1 tramite API, leggi questo tutorial: OpenAI O1 API Tutorial: How to Connect to OpenAI's API.

Poiché o1 è attualmente in beta, alcuni parametri e funzionalità dell’API non sono ancora supportati. Tra questi:

• Modalità: al momento sono supportati solo input e output di testo; la gestione delle immagini non è ancora disponibile.
• Tipi di messaggi: i messaggi di sistema non sono supportati; sono consentiti solo messaggi utente e assistente.
• Streaming: la funzione di streaming non è ancora disponibile per i modelli o1.
• Strumenti e function calling: queste funzionalità avanzate non sono attualmente supportate.
• Logprobs: le probabilità logaritmiche non sono ancora disponibili.
• Altri parametri: parametri come temperature, top_p e n sono fissati a 1, mentre presence_penalty e frequency_penalty sono fissati a 0.
• Assistants e Batch API: i modelli o1 non sono ancora integrati con l’Assistants API o la Batch API.

OpenAI prevede di aggiungere gradualmente il supporto per alcuni di questi parametri e funzionalità man mano che o1 uscirà dalla beta. Funzionalità più avanzate come la multimodalità e l’uso di strumenti sono previste per le future iterazioni della serie o1.

Comprendere i reasoning token

Un aspetto chiave dei modelli o1 è l’introduzione dei “reasoning token”. Questi token rappresentano il processo di pensiero interno del modello mentre scompone il prompt, considera vari approcci e formula una risposta. Sebbene questi token non siano visibili tramite l’API, occupano spazio nella finestra di contesto del modello e contribuiscono al conteggio totale dei token, incidendo sulla fatturazione.

Fonte: OpenAI

Finestra di contesto e costi

Sia o1-preview sia o1-mini offrono una finestra di contesto di 128.000 token. Tuttavia, ogni completamento ha un limite massimo sul numero totale di token di output generati, inclusi sia i reasoning token invisibili sia i token di completamento visibili. Per evitare costi imprevisti e assicurare che il modello abbia spazio sufficiente per “pensare”, è fondamentale gestire efficacemente la finestra di contesto e impostare limiti appropriati usando il parametro max_completion_tokens.

Best practice di prompting

Per risultati ottimali con i modelli o1, mantieni i prompt semplici e diretti. Evita tecniche come il few-shot prompting o l’istruzione esplicita al modello di “pensare passo dopo passo”, poiché potrebbero ostacolare anziché migliorare le prestazioni. Usa delimitatori per strutturare chiaramente l’input e, negli scenari di retrieval-augmented generation, fornisci solo il contesto più rilevante per evitare che il modello complichi eccessivamente la risposta.

Cos’è OpenAI o1-mini?

Insieme al modello completo o1-preview, OpenAI ha rilasciato anche o1-mini, una variante più piccola e veloce progettata per offrire un punto di ingresso più accessibile a sviluppatori e ricercatori che esplorano le capacità della serie o1.

Sebbene o1-mini non possieda la stessa ampiezza di conoscenza generale della sua controparte più grande, eccelle nei compiti che richiedono capacità di ragionamento focalizzate, in particolare nei campi del coding, della matematica e delle scienze.

Le sue dimensioni ridotte si traducono in tempi di risposta più rapidi e requisiti computazionali inferiori, rendendolo una scelta pratica per applicazioni in cui velocità ed efficienza sono importanti.

Sebbene o1-mini sia attualmente in beta e presenti alcune limitazioni, offre uno scorcio del potenziale della serie o1 e del suo focus sul miglioramento delle capacità di ragionamento dell’AI. Man mano che OpenAI continuerà a perfezionare e sviluppare i modelli o1, possiamo aspettarci che o1-mini evolva insieme al suo “fratello” maggiore, diventando uno strumento sempre più potente e versatile per un’ampia gamma di applicazioni.

Cos’è la modalità O1 Pro?

Oltre al modello o1 standard, OpenAI ha introdotto anche la modalità o1 pro. Questo modello è pensato per chi necessita di capacità di ragionamento ancora più avanzate ed è disposto a sacrificare un po’ di velocità per una maggiore accuratezza e la capacità di gestire compiti altamente complessi.

La modalità o1 pro sfrutta molta più potenza di calcolo rispetto al modello o1 standard. Questo le consente di “pensare più a lungo” e “più a fondo” per generare risposte più affidabili, soprattutto per problemi impegnativi in ambiti come data science, programmazione e analisi del diritto giurisprudenziale.

Per accedere alla modalità o1 pro, ti serve un abbonamento a ChatGPT Pro. Questo abbonamento ti garantisce uso illimitato di o1 e della modalità o1 pro, oltre ad altri modelli e funzionalità avanzate.

Abbiamo trattato in dettaglio la modalità o1 pro in un articolo separato: Cos’è la modalità O1 Pro di OpenAI? Funzionalità, ChatGPT Pro e altro.

Limitazioni di OpenAI o1

Sebbene OpenAI o1-preview offra capacità impressionanti, ci sono alcune limitazioni da considerare. Questi vincoli potrebbero influire sulla sua utilità in certi contesti, quindi è bene essere consapevoli dei seguenti aspetti.

Chain of thought nascosta

Per garantire il potenziale di futuri miglioramenti nel monitoraggio e nella sicurezza, il processo grezzo di chain-of-thought usato da o1 non è direttamente visibile agli utenti. Sebbene questa decisione miri a consentire una supervisione più efficace del modello, limita la trasparenza e potrebbe influire sulla comprensione da parte degli utenti del processo decisionale del modello.

Non naviga ancora il web

OpenAI o1-preview non può navigare sul web, il che significa che le informazioni fornite potrebbero non essere sempre aggiornate. Se cerchi dati in tempo reale o su eventi correnti, il modello non sarà in grado di recuperarli direttamente.

Tempi di risposta più lunghi

Una delle limitazioni più evidenti è che il modello impiega relativamente tanto tempo a elaborare query complesse. Sebbene questo tempo extra gli permetta di produrre risposte più ponderate, può causare ritardi per chi si aspetta risposte più rapide.

Non adatto ad applicazioni a bassa latenza

A causa dei tempi di risposta più lenti, OpenAI o1 non è ideale per applicazioni che richiedono interazioni rapide, come chatbot in tempo reale o servizi di traduzione. In questi casi d’uso, il ritardo può tradursi in una scarsa esperienza utente, poiché attendere diversi secondi per una risposta può risultare frustrante.

Se il modello viene applicato in situazioni in cui i suoi punti di forza non sono allineati al compito, può risultare in un’esperienza utente negativa. Ciò è particolarmente vero per scenari che richiedono risposte rapide al volo, dove la lentezza di elaborazione del modello può diventare un ostacolo più che un vantaggio.

Sicurezza di OpenAI o1

I nuovi modelli o1 presentano un approccio di training per la sicurezza che sfrutta le capacità di ragionamento per una migliore sicurezza in contesto.

Una misura chiave è testare la resistenza del modello ai tentativi di “jailbreaking”, in cui gli utenti cercano di aggirare le regole di sicurezza. In un test di jailbreaking impegnativo, GPT-4o ha ottenuto 22 su 100, mentre il nuovo modello o1-preview ha raggiunto 84, indicando un notevole miglioramento.

Gli sforzi per la sicurezza sono stati potenziati attraverso test rigorosi, governance interna e collaborazione con il governo federale. Ciò include l’uso del Preparedness Framework, red teaming e revisioni a livello di board da parte del Safety & Security Committee.

Inoltre, sono state formalizzate partnership con gli AI Safety Institutes di Stati Uniti e Regno Unito, che hanno ottenuto accesso anticipato alle versioni di ricerca dei modelli.

Tuttavia, è fondamentale accogliere questi primi risultati con cauto ottimismo.

Il futuro: la serie O di OpenAI

L’introduzione di OpenAI o1 non rappresenta solo un nuovo modello, ma l’avvio di una nuova serie: la serie O di OpenAI. Questo segnala un cambiamento deliberato nella direzione strategica di OpenAI, con un’enfasi sulle capacità di ragionamento complesso come focus centrale per lo sviluppo futuro dell’AI.

I risultati iniziali impressionanti di o1 e della modalità o1 pro, in particolare le solide prestazioni su benchmark che richiedono problem solving intricato, suggeriscono che questa nuova serie abbia un grande potenziale.

Con il continuo perfezionamento ed espansione delle capacità dei modelli della o-series, possiamo anticipare un futuro in cui l’AI gioca un ruolo ancora più attivo nella scoperta scientifica, nello sviluppo software e in altri campi che richiedono abilità cognitive avanzate.

Tuttavia, il percorso verso la piena realizzazione del potenziale della O-series non è privo di sfide. La natura compute-intensive di questi modelli e i vincoli di scaling unici che presentano richiedono ricerca e sviluppo continui.

Conclusione

Sebbene quest’anno aspettassimo con impazienza l’arrivo di GPT-5, OpenAI ci ha sorpresi con l’introduzione di o1, un modello che dà priorità alle capacità di ragionamento complesso.

I primi successi di o1 su una varietà di benchmark dimostrano il suo potenziale nell’affrontare problemi impegnativi in campi come matematica, coding e ricerca scientifica.

Nonostante le sue capacità promettenti, o1 è ancora nelle fasi iniziali e deve affrontare sfide, tra cui la sua natura compute-intensive e la necessità di ricerca continua in materia di sicurezza e implementazione etica.