OpenAI o1-gids: hoe het werkt, use-cases, API & meer

Hoe OpenAI o1 werkt

Het eerste wat je opvalt wanneer je met o1 werkt, is dat het merkbaar langer duurt om antwoorden te genereren dan bij GPT-4o. Deze bewuste pauze weerspiegelt de nadruk van het model op redeneren. O1 neemt meer tijd om te “denken” voordat het reageert, waardoor het complexe taken aankan en moeilijkere problemen in logica, wiskunde, programmeren en wetenschap kan oplossen.

OpenAI o1-preview pakt een logicaprobleem aan

Reinforcement learning en chain-of-thought

De superieure redeneercapaciteiten van o1 worden bereikt met een combinatie van reinforcement learning en chain-of-thought-redeneren.

Via reinforcement learning leert het model zijn denkproces te verfijnen, verschillende strategieën te verkennen, fouten te herkennen en zijn aanpak aan te passen om tot de meest accurate en logische oplossing te komen.

Aan de andere kant is chain-of-thought-redeneren een techniek om complexe problemen op te delen in kleinere, beter beheersbare onderdelen. Deze aanpak stelt o1 in staat om ‘na te denken voordat het antwoordt’, net zoals je zorgvuldig de stappen van een complex recept uitstippelt voordat je begint te koken.

Door het redeneerproces expliciet uiteen te zetten, kan o1 potentiële fouten vroegtijdig identificeren en de kans vergroten dat het tot de juiste oplossing komt, net zoals wij mensen minder snel fouten maken wanneer we ons denkproces zorgvuldig uitwerken.

Het feit dat OpenAI o1 chain-of-thought-redeneren gebruikt, maakt het bijzonder effectief in vakgebieden als wiskunde, wetenschap en programmeren, waar een correct antwoord vaak meerdere stappen vereist.

Een nieuw paradigma in compute-toewijzing

Een belangrijk onderscheidend kenmerk van OpenAI o1 ligt in de strategische herverdeling van rekenmiddelen. Terwijl traditionele LLM’s zich primair hebben gericht op enorme pretrainingdatasets, verschuift o1 de nadruk naar de trainings- en inferentiefase.

Deze verschuiving laat zien dat meer compute toewijzen aan deze fasen aanzienlijke winst kan opleveren in complexe redeneercapaciteiten.

Bron: OpenAI

De bovenstaande grafiek toont de impact van meer rekenkracht op de prestaties van OpenAI’s o1-model bij het aanpakken van de uitdagende AIME (American Invitational Mathematics Examination). Hij bevat twee grafieken die de nauwkeurigheid van het model uitzetten tegen de rekenkracht die is toegewezen aan training of testen (inferentie).

In beide grafieken is een duidelijke positieve correlatie te zien: naarmate de rekenmiddelen toenemen, neemt ook de nauwkeurigheid toe waarmee het model AIME-problemen bij de eerste poging oplost. Opvallend is dat de relatie sterker is in de grafiek voor testtijd, wat suggereert dat het model meer tijd geven om tijdens het probleemoplossen te “denken” tot aanzienlijk betere prestaties leidt.

Deze observatie onderstreept het compute-intensieve karakter van o1 en de afhankelijkheid van substantiële rekenmiddelen. De stijgende lijnen in beide grafieken impliceren echter ook dat verdere nauwkeurigheidswinst mogelijk is met nog meer compute, wat veelbelovende perspectieven biedt voor toekomstige ontwikkelingen in AI-redeneren.

OpenAI O1-benchmarks: beter bij redeneerzware taken

Om o1’s verbeterde redeneervermogen ten opzichte van GPT-4o te laten zien, evalueerde OpenAI het model op diverse uitdagende benchmarks voor wiskunde, programmeren en wetenschap.

Menselijke examens

Menselijke toetsing toont aan dat o1 consequent beter presteert dan GPT-4o en o1-preview.

Massieve balken tonen pass@1-nauwkeurigheid en het gearceerde gebied toont de prestaties van majority vote (consensus) met 64 samples. Bron: OpenAI

Misschien is de meest opvallende observatie de enorme sprong in prestaties tussen GPT-4o en o1 (en zelfs o1-preview) op de wiskunde- en programmeerbenchmarks.

En hoewel de verbetering binnen het wetenschapsdomein minder uitgesproken is, is het vermeldenswaard dat zowel o1-preview als het volledig geoptimaliseerde o1-model beter presteren dan menselijke experts op vragen op PhD-niveau. Dit toont het potentieel van o1 om ingewikkelde, realistische problemen aan te pakken en zelfs menselijk niveau te overtreffen in bepaalde domeinen.

ML-benchmarks

Kijkend naar de resultaten op ML-benchmarks zijn o1’s vooruitgangen in redeneren vrij duidelijk. Op zowel MathVista (een wiskundebenchmark) als MMLU laat o1 aanzienlijke winst in nauwkeurigheid zien vergeleken met GPT-4o.

Bron: OpenAI

Een gespecialiseerde versie van o1, bekend als o1-ioi, toonde superieure programmeervaardigheden door een 49e percentielscore te behalen op de International Olympiad in Informatics 2024, zelfs onder strikte wedstrijdomstandigheden.

In gesimuleerde wedstrijden (zie grafiek hieronder) stegen de prestaties van o1-ioi nog verder en overtroffen ze 93% van de deelnemers.

Bron: OpenAI

OpenAI o1-use-cases

De redeneercapaciteiten van OpenAI o1 maken het bijzonder geschikt voor het oplossen van complexe problemen in wetenschap, programmeren en wiskunde.

Wetenschappelijk onderzoek

Gezondheidsonderzoekers zouden o1 bijvoorbeeld kunnen gebruiken om complexe cel-sequencingdata te annoteren, terwijl natuurkundigen het zouden kunnen inzetten om de geavanceerde wiskundige formules te genereren die nodig zijn voor onderzoek naar quantumoptica.

Programmeren

Van het suggereren van code-optimalisaties en het genereren van testcases tot het automatiseren van codereviews en het faciliteren van kennisdeling: o1 heeft het potentieel om de productiviteit van ontwikkelaars aanzienlijk te verhogen en workflows te vereenvoudigen.

Daarnaast strekt o1’s vermogen om code te begrijpen en te genereren zich uit voorbij alleen programmeren. Het kan helpen bij projectplanning, eisenanalyse en softwarearchitectuurontwerp en zo ontwikkelaars ondersteunen bij het maken van effectievere oplossingen.

Hoewel o1’s volledige mogelijkheden nog in ontwikkeling zijn, zijn de huidige functies al veelbelovend. Naarmate OpenAI het model verder verfijnt, zal o1 waarschijnlijk een waardevol hulpmiddel worden voor ontwikkelaars, innovatie stimuleren en de toekomst van softwareontwikkeling beïnvloeden.

Zoals beschreven in de benchmarksectie, toont het o1-model veel potentie op het gebied van programmeren.

Wiskunde

Ook het vakgebied wiskunde kan aanzienlijk profiteren van o1’s geavanceerde redeneervermogen. De sterke prestaties op benchmarks zoals AIME wijzen op potentiële toepassingen bij het oplossen van complexe vergelijkingen, het bewijzen van stellingen en het verkennen van nieuwe wiskundige concepten, wat zowel studenten als onderzoekers ten goede komt.

Redeneerintensieve use-cases

Naast specifieke domeinen kan o1’s focus op redeneren het een waardevol hulpmiddel maken voor elke taak die kritisch denken en logische deductie vereist. Van het oplossen van puzzels en raadsels tot het analyseren van complexe argumenten en het ondersteunen van onderbouwde besluitvorming: o1 kan nieuwe manieren van probleemoplossing openen.

Hoe krijg je toegang tot OpenAI o1

Als je een abonnement op ChatGPT Plus of ChatGPT Team hebt, kun je het o1-model rechtstreeks in de ChatGPT-interface gebruiken. Selecteer o1 in het modelkeuzemenu bovenaan de pagina.

Houd er rekening mee dat je met een ChatGPT Plus- of Team-account 50 berichten per week krijgt met OpenAI o1 en 50 berichten per dag met OpenAI o1-mini om te beginnen.

OpenAI o1 API

Hoewel o1 beschikbaar is binnen ChatGPT voor Plus- en Team-abonnees, zullen ontwikkelaars en onderzoekers die meer flexibiliteit en integratieopties nodig hebben de OpenAI o1 API geschikter vinden voor hun behoeften.

Beperkingen in beta

Hoewel het o1-model niet meer in preview is in de chatinterface, biedt de API op het moment van schrijven van dit artikel (6 december 2024) slechts toegang tot twee varianten van het o1-model:

• o1-preview: Dit is de vroege preview van het volledige o1-model, ontworpen om complexe problemen aan te pakken die brede algemene kennis vereisen.
• o1-mini: Een snellere en kosteneffectievere versie van o1, zeer geschikt voor taken in programmeren, wiskunde en wetenschap waarbij uitgebreide algemene kennis niet nodig is.

Zowel o1-preview als o1-mini zijn toegankelijk via de chat completions-endpoint, waardoor je ze eenvoudig in bestaande projecten kunt opnemen. Het proces omvat het selecteren van het gewenste model (bijv. model="o1-preview") bij het doen van API-calls. Wil je stap voor stap leren hoe je o1 via de API gebruikt, lees dan deze tutorial: OpenAI O1 API-tutorial: zo koppel je met de API van OpenAI.

Aangezien o1 momenteel in beta is, worden bepaalde API-parameters en -functies nog niet ondersteund. Deze omvatten:

• Modaliteiten: Momenteel worden alleen tekstinvoer en -uitvoer ondersteund; beeldverwerking is nog niet beschikbaar.
• Berichttypen: Systeemberichten worden niet ondersteund; alleen user- en assistantberichten zijn toegestaan.
• Streaming: De streamingfunctie is nog niet beschikbaar voor o1-modellen.
• Tools en functieaanroepen: Deze geavanceerde mogelijkheden worden momenteel niet ondersteund.
• Logprobs: Logwaarschijnlijkheden zijn nog niet beschikbaar.
• Overige parameters: Parameters zoals temperature, top_p en n staan vast op 1, terwijl presence_penalty en frequency_penalty vast op 0 staan.
• Assistants en Batch API: o1-modellen zijn nog niet geïntegreerd met de Assistants API of Batch API.

OpenAI is van plan om geleidelijk ondersteuning toe te voegen voor enkele van deze parameters en functies naarmate o1 uit beta komt. Geavanceerdere functionaliteiten zoals multimodaliteit en toolgebruik staan gepland voor toekomstige iteraties van de o1-serie.

Inzicht in reasoning tokens

Een kernaspect van o1-modellen is de introductie van “reasoning tokens”. Deze tokens vertegenwoordigen het interne denkproces van het model terwijl het de prompt ontleedt, verschillende benaderingen overweegt en een antwoord formuleert. Hoewel deze reasoning tokens niet zichtbaar zijn via de API, nemen ze wel ruimte in het contextvenster van het model in en tellen ze mee voor het totale aantal tokens, wat invloed heeft op de kosten.

Bron: OpenAI

Contextvenster en kosten

Zowel o1-preview als o1-mini bieden een contextvenster van 128.000 tokens. Elke completion heeft echter een maximumlimiet op het totale aantal gegenereerde outputtokens, inclusief zowel de onzichtbare reasoning tokens als de zichtbare completiontokens. Om onverwachte kosten te vermijden en ervoor te zorgen dat het model genoeg “denkruimte” heeft, is het cruciaal om het contextvenster effectief te beheren en passende limieten in te stellen met de parameter max_completion_tokens.

Best practices voor prompten

Houd je prompts eenvoudig en direct voor optimale resultaten met o1-modellen. Vermijd technieken zoals few-shot prompting of het model expliciet instrueren om “stap voor stap te denken”, omdat dit de prestaties eerder kan schaden dan verbeteren. Gebruik scheidingstekens om je input duidelijk te structureren en geef in retrieval-augmented generation-scenario’s alleen de meest relevante context, zodat het model zijn antwoord niet onnodig ingewikkeld maakt.

Wat is OpenAI o1-mini?

Naast het volwaardige o1-previewmodel heeft OpenAI ook o1-mini uitgebracht, een kleinere en snellere variant die een toegankelijker instappunt biedt voor ontwikkelaars en onderzoekers die de mogelijkheden van de o1-serie willen verkennen.

Hoewel o1-mini niet hetzelfde niveau van algemene kennis heeft als zijn grotere tegenhanger, blinkt het uit in taken die gerichte redeneervaardigheden vereisen, met name op het gebied van programmeren, wiskunde en wetenschap.

De kleinere omvang zorgt voor snellere reactietijden en lagere rekenvereisten, waardoor het een praktische keuze is voor toepassingen waar snelheid en efficiëntie belangrijk zijn.

Hoewel o1-mini momenteel in beta is en bepaalde beperkingen heeft, biedt het een inkijkje in het potentieel van de o1-serie en de focus op het verbeteren van AI-redeneervermogen. Naarmate OpenAI de o1-modellen blijft verfijnen en ontwikkelen, kunnen we verwachten dat o1-mini zich samen met zijn grotere broer ontwikkelt, en een steeds krachtiger en veelzijdiger hulpmiddel wordt voor een breed scala aan toepassingen.

Wat is O1 Pro-modus?

Naast het standaard o1-model heeft OpenAI ook de o1 pro-modus geïntroduceerd. Dit model is ontworpen voor gebruikers die nog geavanceerder redeneervermogen nodig hebben en bereid zijn wat snelheid in te ruilen voor meer nauwkeurigheid en het kunnen afhandelen van zeer complexe taken.

De o1 pro-modus gebruikt aanzienlijk meer rekenkracht dan het standaard o1-model. Hierdoor kan het “langer” en “dieper” nadenken om betrouwbaardere antwoorden te genereren, vooral bij uitdagende problemen in domeinen als data science, programmeren en jurisprudentieanalyse.

Om toegang te krijgen tot de o1 pro-modus heb je een abonnement op ChatGPT Pro nodig. Dit abonnement geeft je onbeperkt gebruik van o1 en de o1 pro-modus, evenals andere geavanceerde modellen en functies.

We hebben de o1 pro-modus uitgebreid behandeld in een apart artikel: Wat is OpenAI's O1 Pro-modus? Functies, ChatGPT Pro & meer.

Beperkingen van OpenAI o1

Hoewel OpenAI o1-preview indrukwekkende mogelijkheden biedt, zijn er enkele beperkingen om rekening mee te houden. Deze beperkingen kunnen de bruikbaarheid in bepaalde contexten beïnvloeden, dus het is de moeite waard om het volgende te weten.

Verborgen chain of thought

Om toekomstige monitoring en veiligheidsverbeteringen mogelijk te maken, is het ruwe chain-of-thought-redeneerproces dat o1 gebruikt niet rechtstreeks zichtbaar voor gebruikers. Hoewel deze beslissing bedoeld is om effectiever toezicht op het model mogelijk te maken, beperkt het de transparantie en kan het het begrip van de besluitvorming van het model beïnvloeden.

Browse’t het web nog niet

OpenAI o1-preview kan het web niet browsen, wat betekent dat de informatie die het geeft niet altijd up-to-date is. Als je op zoek bent naar realtime of actuele gegevens, kan het model die niet rechtstreeks ophalen.

Langere reactietijden

Een van de meest opvallende beperkingen is dat het model relatief veel tijd nodig heeft om complexe vragen te verwerken. Hoewel deze extra tijd helpt om beter doordachte antwoorden te geven, kan het tot vertragingen leiden voor gebruikers die snellere antwoorden verwachten.

Ongeschikt voor toepassingen met lage latentie

Vanwege de langere reactietijden is OpenAI o1 niet ideaal voor toepassingen die snelle interacties vereisen, zoals realtime chatbots of vertaaldiensten. In deze use-cases kan de vertraging leiden tot een mindere gebruikerservaring, omdat enkele seconden wachten frustrerend kan zijn.

Als het model wordt toegepast in situaties waar zijn sterke punten niet aansluiten op de taak, kan dat resulteren in een negatieve gebruikerservaring. Dit geldt vooral voor scenario’s die snelle, ad-hoc antwoorden vereisen, waarbij de langzamere verwerkingstijd eerder een hindernis dan een voordeel kan zijn.

OpenAI o1-veiligheid

De nieuwe o1-modellen hebben een veiligheids-trainingsaanpak die hun redeneervermogen inzet voor betere in-context-veiligheid.

Een belangrijke veiligheidsmaatregel is het testen van de weerstand van het model tegen “jailbreaking”-pogingen, waarbij gebruikers veiligheidsregels proberen te omzeilen. In een uitdagende jailbreakingtest scoorde GPT-4o 22 van de 100, terwijl het nieuwere o1-previewmodel 84 behaalde, wat wijst op een aanzienlijke verbetering.

De veiligheidsinspanningen zijn versterkt door rigoureuze tests, interne governance en samenwerking met de federale overheid. Dit omvat het gebruik van het Preparedness Framework, red teaming en beoordelingen op bestuursniveau door hun Safety & Security Committee.

Bovendien zijn partnerschappen met de AI Safety Institutes van de VS en het VK geformaliseerd, waardoor zij vroege toegang krijgen tot onderzoeksversies van de modellen.

Het is echter cruciaal om deze vroege resultaten met voorzichtige scepsis te benaderen.

De toekomst: OpenAI O-serie

De introductie van OpenAI o1 markeert niet alleen een nieuw model, maar de start van een nieuwe serie: de OpenAI O-serie. Dit duidt op een bewuste verschuiving in de strategische richting van OpenAI, met complexe redeneercapaciteiten als kernfocus voor toekomstige AI-ontwikkeling.

De indrukwekkende vroege resultaten van o1 en de o1 pro-modus, met name de sterke prestaties op benchmarks die ingewikkelde probleemoplossing vereisen, suggereren dat deze nieuwe serie veelbelovend is.

Naarmate OpenAI de mogelijkheden van de o-seriemodellen blijft verfijnen en uitbreiden, kunnen we een toekomst verwachten waarin AI een nog actievere rol speelt in wetenschappelijke ontdekkingen, softwareontwikkeling en andere vakgebieden die geavanceerde cognitieve vaardigheden vereisen.

De weg naar het volledig realiseren van het potentieel van de O-serie is echter niet zonder uitdagingen. Het compute-intensieve karakter van deze modellen en de unieke schaalbaarheidsbeperkingen die ze met zich meebrengen, vereisen doorlopend onderzoek en ontwikkeling.

Conclusie

Hoewel we dit jaar reikhalzend uitkeken naar de komst van GPT-5, verraste OpenAI ons met de introductie van o1, een model dat complexe redeneercapaciteiten vooropstelt.

De vroege successen van o1 op diverse benchmarks tonen het potentieel om uitdagende problemen aan te pakken in velden zoals wiskunde, programmeren en wetenschappelijk onderzoek.

Ondanks de veelbelovende mogelijkheden bevindt o1 zich nog in een vroeg stadium en zijn er uitdagingen, waaronder het compute-intensieve karakter en de noodzaak van voortdurend onderzoek naar veiligheid en ethische inzet.