Cursus
Prompt Engineering met de OpenAI API
4 uur
55.8K
De release van GPT-4 markeerde een belangrijke mijlpaal in kunstmatige intelligentie, vooral op het gebied van natural language processing. In dit artikel geven we een grondige analyse van de geavanceerde mogelijkheden en duiken we in de geschiedenis en ontwikkeling van Generative Pre-trained Transformers (GPT), evenals de nieuwe capaciteiten die GPT-4 ontsluit.
Bekijk ons artikel over GPT-4o, de nieuwste iteratie van GPT, voor meer informatie. Lees daarnaast meer over Large Language Models zoals GPT-4 in onze AI Fundamentals Track.
Wat zijn Generative Pre-trained Transformers?
Generative Pre-trained Transformers (GPT) zijn een type deep learning-model dat wordt gebruikt om tekst te genereren die menselijk aanvoelt. Veelvoorkomende toepassingen zijn
- vragen beantwoorden
- teksten samenvatten
- tekst vertalen naar andere talen
- code genereren
- blogposts, verhalen, gesprekken en andere soorten content genereren.
De toepassingen voor GPT-modellen zijn eindeloos, en je kunt ze zelfs fine-tunen op specifieke data voor nog betere resultaten. Door transformers te gebruiken, bespaar je kosten op rekenkracht, tijd en andere resources.
Voor GPT
De huidige AI-revolutie voor natuurlijke taal werd pas mogelijk met de uitvinding van transformer-modellen, te beginnen met Google’s BERT in 2017. Daarvoor werd tekstgeneratie uitgevoerd met andere deep learning-modellen, zoals recurrente neurale netwerken (RNN’s) en long short-term memory-netwerken (LSTM’s). Die presteerden goed voor het genereren van losse woorden of korte zinnen, maar konden geen realistische langere content genereren.
BERT’s transformer-aanpak was een grote doorbraak, omdat het geen supervised learning-techniek is. Met andere woorden: er is geen duur geannoteerd dataset nodig om het te trainen. BERT werd door Google gebruikt om natuurlijke taalzoekopdrachten te interpreteren, maar het kan geen tekst genereren vanuit een prompt.
GPT-1
Transformer-architectuur | GPT-1-paper
In 2018 publiceerde OpenAI een paper (Improving Language Understanding by Generative Pre-Training) over natural language understanding met hun GPT-1-taalmodel. Dit model was een proof-of-concept en werd niet publiekelijk vrijgegeven.
GPT-2
Modelprestaties op diverse taken | GPT-2-paper
Het jaar daarop publiceerde OpenAI opnieuw een paper (Language Models are Unsupervised Multitask Learners) over hun nieuwste model, GPT-2. Ditmaal werd het model beschikbaar gemaakt voor de machinelearning-community en vond het enige adoptie voor tekstgeneratietaken. GPT-2 kon vaak een paar zinnen genereren voordat het vastliep. Dit was state of the art in 2019.
GPT-3
Resultaten op drie open-domain QA-taken | GPT-3-paper
In 2020 publiceerde OpenAI opnieuw een paper (Language Models are Few-Shot Learners) over hun GPT-3-model. Dit model had 100 keer meer parameters dan GPT-2 en was getraind op een nog grotere tekstdataset, wat resulteerde in betere modelprestaties. Het model werd verder verbeterd met verschillende iteraties die bekendstaan als de GPT-3.5-serie, waaronder de op conversatie gerichte ChatGPT.
Deze versie verraste de wereld met zijn vermogen om pagina’s vol mensachtige tekst te genereren en zorgde voor een wereldwijde sensatie. ChatGPT werd de snelstgroeiende webapplicatie ooit, met 100 miljoen gebruikers in slechts twee maanden.
Je kunt in een apart artikel meer leren over GPT-3, de toepassingen en hoe je het gebruikt.
Wat is GPT-4?
GPT-4 is ontwikkeld om de "alignment" van het model te verbeteren: het vermogen om de intenties van gebruikers te volgen, terwijl het tegelijk waarheidsgetrouwer is en minder aanstootgevende of gevaarlijke output genereert.
Om op de hoogte te blijven van de nieuwste modellen kun je onze gidsen over GPT-4 Turbo en onze artikelen over GPT-4o bekijken voor meer details.
Prestatieverbeteringen van GPT-4
Zoals je zou verwachten, verbetert GPT-4 ten opzichte van GPT-3.5-modellen wat betreft de feitelijke juistheid van antwoorden. Het aantal "hallucinaties", waarbij het model feitelijke of redeneerfouten maakt, is lager: GPT-4 scoort 40% hoger dan GPT-3.5 op OpenAI’s interne benchmark voor feitelijke prestaties.
Ook de "stuurbaarheid" is verbeterd: het vermogen om zijn gedrag aan te passen op basis van gebruikersverzoeken. Je kunt het bijvoorbeeld vragen om in een andere stijl, toon of stem te schrijven. Probeer prompts te beginnen met "Je bent een breedsprakige data-expert" of "Je bent een bondige data-expert" en laat het een datascience-concept aan je uitleggen. Je kunt hier meer lezen over het ontwerpen van goede prompts voor GPT-modellen.
Een verdere verbetering is dat het model zich beter aan de vangrails houdt. Als je het vraagt iets illegaals of onwenselijks te doen, is het beter in het weigeren van het verzoek.
Visuele input gebruiken in GPT-4
Een grote verandering is dat GPT-4 naast tekst ook beeldinvoer kan gebruiken (alleen onderzoekspreview; nog niet publiek beschikbaar). Gebruikers kunnen elke visie- of taaltaak specificeren door afwisselend tekst en afbeeldingen in te voeren.
Getoonde voorbeelden benadrukken dat GPT-4 complexe beelden zoals grafieken, memes en screenshots uit wetenschappelijke papers correct kan interpreteren.
Vanaf juni 2024 is de mogelijkheid voor beeldinvoer van GPT-4 beschikbaar gesteld aan een bredere groep gebruikers. Zo vroeg ik GPT-4o bijvoorbeeld om een foto van een van mijn planten te analyseren. En hoewel ik nog geen toegang heb tot de geïntegreerde visuele functies zoals te zien in GPT-4o, moest ik een foto maken en aan ChatGPT vragen welke plant het was:
Dit is geen slechte poging, al is het niet helemaal correct. Het is wel een bonsaiboom, maar een Ilex crenata in plaats van een Carmona retusa. Toch lijken de twee behoorlijk op elkaar, dus het is een begrijpelijke fout en ik waardeerde de extra context over hoe ik de plant moet verzorgen.
Hieronder zie je ook een voorbeeld van visueel redeneren op basis van een grafiek:
Prestatiebenchmarks van GPT-4
OpenAI evalueerde GPT-4 door examens te simuleren die voor mensen zijn ontworpen, zoals de Uniform Bar Examination en LSAT voor juristen, en de SAT voor toelating tot de universiteit. De resultaten toonden aan dat GPT-4 op menselijk niveau presteerde op verschillende professionele en academische benchmarks.
OpenAI evalueerde GPT-4 ook op traditionele benchmarks die zijn ontworpen voor machinelearning-modellen, waar het beter presteerde dan bestaande large language models en de meeste state-of-the-art modellen die mogelijk benchmark-specifieke afstemming of extra trainingsprotocollen omvatten. Deze benchmarks omvatten meerkeuzevragen in 57 vakken, alledaagse common-sense-redenering, meerkeuzevragen over natuurwetenschap op basisschoolniveau en meer.
OpenAI testte GPT-4’s capaciteiten in andere talen door de MMLU-benchmark, een set van 14.000 meerkeuzevragen in 57 vakken, te vertalen naar verschillende talen met Azure Translate. In 24 van de 26 geteste talen presteerde GPT-4 beter dan de Engelstalige prestaties van GPT-3.5 en andere large language models.
Recente tests geven aan dat GPT-4 blijft vooroplopen in meertalige capaciteiten, met name in ondervertegenwoordigde talen, met superieure prestaties in 28 van de 30 geteste talen ten opzichte van de nieuwste modellen.
Al met al duiden de meer onderbouwde resultaten van GPT-4 op aanzienlijke vooruitgang in OpenAI’s inspanningen om AI-modellen met steeds geavanceerdere mogelijkheden te ontwikkelen.
Toegang krijgen tot GPT-4 en varianten
Wil je de kracht van GPT-4, GPT-4 Turbo, GPT-4o en GPT-4o mini benutten? Zo doe je dat:
Met ChatGPT
- Gratis laag:
- Standaard toegang tot GPT-4o, met beperkte berichtlimieten.
- Geavanceerde tools zoals data-analyse en visuele mogelijkheden zijn ook beschikbaar.
- ChatGPT Plus en Team:
- Neem een Plus-abonnement of sluit je aan bij een Team voor ruimere gebruikslimieten.
- Verstuur tot 80 berichten per 3 uur op GPT-4o en tot 40 op GPT-4.
- ChatGPT Enterprise:
- Ontworpen voor grote organisaties met onbeperkte toegang tot GPT-4o en GPT-4.
- Inclusief extra functies zoals beveiliging op enterprise-niveau en geavanceerde tools.
Met de OpenAI API
- API-toegang:
- Meld je aan voor een OpenAI API-account.
- Doe een betaling van $5 om toegang te krijgen tot GPT-4 en GPT-4 Turbo.
- GPT-4o en GPT-4o mini zijn beschikbaar voor alle API-gebruikers.
- Prijzen en limieten:
- GPT-4o is goedkoper en sneller dan GPT-4 Turbo.
- Bekijk de prijsinformatie op de API-pagina van OpenAI voor details.
- Gegevensverwerking:
- Je data is veilig en wordt niet gebruikt voor training, tenzij je daarvoor kiest.
Modelmogelijkheden: Alle modellen ondersteunen tekst-, beeld- en audio-invoer/-uitvoer.
OpenAI heeft OpenAI Evals open source gemaakt, een framework voor geautomatiseerde evaluatie van AI-modelprestaties, zodat iedereen tekortkomingen in hun modellen kan rapporteren en verdere verbeteringen kan sturen.
Til het naar een hoger niveau
In de tussentijd kun je AI leren en meer lezen over onderwerpen zoals GPT-4 en ChatGPT in de volgende resources:
- Cursus: leer ChatGPT effectief gebruiken
- Leer je eigen deep-learningmodellen voor tekstgeneratie maken in de cursus Natural Language Generation in Python.
- Download deze handige cheat sheet met ChatGPT-prompts voor data science.
- Luister naar deze podcastaflevering over Hoe ChatGPT en GPT-3 workflows versterken om te begrijpen hoe ChatGPT je bedrijf kan helpen.
- Bekijk alle AI-cursussen van DataCamp
Wat is GPT-4?
Wat kunnen GPT-modellen?
Wat is de geschiedenis van GPT-modellen?
Hoe verbetert GPT-4 eerdere modellen?
Hoe presteert GPT-4 op benchmarks?
Onderwerpen
