Ga naar hoofdinhoud
HomePyTorch

Cursus

Transformermodels met PyTorch

GevorderdVaardigheidsniveau
Bijgewerkt 01-2025
Wat maakt LLMs zo bijzonder? Ontdek hoe transformers tekstmodellering hebben veranderd en de generatieve AI-boom hebben gestart.
Start Cursus Kosteloos
PyTorchArtificial Intelligence
2 u
7 videos
23 Opdrachten
1,900 XP
8,096
Bewijs van Prestatie

Maak je kosteloos account aan

Ga verder met GoogleMeer opties weergeven

of


Door verder te gaan accepteer je onze Gebruiksvoorwaarden, ons Privacybeleid en dat je gegevens worden opgeslagen in de VS.

Geliefd bij leerlingen van duizenden bedrijven

Group

Een team trainen?

Probeer voor bedrijven

Cursusbeschrijving

Duik diep in de Transformer-architectuur

Transformatiemodellen hebben tekstmodellering echt veranderd en hebben de generatieve AI-boom op gang gebracht door de huidige grote taalmodellen (LLM's) mogelijk te maken. In deze cursus ga je kijken naar de belangrijkste onderdelen van deze architectuur, zoals positionele codering, aandachtsmechanismen en feed-forward-sublagen. Je gaat deze onderdelen op een modulaire manier programmeren om stap voor stap je eigen transformator te bouwen.

Implementeren van aandachtsmechanismen met PyTorch

Het aandachtsmechanisme is echt belangrijk geweest voor het vormgeven van de transformatorarchitectuur. Door zelfaandacht kunnen transformatoren de verbanden tussen tokens beter zien, wat de kwaliteit van de gegenereerde tekst verbetert. Leer hoe je een multi-head attention mechanism-klasse kunt maken die een belangrijke bouwsteen vormt in je transformatiemodellen.

Bouw je eigen transformatormodellen

Leer hoe je modellen kunt maken met alleen een encoder, alleen een decoder en een encoder-decoder-transformator. Leer hoe je deze verschillende transformatorarchitecturen kunt kiezen en coderen voor verschillende taaltaken, zoals tekstclassificatie en sentimentanalyse, tekstgeneratie en -aanvulling, en sequentie-naar-sequentievertaling.

Vereisten

Deep Learning for Text with PyTorch
1

De bouwstenen van transformermodellen

Ontdek waar de populairste deep learning-architectuur in AI op draait! Leer over de onderdelen waaruit transformermodellen bestaan, inclusief de beroemde self-attention-mechanismen uit het bekende paper "Attention is All You Need."
Hoofdstuk beginnen
2

Transformer-architecturen bouwen

Ontwerp transformer-encoder- en decoderblokken, en combineer ze met positionele codering, multi-head attention en position-wise feed-forward-netwerken om je eigen transformer-architecturen te bouwen. Onderweg krijg je een diep begrip en waardering voor hoe transformers onder de motorkap werken.
Hoofdstuk beginnen
Transformermodels met PyTorch
Cursus
voltooid

Verdien een prestatieverklaring

Voeg deze referentie toe aan je LinkedIn-profiel, cv of curriculum vitae
Deel het op sociale media en in je functioneringsgesprek
Schrijf je nu in

Sluit je aan bij meer dan 19 miljoen leerlingen en start vandaag nog met Transformermodels met PyTorch!

Maak je kosteloos account aan

Ga verder met GoogleMeer opties weergeven

of


Door verder te gaan accepteer je onze Gebruiksvoorwaarden, ons Privacybeleid en dat je gegevens worden opgeslagen in de VS.

Ontwikkel je datavaardigheden met DataCamp voor Mobiel

Maak vooruitgang onderweg met onze mobiele cursussen en dagelijkse 5-minuten programmeeruitdagingen.