PyTorchで学ぶTransformerモデル

上級スキルレベル

更新日 2025/01

LLMの仕組みを解説。transformerがテキストモデリングを革新し、生成AIブームを牽引した理由を学びます。

コース説明

前提条件

Deep Learning for Text with PyTorch

The Building Blocks of Transformer Models

Discover what makes the hottest deep learning architecture in AI tick! Learn about the components that make up Transformer models, including the famous self-attention mechanisms described in the renowned paper "Attention is All You Need."

Transformers with PyTorch

50 XP

Breaking down the Transformer

50 XP

PyTorch Transformers

100 XP

Embedding and positional encoding

50 XP

Creating input embeddings

100 XP

Creating positional encodings

100 XP

Multi-head self-attention

50 XP

Implementing multi-head attention

100 XP

Starting the MultiHeadAttentionClass

100 XP

Adding methods to the MultiHeadAttention class

100 XP

チャプターを開始

Building Transformer Architectures

Design transformer encoder and decoder blocks, and combine them with positional encoding, multi-headed attention, and position-wise feed-forward networks to build your very own Transformer architectures. Along the way, you'll develop a deep understanding and appreciation for how transformers work under the hood.

Encoder transformers

50 XP

Feed-forward sublayers

100 XP

The encoder transformer layer

100 XP

The encoder transformer body

100 XP

Adding the transformer head

100 XP

Decoder transformers

50 XP

Designing a mask for self-attention

100 XP

The decoder layer

100 XP

Completing the decoder transformer

100 XP

Encoder-decoder transformers

50 XP

Adding cross-attention to the decoder layer

100 XP

Constructing the encoder-decoder transformer

100 XP

Congratulations!

50 XP

チャプターを開始

PyTorchで学ぶTransformerモデル

コース完了

修了証明書を取得

この修了書をLinkedInや履歴書、CVに追加しましょう
ソーシャルメディアや人事評価で共有しましょう今すぐ登録

PyTorchで学ぶTransformerモデル

チームのトレーニングを担当していますか？

コース説明

前提条件

The Building Blocks of Transformer Models

Building Transformer Architectures

修了証明書を取得

19百万人を超える学習者と共にPyTorchで学ぶTransformerモデルを始めましょう！

DataCamp for Mobileでデータスキルを磨きましょう

コース説明

修了証明書を取得

.css-nklxlk{color:var(--wf-brand--main, #03EF62);}19百万人を超える学習者と共にPyTorchで学ぶTransformerモデルを始めましょう！

無料アカウントを作成

DataCamp for Mobileでデータスキルを磨きましょう

19百万人を超える学習者と共にPyTorchで学ぶTransformerモデルを始めましょう！