PyTorchで学ぶTransformerモデル

Transformerのエンコーダブロックとデコーダブロックを設計し、位置エンコーディング、マルチヘッドアテンション、位置ごとのフィードフォワードネットワークと組み合わせて、独自のTransformerアーキテクチャを構築します。その過程で、Transformerが内部でどのように動作するのかを深く理解できるようになります。