Kurs
Modele Transformer w PyTorch
ZaawansowanyPoziom umiejętności
Zaktualizowano 01.2025
PyTorchArtificial Intelligence2 godz.7 filmów23 Ćwiczenia1,900 XP8,073Zaświadczenie o ukończeniu
Utwórz bezpłatne konto
Kontynuuj z GooglePokaż więcej opcjilub
Kontynuując, akceptujesz nasze Warunki korzystania, naszą Politykę prywatności oraz to, że Twoje dane są przechowywane w USA.
Uwielbiany przez kursantów z tysięcy firm
Szkolisz zespół?
Wypróbuj dla firmOpis kursu
Dogłębne poznanie architektury Transformer
Modele transformer zrewolucjonizowały modelowanie tekstu, zapoczątkowując boom na generatywną sztuczną inteligencję dzięki umożliwieniu powstania dzisiejszych dużych modeli językowych (LLM). W tym kursie przyjrzysz się kluczowym elementom tej architektury, w tym kodowaniu pozycyjnemu, mechanizmom uwagi i podwarstwom feed-forward. Będziesz kodować te komponenty w modułowy sposób, aby krok po kroku zbudować własny transformer.Implementuj mechanizmy uwagi z PyTorch
Mechanizm uwagi to kluczowy przełom, który pomógł sformalizować architekturę transformera. Samo-uwaga pozwala transformerom lepiej identyfikować relacje między tokenami, co poprawia jakość generowanego tekstu. Dowiedz się, jak stworzyć klasę mechanizmu wielogłowej uwagi, która będzie stanowić kluczowy element składowy Twoich modeli transformer.Zbuduj własne modele Transformer
Naucz się budować modele transformerów typu encoder-only, decoder-only i encoder-decoder. Dowiedz się, jak wybierać i kodować różne architektury transformerów do różnych zadań językowych, w tym klasyfikacji tekstu i analizy sentymentu, generowania i uzupełniania tekstu oraz tłumaczenia sekwencja do sekwencji.Wymagania wstępne
Deep Learning for Text with PyTorch1
The Building Blocks of Transformer Models
Discover what makes the hottest deep learning architecture in AI tick! Learn about the components that make up Transformer models, including the famous self-attention mechanisms described in the renowned paper "Attention is All You Need."
2
Building Transformer Architectures
Design transformer encoder and decoder blocks, and combine them with positional encoding, multi-headed attention, and position-wise feed-forward networks to build your very own Transformer architectures. Along the way, you'll develop a deep understanding and appreciation for how transformers work under the hood.
Modele Transformer w PyTorch
Kurs ukończony
Zdobądź zaświadczenie o ukończeniu
Dodaj to poświadczenie do swojego profilu LinkedIn, CV lub życiorysuUdostępnij to w mediach społecznościowych i podczas oceny wyników pracyZapisz się teraz
Dołącz do ponad 19 milionów kursantów i zacznij Modele Transformer w PyTorch już dziś!
Utwórz bezpłatne konto
Kontynuuj z GooglePokaż więcej opcjilub
Kontynuując, akceptujesz nasze Warunki korzystania, naszą Politykę prywatności oraz to, że Twoje dane są przechowywane w USA.
Rozwijaj swoje umiejętności w zakresie danych dzięki DataCamp dla urządzeń mobilnych
Rób postępy w podróży dzięki naszym kursom mobilnym i codziennym 5-minutowym wyzwaniom kodowania.