Lewati ke konten utama
BerandaPyTorch

Kursus

Model Transformer dengan PyTorch

LanjutanTingkat Keterampilan
Diperbarui 01/2025
Apa yang membuat LLMs begitu istimewa? Temukan bagaimana transformers merevolusi pemodelan teks dan memicu ledakan kecerdasan buatan generatif.
Mulai Kursus Gratis
PyTorchArtificial Intelligence
2 jam
7 videos
23 Latihan
1,900 XP
8,096
Pernyataan Pencapaian

Buat Akun Gratis Anda

Lanjutkan dengan GoogleTampilkan opsi lainnya

atau


Dengan melanjutkan, Anda menerima Ketentuan Penggunaan kami, Kebijakan Privasi kami dan bahwa data Anda disimpan di Amerika Serikat.

Dipercaya oleh para pelajar di ribuan perusahaan

Group

Melatih Tim?

Coba untuk Bisnis

Deskripsi Kursus

Penjelajahan Mendalam tentang Arsitektur Transformer

Model transformer telah merevolusi pemodelan teks, memicu ledakan kecerdasan buatan generatif dengan memfasilitasi pengembangan model bahasa besar (LLMs) yang ada saat ini. Dalam kursus ini, Anda akan mempelajari komponen-komponen utama dalam arsitektur ini, termasuk positional encoding, mekanisme perhatian, dan lapisan feed-forward. Anda akan mengkodekan komponen-komponen ini secara modular untuk membangun transformator Anda sendiri secara bertahap.

Implementasikan Mekanisme Perhatian dengan PyTorch

Mekanisme perhatian merupakan perkembangan kunci yang membantu mengformalkan arsitektur transformer. Self-attention memungkinkan transformers untuk lebih baik mengidentifikasi hubungan antara token, yang meningkatkan kualitas teks yang dihasilkan. Pelajari cara membuat kelas mekanisme perhatian multi-head yang akan menjadi blok bangunan kunci dalam model transformer Anda.

Bangun Model Transformer Anda Sendiri

Pelajari cara membangun model transformer yang hanya menggunakan encoder, hanya menggunakan decoder, dan model transformer encoder-decoder. Pelajari cara memilih dan mengimplementasikan arsitektur transformer yang berbeda untuk tugas-tugas bahasa yang berbeda, termasuk klasifikasi teks dan analisis sentimen, generasi dan penyelesaian teks, serta terjemahan urutan-ke-urutan.

Persyaratan

Deep Learning for Text with PyTorch
1

Komponen Penyusun Model Transformer

Temukan apa yang membuat arsitektur deep learning terpanas di AI ini begitu ampuh! Pelajari komponen yang membentuk model Transformer, termasuk mekanisme self-attention terkenal yang dijelaskan dalam makalah ternama "Attention is All You Need."
Mulai Bab
2

Membangun Arsitektur Transformer

Rancang blok encoder dan decoder transformer, lalu gabungkan dengan positional encoding, multi-headed attention, dan position-wise feed-forward networks untuk membangun arsitektur Transformer Anda sendiri. Sepanjang proses, Anda akan mengembangkan pemahaman mendalam dan apresiasi terhadap cara kerja transformer di balik layar.
Mulai Bab
Model Transformer dengan PyTorch
Kursus
Selesai

Memperoleh Surat Keterangan Prestasi

Tambahkan kredensial ini ke profil LinkedIn, resume, atau CV Anda
Bagikan di media sosial dan dalam penilaian kinerja Anda
Daftar sekarang

Bergabung dengan 19 juta pelajar dan mulai Model Transformer dengan PyTorch Hari Ini!

Buat Akun Gratis Anda

Lanjutkan dengan GoogleTampilkan opsi lainnya

atau


Dengan melanjutkan, Anda menerima Ketentuan Penggunaan kami, Kebijakan Privasi kami dan bahwa data Anda disimpan di Amerika Serikat.

Kembangkan keterampilan data Anda dengan DataCamp untuk Mobile

Buat kemajuan di mana saja dengan kursus mobile kami dan tantangan coding harian 5 menit.