Vai al contenuto principale
HomePython

Corso

Efficient AI Model Training with PyTorch

AvanzatoLivello di competenza
Aggiornato 05/2026
Riduci i tempi di training dei large language models con Accelerator e Trainer per il distributed training
Inizia il corso gratis
PythonArtificial Intelligence
4 h
13 video
45 Esercizi
3,850 XP
Attestato di conseguimento

Crea il tuo account gratuito

Continua con GoogleMostra più opzioni

o


Continuando, accetti i nostri Termini di utilizzo, la nostra Informativa sulla privacy e che i tuoi dati siano conservati negli Stati Uniti.

Preferito dagli studenti di migliaia di aziende

Group

Formare un team?

Prova per il Business

Descrizione del corso

L'addestramento distribuito è una competenza essenziale nel Machine Learning su larga scala, aiutandoti a ridurre il tempo necessario per addestrare modelli linguistici di grandi dimensioni con trilioni di parametri. In questo corso, tu esplorerai gli strumenti, le tecniche e le strategie essenziali per un training distribuito efficiente usando PyTorch, Accelerator e Trainer.

Preparazione dei dati per l'addestramento distribuito

Inizierai preparando i dati per l'addestramento distribuito, suddividendo i dataset su più dispositivi e distribuendo copie del modello su ciascun dispositivo. Acquisirai esperienza pratica nella pre-elaborazione dei dati per ambienti distribuiti, inclusi immagini, audio e testo.

Esplorare le tecniche di efficienza

Una volta che i tuoi dati sono pronti, esplorerai modi per migliorare l'efficienza nell'addestramento e nell'uso degli optimizer su più interfacce. Vedrai come affrontare queste sfide migliorando l’uso della memoria, la comunicazione tra dispositivi e l’efficienza computazionale con tecniche come gradient accumulation, gradient checkpointing, local stochastic gradient descent e mixed precision training. Capirai i compromessi tra diversi ottimizzatori per aiutarti a ridurre l’ingombro di memoria del tuo modello. Alla fine di questo corso, avrai le conoscenze e gli strumenti per creare servizi distribuiti basati sull'IA.

Prerequisiti

Intermediate Deep Learning with PyTorchWorking with Hugging Face
1

Preparazione dei dati con Accelerator

Preparerai i dati per il training distribuito suddividendoli tra più dispositivi e copiando il modello su ciascuno di essi. Accelerator offre un'interfaccia comoda per la preparazione dei dati e imparerai a preprocessare immagini, audio e testo come primo passo del training distribuito.
Inizia il capitolo
2

Training distribuito con Accelerator e Trainer

Nel training distribuito, ogni dispositivo addestra in parallelo sui propri dati. Esaminerai due metodi per il training distribuito: Accelerator abilita cicli di training personalizzati, mentre Trainer semplifica l'interfaccia per l'addestramento.
Inizia il capitolo
3

Migliorare l'efficienza del training

Il training distribuito mette sotto pressione le risorse con modelli e insiemi di dati di grandi dimensioni, ma puoi affrontare queste sfide migliorando l'uso della memoria, la comunicazione tra dispositivi e l'efficienza computazionale. Scoprirai le tecniche di accumulo del gradiente, gradient checkpointing, local stochastic gradient descent e training a precisione mista.
Inizia il capitolo
4

Training con ottimizzatori efficienti

Efficient AI Model Training with PyTorch
Corso
completato

Ottieni Attestato di conseguimento

Aggiungi questa certificazione al tuo profilo LinkedIn, al curriculum o al CV
Condividila sui social e nella valutazione delle tue performance
Iscriviti ora

Unisciti a oltre 19 milioni di studenti e inizia Efficient AI Model Training with PyTorch oggi!

Crea il tuo account gratuito

Continua con GoogleMostra più opzioni

o


Continuando, accetti i nostri Termini di utilizzo, la nostra Informativa sulla privacy e che i tuoi dati siano conservati negli Stati Uniti.

Aumenta le tue competenze sui dati con l'app di DataCamp

Avanza ovunque ti trovi con i nostri corsi per dispositivi mobili e le nostre sfide di programmazione quotidiane da 5 minuti.