{count, plural, one {Corso} other {Corsi}}
Machine Learning end-to-end
{hours} ore
16.9K
Sempre più spesso le aziende desiderano integrare il machine learning (ML) nei propri prodotti o migliorare i processi usando l’ML. Di conseguenza, capire come gestire le sue complessità insieme al software tradizionale è più importante che mai.
DevOps è stato introdotto per affrontare le sfide legate allo sviluppo software. Mira ad abbattere i silos tra i team di sviluppo e i team operativi, con il risultato di rilasciare nuove funzionalità più velocemente e introdurle in produzione con meno difficoltà.
MLOps si basa su questi principi ma affronta sfide specifiche dell’ML, come dataset enormi e in rapida evoluzione, modelli da tracciare e versionare, e il monitoraggio per gestire problemi come il data drift o il concept drift.
Sebbene le due discipline condividano principi comuni, differiscono notevolmente per focus, flussi di lavoro e strumenti.
In questo articolo esploreremo DevOps e MLOps, evidenziando somiglianze e differenze e quando usare quale approccio. Vedremo anche i flussi di lavoro tipici e quali strumenti utilizzare nelle diverse fasi.
Iniziamo!
Che cos’è DevOps?
DevOps è una metodologia di ingegneria del software ideata per accelerare lo sviluppo e la distribuzione del software. L’obiettivo principale è migliorare la collaborazione tra team di sviluppo e team operativi. Colma il divario tra queste funzioni tradizionalmente a silos e consente una consegna del software più rapida e affidabile.
In sintesi, DevOps punta a creare una cultura collaborativa e ad automatizzare il più possibile per migliorare l’efficienza complessiva e la velocità con cui si possono consegnare nuove funzionalità software.
Oggi, grandi aziende come Meta, Amazon e molte altre riescono a rilasciare nuove funzionalità quotidianamente grazie a DevOps.
Se vuoi familiarizzare con questo ambito, ti consiglio il corso Introduction to DevOps.
Gli obiettivi principali di DevOps sono:
- Cicli di sviluppo più rapidi: Ridurre il tempo tra il rilascio e la distribuzione di una nuova funzionalità per ottenere cicli di release più rapidi mantenendo la stabilità.
- Integrazione e consegna continua (CI/CD): Automatizzare l’integrazione del codice, i test e le pipeline di deployment per migliorare la delivery.
- Collaborazione migliorata: Favorire una comunicazione stretta tra team di sviluppo e team operativi.
- Efficienza operativa: Ridurre le attività manuali, minimizzare gli errori e aumentare la produttività tramite l’automazione.
DevOps comprende i seguenti componenti chiave:
- Pipeline CI/CD:
- Test, build e deployment del codice automatizzati.
- Cicli di feedback più rapidi per gli sviluppatori.
- Meno errori e maggiore stabilità.
- Infrastructure as Code (IaC):
- Gestire l’infrastruttura tramite codice anziché con processi manuali.
- Garantire coerenza e stabilità.
- Una nuova infrastruttura può essere predisposta in pochi secondi e senza interventi manuali.
- Monitoraggio e osservabilità:
- Tracciare in tempo reale le prestazioni del sistema e lo stato delle applicazioni.
- Identificare e risolvere i problemi il prima possibile.
Sono disponibili strumenti standard di settore che aiutano a implementare i componenti principali di DevOps. Ecco alcuni dei più popolari:
- Strumenti CI/CD: Jenkins, GitLab CI/CD, CircleCI.
- Strumenti IaC: Terraform, Ansible, Chef, Puppet.
- Containerizzazione e orchestrazione: Docker, Kubernetes.
- Strumenti di monitoraggio: Prometheus, Grafana, Datadog.
Che cos’è MLOps?
MLOps estende i principi di DevOps condividendo l’obiettivo comune di automatizzare i processi. MLOps comprende pratiche pensate per distribuire e mantenere il machine learning in produzione in modo continuo, affidabile ed efficiente.
La parte fondamentale è che si concentra sul machine learning in produzione, non su modelli addestrati in locale per piccoli esperimenti.
MLOps può automatizzare e snellire tutte le fasi del ciclo di vita di un progetto di machine learning.
Ciclo di vita di un progetto di machine learning. Immagine dell’autore
Ma perché abbiamo bisogno di MLOps? Perché dovremmo investire ulteriore impegno per impostare flussi di lavoro e processi puliti? Diciamolo chiaramente: all’inizio comporta un notevole sforzo extra e gli sviluppatori potrebbero essere tentati di ignorarlo per portare velocemente un modello in produzione. Tuttavia, questo approccio introduce rischi.
Come nello sviluppo software tradizionale, ignorare processi puliti e buone pratiche nelle fasi iniziali porta nel tempo a una complessità crescente e a una minore manutenibilità.
Questo problema è ancora più rilevante nei sistemi ML a causa delle sfide uniche nella gestione delle dipendenze dai dati, dei modelli in evoluzione e dei feedback loop.
Come evidenziato nell’influente articolo “Hidden Technical Debt in Machine Learning Systems”, i sistemi di machine learning accumulano debito tecnico in modi diversi rispetto al software tradizionale.
Senza principi MLOps, quindi, il costo di rifattorizzare in seguito un sistema ML ingestibile spesso supera lo sforzo necessario per costruire da subito un flusso di lavoro robusto.
Consiglio l’ottimo corso MLOps Concepts se vuoi approfondire questo ambito.
Gli obiettivi principali di MLOps sono:
- Automazione del ciclo di vita ML: Semplificare processi come raccolta dati, addestramento del modello, deployment e monitoraggio, riducendo il lavoro manuale.
- Riproducibilità e coerenza: Garantire che esperimenti e flussi di lavoro siano ripetibili, portando a risultati affidabili.
- Collaborazione: Supportare la comunicazione tra data scientist, ML engineer, data engineer e team operativi.
- Scalabilità: Consentire ai modelli di machine learning di gestire carichi di produzione e adattarsi alla crescita dei dati e della domanda.
- Gestione delle sfide specifiche dell’ML: Gestire cambiamenti nelle distribuzioni dei dati, dataset di grandi dimensioni e la necessità di riaddestrare i modelli.
Vediamo ora i componenti principali di MLOps:
- Pipeline di addestramento e riaddestramento dei modelli: Automatizzare il processo di training significa:
- Preelaborazione dei dati e feature engineering.
- Validazione del modello e tracciamento delle prestazioni.
- Riaddestrare i modelli per adattarli ai nuovi dati quando necessario.
- Versioning di modelli e dati e tracciamento degli esperimenti:
- Versionare modelli ML e dati di training per documentare i cambiamenti nel tempo e consentire rollback.
- Monitorare iperparametri, metriche e tutti i risultati di una sessione di training tramite experiment tracking.
- Orchestrazione delle pipeline dati:
- Automatizzare la preparazione, la trasformazione e la validazione dei dati. Garantirne affidabilità e ripetibilità.
- Affrontare le sfide legate a dataset in cambiamento.
- Monitoraggio e manutenzione:
- Monitorare continuamente le prestazioni dei modelli in produzione per rilevare il prima possibile problemi come drift o degradazione.
- Attivare automaticamente il riaddestramento e automatizzare l’addestramento per aggiornare rapidamente i modelli quando necessario.
- Infrastructure as Code (IaC):
- Usare strumenti come Kubernetes e Terraform per predisporre e gestire un’infrastruttura scalabile per i carichi ML.
Il campo di MLOps è ancora in rapida evoluzione. Tuttavia, esistono già standard di settore per implementarne i componenti chiave:
- Experiment tracking: MLFlow o Weights and Biases.
- Versioning dei dati: DVC (Data Version Control).
- Orchestrazione delle pipeline: Apache Airflow, Kubeflow o Dagster.
- Deployment dei modelli: TensorFlow Serving, Seldon Core, Amazon SageMaker.
- Monitoraggio: Prometheus, Grafana, WhyLabs.
- Infrastructure as Code: Kubernetes, Docker, Terraform.
Qual è la principale differenza tra MLOps e DevOps?
MLOps e DevOps possono essere usati insieme?
Quali sono alcuni strumenti standard usati in MLOps e DevOps?
Quali competenze servono per implementare efficacemente MLOps?
Argomenti
