Le 12 migliori immagini di container Docker per Machine Learning e AI

Se sei un machine learning engineer, è probabile che tu abbia usato Docker in uno dei tuoi progetti, che si tratti di distribuire un endpoint di inferenza di un modello o di automatizzare la pipeline di machine learning per training, valutazione e deployment. Docker semplifica questi processi, garantendo coerenza e scalabilità negli ambienti di produzione.

Ma ecco la domanda: conosci tutte le immagini Docker disponibili su Docker Hub e GitHub? Queste immagini predefinite possono farti risparmiare tempo eliminando la necessità di costruire immagini in locale. Puoi invece scaricarle e usarle direttamente nei tuoi Dockerfile o nelle configurazioni Docker Compose, accelerando sviluppo e deployment.

In questo blog esploreremo le 12 migliori immagini di container Docker progettate per i workflow di machine learning. Includono strumenti per ambienti di sviluppo, framework di deep learning, gestione del ciclo di vita del machine learning, orchestrazione dei workflow e large language model.

Se sei alle prime armi con Docker, segui il corso Introduzione a Docker per comprenderne le basi. 

Perché usare i container Docker per il Machine Learning?

Se hai mai sentito la frase "sul mio computer funziona", allora conosci la fatica di mantenere un ambiente di sviluppo coerente su più piattaforme e fasi. Qui entrano in gioco i container Docker: racchiudono codice, dipendenze e configurazioni in un'immagine portabile, assicurando coerenza tra ambienti diversi. I modelli e le API degli endpoint si comportano in modo identico durante sviluppo, test e produzione, a prescindere dalle variazioni dell'infrastruttura sottostante. 

Isolando le dipendenze (come versioni specifiche di Python, PyTorch o CUDA), Docker garantisce la riproducibilità degli esperimenti e riduce i conflitti tra librerie.

Fonte: Docker

Puoi condividere l'immagine Docker con il tuo team e loro possono semplicemente eseguire il pull dell'immagine per creare più istanze. Questo processo semplifica anche il deployment impacchettando i modelli in container con API, consentendo un'integrazione fluida con strumenti di orchestrazione come Kubernetes per un serving scalabile in produzione.

In breve, come machine learning engineer devi sapere come gestire le immagini Docker e distribuire container Docker nel cloud.

Comprendi i concetti chiave della containerizzazione iscrivendoti al breve corso Concetti di Containerizzazione e Virtualizzazione.

Container Docker per ambienti di sviluppo

Per impostare un workflow di sviluppo ML senza intoppi, ti serve un ambiente affidabile con strumenti e librerie essenziali. Queste immagini di container Docker offrono setup preconfigurati per data science, coding e sperimentazione.

1. Python

Python è la spina dorsale della maggior parte dei progetti di machine learning, poiché quasi tutti i principali framework e applicazioni, come TensorFlow, PyTorch e scikit-learn, ruotano attorno ad esso. La sua popolarità si estende al deployment, dove Python è comunemente usato nelle immagini Docker per creare ambienti coerenti per l'inferenza dei modelli. Per esempio:

FROM python:3.8
RUN pip install --no-cache-dir numpy pandas

La semplicità di Python, l'ampio ecosistema di librerie e la compatibilità con strumenti come Docker lo rendono una scelta privilegiata per sviluppo e deployment di ML.

2. Stack data science per Jupyter Notebook

I Jupyter Docker Stacks offrono un ambiente completo per data science e machine learning, includendo Jupyter Notebook e una suite di librerie popolari. Puoi facilmente scaricare l'immagine da Docker Hub e usarla in locale. Inoltre, puoi distribuire questa istanza sul cloud e condividerla con il tuo team.

Per eseguire il Jupyter Data Science Notebook, usa il seguente comando:

docker run -it --rm -p 8888:8888 jupyter/datascience-notebook

Può essere usato anche con un Dockerfile, così non devi installare i pacchetti Python con pip. Ti basta eseguire l'applicazione o uno script Python. Ecco un Dockerfile d'esempio:

FROM jupyter/datascience-notebook:latest

Questa immagine include librerie popolari come NumPy, pandas, matplotlib e scikit-learn, insieme a Jupyter Notebook per il calcolo interattivo. È ideale per esplorazione dati, visualizzazione ed esperimenti di machine learning, ed è un punto di riferimento nella community data science.

Per maggiori informazioni, leggi il blog Docker per la Data Science: un'introduzione, dove puoi imparare i comandi Docker, come containerizzare applicazioni ML e le best practice più diffuse nel settore.

3. Kubeflow Notebooks

Le immagini Kubeflow Notebook sono progettate per funzionare all'interno di pod Kubernetes, pensati per i workflow di machine learning su Kubernetes. Puoi scegliere tra tre tipi di notebook: JupyterLab, RStudio e Visual Studio Code (code-server).

Provalo in locale eseguendo il seguente comando:

docker run -it --rm -p 8888:8888 kubeflownotebookswg/jupyter-pytorch

Le immagini Kubeflow Notebooks sono particolarmente utili in ambienti in cui Kubernetes è l'infrastruttura sottostante. Facilitano progetti ML collaborativi e scalabili e si integrano perfettamente con Kubernetes per workflow riproducibili e scalabili.

Impara Docker e Kubernetes seguendo il percorso di competenze Containerizzazione e Virtualizzazione con Docker e Kubernetes. Questo percorso interattivo ti permetterà di creare e distribuire applicazioni in ambienti moderni.

Container Docker per framework di Deep Learning

I framework di deep learning richiedono ambienti ottimizzati per training e inferenza. Queste immagini di container arrivano già con le dipendenze necessarie, facendoti risparmiare tempo su installazione e configurazione.

4. PyTorch

PyTorch è uno dei principali framework di deep learning, conosciuto per il suo approccio modulare alla costruzione di reti neurali profonde. Puoi creare un Dockerfile ed eseguire facilmente l'inferenza del tuo modello senza installare il pacchetto PyTorch con il comando pip.

FROM pytorch/pytorch:latest
RUN python main.py

L'immagine Docker di PyTorch è ampiamente usata per addestrare e distribuire modelli sia in ricerca che in produzione. Fornisce un ambiente ottimizzato per sviluppare e distribuire modelli di deep learning, in particolare per NLP e computer vision.

5. TensorFlow

TensorFlow è un altro framework di deep learning leader, ampiamente adottato in accademia e industria. Si integra bene con l'ecosistema Google e con tutti i pacchetti che supportano TensorFlow per il tracciamento degli esperimenti e il serving dei modelli. 

FROM tensorflow/tensorflow:latest
RUN python main.py

L'immagine Docker di TensorFlow include il pacchetto Python TensorFlow e le sue dipendenze, spesso ottimizzate per l'accelerazione GPU. È ideale per creare e distribuire modelli di machine learning, specialmente in ambienti di produzione su larga scala.

6. Runtime deep learning NVIDIA CUDA

Il runtime NVIDIA CUDA è essenziale per accelerare i calcoli di deep learning su GPU. Puoi aggiungerlo facilmente al tuo Dockerfile, evitando di configurare manualmente CUDA per eseguire task di ML accelerati da GPU. 

FROM nvidia/cuda
RUN python main.py

Le immagini Docker NVIDIA CUDA offrono un ambiente runtime ottimizzato per applicazioni di deep learning che utilizzano GPU NVIDIA, migliorando significativamente le prestazioni dei modelli.

Puoi saperne di più su come le GPU accelerano i workflow di data science nel post Accelerazione GPU di Polars.

Container Docker per la gestione del ciclo di vita del Machine Learning

Gestire il ciclo di vita del machine learning, dall'esperimentazione al deployment, richiede strumenti dedicati. Queste immagini Docker semplificano versionamento, tracciamento e deployment.

7. MLflow

MLflow è una piattaforma open-source per la gestione del ciclo di vita del machine learning, incluse sperimentazione, riproducibilità e deployment. Puoi avviare il server MLflow con il seguente comando, che fornirà il server MLflow per archiviare e versionare esperimenti, modelli e artifact. Offre anche una dashboard interattiva per consentire ai manager di visualizzare esperimenti e modelli. 

docker run -it --rm -p 9000:9000 ghcr.io/mlflow/mlflow

8. Hugging Face Transformers

Hugging Face Transformers è ampiamente usato per varie applicazioni, dalla ricerca di large language model alla costruzione di modelli di generazione di immagini. È costruito sopra PyTorch, TensorFlow e altri principali framework di deep learning. Ciò significa che puoi usarlo per caricare qualsiasi modello di ML, fare fine-tuning, tracciare le performance e salvare il tuo lavoro su Hugging Face.

FROM huggingface/transformers-pytorch-gpu
RUN python main.py

Le immagini Docker di Hugging Face Transformers sono popolari per fare fine-tuning e distribuire large language model in modo rapido ed efficiente. In generale, il moderno ecosistema AI dipende fortemente da questo pacchetto, e puoi incorporarlo nel tuo Dockerfile per sfruttarne tutte le funzionalità senza preoccuparti delle dipendenze.

Container Docker per l'orchestrazione dei workflow

I progetti di machine learning spesso coinvolgono workflow complessi che richiedono automazione e schedulazione. Questi strumenti di orchestrazione aiutano a semplificare le pipeline di ML.

9. Airflow

Apache Airflow è una piattaforma open-source per creare, pianificare e monitorare workflow in modo programmatico. 

docker run -it --rm -p 8080:8080 apache/airflow

Airflow è ampiamente usato per orchestrare pipeline di machine learning complesse. Fornisce una piattaforma per scrivere, pianificare e monitorare workflow come grafi aciclici diretti (DAG), rendendolo indispensabile nell'ingegneria del ML per automatizzare e gestire i workflow di dati.

10. n8n

n8n è uno strumento open-source di automazione dei workflow sempre più popolare per la sua flessibilità e facilità d'uso, in particolare nell'automazione dei workflow di machine learning. Puoi eseguirlo in locale e costruire la tua applicazione RAG usando l'interfaccia drag-and-drop.

docker run -it --rm -p 5678:5678 n8nio/n8n

n8n offre un'interfaccia intuitiva per creare workflow che integrano vari servizi e API. È particolarmente utile per automatizzare attività ripetitive e collegare sistemi e servizi diversi nei progetti di machine learning.

Per saperne di più sulla creazione di workflow di ML in Python, valuta il corso Progettare workflow di Machine Learning in Python.

Container Docker per Large Language Model

Con la diffusione degli LLM, container Docker specializzati aiutano a distribuire e scalare questi modelli in modo efficiente.

11. Ollama

Ollama è progettato per distribuire ed eseguire large language model in locale. Con il Docker di Ollama, puoi scaricare e servire gli LLM, integrandoli nelle tue applicazioni. È il modo più semplice per eseguire in produzione sia LLM quantizzati sia completi.

docker run -it --rm ollama/ollama

12. Qdrant

Qdrant è un motore di ricerca vettoriale usato per distribuire applicazioni di ricerca per similarità tra vettori. Include una dashboard e un server a cui connetterti per inviare e recuperare rapidamente dati vettoriali.

docker run -it --rm -p 6333:6333 qdrant/qdrant

Qdrant fornisce strumenti per una ricerca per similarità e un clustering efficienti di dati ad alta dimensionalità. È particolarmente utile in applicazioni come sistemi di raccomandazione, recupero di immagini e testi e ricerca semantica, sempre più importanti nei progetti ML che coinvolgono large language model.

Conclusione

In questo blog abbiamo esplorato 12 immagini di container Docker essenziali per progetti di machine learning. Queste immagini offrono una cassetta degli attrezzi completa, dagli ambienti di sviluppo agli strumenti per i large language model. Sfruttando questi container, data scientist e ingegneri possono costruire ambienti di progetto coerenti, riproducibili e scalabili, semplificando i workflow e aumentando la produttività.

Il prossimo passo nel percorso di apprendimento è costruire un tuo progetto usando queste immagini di container Docker! 

Se vuoi imparare a creare applicazioni AI con i più recenti strumenti per sviluppatori AI, dai un'occhiata al percorso Sviluppare applicazioni AI.