Che cos'è l'inferenza nel Machine Learning? Introduzione agli approcci di inferenza

Introduzione all'inferenza nel Machine Learning

Immagina di aver addestrato un ottimo modello di machine learning per aiutare il team business ad attirare più clienti con consigli pertinenti. Il passo successivo più logico è integrare il modello addestrato nell'infrastruttura aziendale, così che possa essere usato dal business per fare previsioni sulle informazioni di nuovi clienti. Il processo di utilizzo di un modello esistente prende il nome di inferenza. 

L'inferenza nel machine learning è cruciale perché permette di usare il modello in casi d'uso reali come previsioni, classificazioni o raccomandazioni. 

Alla fine di questo blog, avrai una comprensione più chiara di come funziona l'inferenza nel machine learning, di come si differenzia dall'addestramento tradizionale e una panoramica degli approcci di inferenza esistenti, con relativi vantaggi, sfide e alcune applicazioni nella vita reale.

Inferenza nel Machine Learning vs Addestramento

La prima cosa da tenere a mente è che inferenza nel machine learning e addestramento nel machine learning non sono la stessa cosa, e ciascun concetto si applica in due fasi diverse di qualsiasi progetto di machine learning. Questa sezione fornisce una spiegazione intuitiva per evidenziarne le differenze attraverso l'analogia del ristorante di Cassie Kozyrkov. 

Lei ha detto che per fare una buona pizza (un prodotto di valore) serve una ricetta (modello o formula) che indichi come preparare gli ingredienti (dati di qualità) e con quali strumenti (algoritmi). 

Non ci sarebbe servizio se non uscisse cibo dalla cucina. Inoltre, la cucina (Team Data Science) non avrebbe valore se i clienti non apprezzassero costantemente il cibo. 

Per una buona esperienza del cliente e un miglior ritorno sull'investimento, entrambi i team lavorano insieme.

Cucina (Team Data Science) & Sala (Team Business)

Addestramento nel machine learning

Addestrare un modello di machine learning richiede l'uso di dati di training e di validazione. I dati di training servono a sviluppare il modello, mentre i dati di validazione a affinare i parametri del modello e renderlo il più robusto possibile. Ciò significa che, al termine della fase di addestramento, il modello dovrebbe essere in grado di prevedere nuovi dati con meno errori. Possiamo considerare questa fase come il lato cucina.

Nel nostro guida completa, What is Machine Learning, scoprirai cos'è il machine learning, in cosa differisce da AI e deep learning e perché è uno dei campi più entusiasmanti della data science.

Inferenza nel machine learning

I piatti possono essere serviti solo quando sono pronti per essere consumati, proprio come il modello di machine learning deve essere addestrato e validato prima di poter essere usato per fare previsioni. L'inferenza nel machine learning è simile allo scenario di un ristorante. Entrambi richiedono attenzione per risultati migliori e più accurati, quindi soddisfazione di clienti e business. 

Importanza di capire le differenze

Conoscere la differenza tra inferenza e addestramento nel machine learning è fondamentale perché può aiutare ad allocare meglio le risorse computazionali per entrambe le fasi una volta distribuite in produzione. 

Le prestazioni del modello di solito diminuiscono nell'ambiente di produzione. Una corretta comprensione della differenza può aiutare ad adottare le giuste strategie di industrializzazione dei modelli e a mantenerli nel tempo.

Considerazioni chiave nella scelta tra inferenza e addestramento

Usare un modello in inferenza o addestrarne uno nuovo dipende dal tipo di problema, dall'obiettivo finale e dalle risorse disponibili. 

Le considerazioni chiave includono, ma non si limitano a, time-to-market, vincoli di risorse o costi di sviluppo, prestazioni del modello ed esperienza del team.

1. Time-to-market. È importante considerare quanto tempo è disponibile quando si sceglie tra addestrare e usare un modello esistente. A volte, usare un modello pre-addestrato richiede meno tempo e può offrire al team business un vantaggio competitivo.
   
   
2. Vincoli di risorse o costi di sviluppo. A seconda del caso d'uso, addestrare un modello può richiedere una notevole quantità di dati e risorse di training. Tuttavia, usare un modello in inferenza nella maggior parte dei casi richiede meno risorse, il che rende più semplice ottenere prestazioni anche migliori in poco tempo.
    
3. Prestazioni del modello. Addestrare un modello di machine learning è un processo iterativo e non garantisce sempre un modello robusto. Usare un modello in inferenza può offrire prestazioni migliori rispetto a un modello sviluppato internamente. Oggi, spiegabilità del modello e mitigazione dei bias sono cruciali, e i modelli in inferenza potrebbero dover essere aggiornati per includere tali capacità.
   
   
4. Esperienza del team. Costruire un modello di machine learning robusto richiede una forte competenza sia nell'addestramento sia nell'industrializzazione del modello. Può essere difficile avere già disponibili tali competenze; quindi affidarsi a modelli in inferenza può essere la migliore alternativa.   

Inferenza bayesiana nel Machine Learning

L'inferenza bayesiana è una tecnica nel machine learning che consente agli algoritmi di fare previsioni aggiornando la conoscenza a priori in base a nuove evidenze usando il teorema di Bayes. 

Ma cos'è il teorema di Bayes? 

Descrive le probabilità dell'evento A, dato che si è verificato un altro evento, B. La formula è riportata di seguito: 

Teorema di Bayes

P(A): prior → la probabilità che l'evento A si verifichi senza alcuna conoscenza di altri eventi.

P(B): la costante di normalizzazione che consente il calcolo dell'evento a posteriori B.

P(A|B):  posterior → la probabilità che l'evento A si verifichi, dato che si verifica l'evento B.

P(B|A):  likelihood → la probabilità che l'evento B si verifichi se si verifica A.

Con queste informazioni, esploriamo i vantaggi dell'inferenza bayesiana e alcune applicazioni nella vita reale.

Dal nostro tutorial sulla classificazione Naive Bayes con Scikit-learn, imparerai a costruire e valutare un classificatore Naive Bayes usando il pacchetto Scikit-learn di Python.

Vantaggi dell'inferenza bayesiana

L'inferenza bayesiana ha molteplici vantaggi, tra cui:

1. Flessibilità. L'inferenza bayesiana può essere applicata sia a modelli lineari che non lineari e a vari problemi di machine learning come regressione, classificazione, clustering, elaborazione del linguaggio naturale e altro.
2. Più intuitiva. Il passaggio dalla conoscenza a priori a quella a posteriori usando nuovi dati è simile al modo in cui gli esseri umani aggiornano le proprie convinzioni con nuove informazioni, ed è quindi più intuitivo. Per esempio, se qualcuno ha la convinzione a priori che domani nevicherà e controlla le previsioni meteo, modificherà quella convinzione di conseguenza.
3. Interpretabile. Le distribuzioni di probabilità generate sui possibili valori delle previsioni del modello sono facilmente interpretabili, il che può aiutare chi decide a prendere decisioni in base alla propria tolleranza al rischio.

Applicazioni dell'inferenza bayesiana nel Machine Learning

Di seguito alcune applicazioni reali dell'inferenza bayesiana nel machine learning:

1. Rilevamento di frodi con carta di credito. L'inferenza bayesiana può essere applicata per rilevare attività fraudolente. Il processo inizia con una convinzione a priori sulla probabilità che una transazione sia fraudolenta basata su dati storici. Poi, quando diventano disponibili nuovi dati, come l'importo della transazione o la cronologia degli acquisti del cliente, l'informazione a priori viene aggiornata usando il teorema di Bayes per ottenere una probabilità a posteriori della transazione; per determinare se è fraudolenta o meno. 
2. Diagnosi medica. Nelle diagnosi mediche, il teorema di Bayes è usato per analizzare i dati di casi precedenti e stimare la probabilità che un paziente abbia una determinata malattia. L'approccio bayesiano può considerare vari fattori che potrebbero influenzare il risultato e generare stime probabilistiche più spiegabili rispetto a semplici risultati binari.
3. Elaborazione di immagini. L'inferenza bayesiana ha molteplici applicazioni nell'elaborazione di immagini. Per esempio, può essere usata per rimuovere il rumore dalle immagini applicando tecniche come le catene di Markov Monte Carlo e il teorema di Bayes.
4. Elaborazione vocale. Il clustering bayesiano non parametrico (BNC) è utilizzato nelle reti neurali gerarchiche non parametriche per eseguire riconoscimento vocale ed emozionale. Questo processo supera altri modelli allo stato dell'arte su compiti analoghi.

Inferenza causale nel Machine Learning

L'inferenza causale è un approccio statistico utilizzato in AI e machine learning per comprendere le relazioni di causa-effetto tra attributi. 

Per esempio, nel marketing, chi decide può voler capire quale campagna genera il tasso di conversione più alto. Usare l'inferenza causale può aiutare a identificare la relazione causale tra tasso di conversione e campagna di marketing per massimizzare le conversioni. 

Il nostro corso Statistical inference with R può aiutarti a familiarizzare con il set di competenze fondamentali dell'inferenza statistica necessarie per comprendere, interpretare e mettere a punto i tuoi modelli statistici e di machine learning.

Importanza dell'inferenza causale nel Machine Learning

L'inferenza causale è importante nel machine learning per diversi motivi, tra cui previsioni efficienti e fairness. Diamo uno sguardo rapido a ciascuno.

1. Previsione efficiente. In molti casi d'uso di machine learning, l'analisi di correlazione non è sufficiente, perché non implica necessariamente causalità. L'inferenza causale consente ai Machine Learning Engineer di identificare le relazioni causali sottostanti tra variabili, portando a previsioni più accurate.
2. Fairness. Usando l'inferenza causale, il machine learning può aiutare a identificare le cause alla base dei bias in un determinato set di dati. Questo può aiutare chi decide ad adottare azioni appropriate per intervenire sui dati e mitigare il problema dei bias, sviluppando così modelli di machine learning migliori. 

Sfide nell'implementare l'inferenza causale nel Machine Learning

Come altre tecniche nel machine learning, l'implementazione dell'inferenza causale nel machine learning presenta un proprio set di sfide, tra cui, ma non solo, le seguenti: 

1. Grandi quantità di dati di qualità. Per trarre un'inferenza causale valida servono molti dati di qualità. Tuttavia, i dati reali sono disordinati ed è difficile trovare l'approccio perfetto per renderli privi di errori.
2. Interpretabilità. I metodi coinvolti nella stima della causalità sono spesso complessi e richiedono sia una solida competenza statistica sia una conoscenza approfondita del dominio studiato per una migliore interpretazione dei risultati. 
3. Variabili confondenti. Sono variabili correlate sia a quelle indipendenti sia a quelle dipendenti. Questo fattore può distorcere il vero effetto causale di quelle indipendenti, rendendo difficile stimare con precisione l'effetto causale.

Conclusione

Questo articolo ha trattato che cos'è l'inferenza nel machine learning, come differisce dall'addestramento e alcune raccomandazioni chiave da considerare quando si sceglie tra le due. Oltre a evidenziare le inferenze bayesiana e causale, ne ha illustrato anche l'importanza e le sfide nel machine learning. 

È importante ricordare che l'inferenza è imprescindibile perché un modello di machine learning sia utile nella vita reale. Solo tramite l'inferenza i modelli possono essere integrati nelle applicazioni esistenti ed essere usati da aziende e diversi stakeholder per un impatto di business migliore.