Programma
Nozioni di base sull'intelligenza artificiale
10 ore
I buoni algoritmi di IA si basano su dati di alta qualità. Nonostante la matematica complessa alla base di questi algoritmi, il vero superpotere dell'IA risiede nei dati.
Senza dataset accurati, affidabili e completi, i sistemi di IA non raggiungono il loro potenziale — come dicono i professionisti, «Garbage in, garbage out». Gran parte della magia dell'IA sta nella qualità dei dati, motivo per cui si pone grande enfasi sull'importanza del data labeling.
In questo articolo approfondiremo:
- Che cos'è il data labeling
- Perché il data labeling è necessario per l'IA
- Tecniche di data labeling
- Le sfide del data labeling
- Le migliori pratiche di data labeling
Capire il data labeling
Il data labeling è il processo di identificazione e tag dei campioni di dati, tipicamente usati per addestrare modelli di machine learning (ML). In altre parole, il data labeling fornisce ai modelli di ML il contesto da cui imparare.
Per esempio, un dataset etichettato può indicare se una persona è idonea a un prestito, cosa ha detto in una registrazione audio o se una radiografia contiene un tumore.
Il data labeling nell'IA ha vari utilizzi. I casi d'uso più generali includono:
- Image labeling: identificare e taggare dettagli specifici in un'immagine.
- Annotazione del testo: assegnare etichette a un documento di testo o a diversi elementi del suo contenuto per identificare le caratteristiche delle frasi.
- Trascrizione audio: convertire il parlato in un file audio in testo scritto.
- Annotazione video: etichettare o taggare clip video usati per addestrare modelli di computer vision a rilevare o identificare oggetti.
Perché il data labeling è necessario per l'IA
Poiché molti dei casi d'uso più pratici del machine learning utilizzano il machine learning, il data labeling gioca un ruolo significativo nel campo dell'IA.
L'apprendimento supervisionato è un ramo del machine learning che sfrutta dataset etichettati per addestrare modelli a prevedere risultati e riconoscere schemi. Senza dati etichettati, la maggior parte dei modelli di ML supervisionati non è in grado di apprendere le mappature input-output necessarie per prendere decisioni e generalizzare a nuovi casi.
Una volta che a un algoritmo di apprendimento supervisionato viene fornito un dataset etichettato, è pronto per intraprendere il processo di apprendimento degli schemi sottostanti nei dati, noto come addestramento del modello.
Se i dati non sono etichettati correttamente, il modello imparerà schemi errati. Pertanto, la qualità del modello di ML usato per l'addestramento dipende fortemente dall'accuratezza dell'etichetta di verità a terra assegnata durante il data labeling.
Etichettando correttamente i campioni di dati, si offre al modello di machine learning una buona opportunità di apprendere schemi altamente significativi per effettuare previsioni di migliore qualità.
Tecniche e strumenti di data labeling
Una delle prime decisioni che i responsabili di progetto devono prendere quando avviano un nuovo progetto di IA è come verranno etichettati i dati. Sebbene esistano alcune sfumature, le loro decisioni rientrano spesso in una di tre categorie.
- Data labeling manuale
- Data labeling semi-automatico
- Data labeling automatico
Identificare quale approccio di data labeling sia più efficace per il progetto in questione dipende dalla comprensione di ciascun approccio, inclusi pro e contro.
Data labeling manuale
La tecnica standard per sviluppare un dataset di addestramento è il data labeling manuale. Consiste nello sfruttare l'esperienza sul dominio per esaminare ogni punto dati e assegnargli manualmente un'etichetta.
Il data labeling manuale è estremamente efficace negli scenari in cui la conseguenza di un errore è elevata. Per esempio, chiedere a un gruppo di medici di etichettare a mano immagini a raggi X per sviluppare un modello che predica la presenza di cancro garantisce dati più affidabili.
Pro:
- Capacità di catturare i casi limite
- Etichette precise e coerenti grazie a labeler altamente qualificati
- Migliore garanzia di qualità dei dati
Contro:
- Richiede molto tempo e impegno
- Costi elevati associati all'assunzione di labeler professionisti
Nota che l'etichettatura manuale può essere svolta anche esternamente (ad esempio, lavoratori temporanei e consulenti), pratica nota come crowdsourcing.
Data labeling semi-automatico
Combinare i punti di forza dell'esperienza umana e l'efficienza delle macchine è noto come data labeling semi-automatico.
In particolare, l'etichettatura semi-automatica definisce il processo di etichettatura dei dati sfruttando il machine learning per etichettare rapidamente i dati e coinvolgendo poi labeler umani per rivedere e correggere gli errori commessi dall'algoritmo.
Questo processo accelera significativamente il data labeling mantenendo la qualità dei dati. Esempi di strumenti che lo rendono possibile includono Labelbox e SuperAnnotate.
Pro:
- Esperti umani possono intervenire dove le macchine non arrivano
- Può comportare una notevole riduzione di costi e tempi rispetto al data labeling manuale
Contro:
- Può introdurre rumore, ambiguità e incoerenza perché le etichette originali potrebbero non essere state abbastanza precise, pertinenti o complete per i dati.
- La quantità di supervisione, feedback e iterazioni umane necessarie può influire su scalabilità ed efficienza dei dati.
Data labeling automatico
Il data labeling automatico si ha quando i labeler umani sono completamente esclusi dal processo. Nei sistemi automatici, i modelli di machine learning si auto-addestrano: ricavano le regole di etichettatura dai campioni di dati e le applicano alle istanze non etichettate.
Pro:
- Velocità di elaborazione estremamente elevate
- Conveniente
- Coerenza nell'etichettatura
- Altamente scalabile
Contro:
- Problemi con l'etichettatura di dati mai visti
- Un errore di etichettatura può aumentare la probabilità di errori futuri.
Confronto tra tecniche di data labeling
Nella tabella seguente, abbiamo confrontato le varie tecniche di data labeling sulla base delle informazioni sopra:
|
Tecnica di etichettatura |
Descrizione |
Pro |
Contro |
|
Data labeling manuale |
Sfruttare l'esperienza sul dominio per esaminare manualmente e assegnare etichette a ogni punto dati. |
- Cattura i casi limite - Etichette precise e coerenti - Migliore garanzia di qualità dei dati |
- Dispendiosa in termini di tempo- Costi elevati - Richiede un notevole sforzo umano |
|
Etichettatura semi-automatica |
Combina etichettatura automatica e supervisione umana per correggere gli errori, usando strumenti come Labelbox e SuperAnnotate. |
- Riduce tempi e costi rispetto all'etichettatura manuale - Gli esperti umani correggono gli errori delle macchine |
- Potenziale di rumore e incoerenza - Richiede significativa supervisione umana - Feedback e iterazioni sono necessari |
|
Data labeling automatico |
I modelli di machine learning si auto-addestrano per etichettare i dati automaticamente, senza intervento umano. |
- Estremamente veloce - Conveniente - Etichettatura coerente - Altamente scalabile |
- Difficoltà con dati non visti - Un errore può propagare errori futuri |
Sfide e considerazioni nel data labeling
Il processo di etichettatura dei dati presenta diverse sfide che possono incidere significativamente sulle prestazioni e l'affidabilità dei sistemi di IA.
Scalare il data labeling per grandi dataset
Il data labeling manuale diventa praticamente infattibile man mano che il dataset cresce. Ciò è dovuto ai costi che aumentano esponenzialmente per pagare i labeler e ai tempi poco pratici richiesti dal compito.
In questi casi, il data labeling automatico è una necessità. Tuttavia, anche l'etichettatura automatica presenta sfide proprie, come gestire vari tipi di dati e applicare uno schema di etichettatura coerente.
Gestire dati non strutturati e rumorosi
I dati del mondo reale sono raramente organizzati. Spesso sono pieni di rumore e possono essere carenti di informazioni chiave. A volte possono essere del tutto irrilevanti. Prima dell'effettivo processo di data labeling, è necessaria un'ampia pre-elaborazione per portare i dati in un formato utilizzabile.
Immagine creata dall'autore con Midjourney
Anche se questo aggiunge tempo al progetto, è un aspetto necessario, poiché labeler ad alto rischio possono essere fuorviati da dati disordinati, con conseguente assegnazione di etichette inaccurate.
Il punto principale è che la pulizia e la pre-elaborazione dei dati sono parti necessarie della pipeline di data labeling, ma sono attività difficili di per sé.
Implicazioni sui costi e vincoli di budget
Uno dei metodi più utilizzati per etichettare i dati è il data labeling manuale. Sebbene consenta ai team di IA di sfruttare la conoscenza di esperti del dominio, rilevare i casi limite e fornire etichette coerenti, può anche essere un processo lungo e faticoso.
Immagine creata dall'autore con Midjourney
Come accennato sopra, i costi associati all'assunzione di labeler umani qualificati crescono con l'aumentare della dimensione dei dati. Questo processo non è facilmente scalabile.
Ambiguità e soggettività
Un ostacolo significativo nel data labeling è la soggettività e l'ambiguità di particolari attività di etichettatura. I labeler possono interpretare la stessa scena in modo diverso, portando, per esempio, ad annotazioni incoerenti nei compiti di riconoscimento delle immagini.
Questa discrepanza può compromettere la qualità dei dati etichettati e introdurre rumore, riducendo la robustezza e l'accuratezza del modello di IA.
Applicazioni reali del data labeling
Abbiamo stabilito che il data labeling è fondamentale per consentire ai modelli di machine learning di funzionare in modo efficace.
Ecco alcune applicazioni reali per illustrare dove il data labeling può essere impiegato:
- Veicoli autonomi: Il data labeling è essenziale per addestrare veicoli autonomi e a guida autonoma. Tali veicoli sono in grado di rilevare e reagire a oggetti, pedoni, segnali stradali e altri elementi grazie a dati etichettati provenienti da sensori, telecamere e sistemi Lidar, garantendo un funzionamento sicuro e affidabile.
- Sanità: Il data labeling è cruciale per diverse applicazioni nel settore sanitario. L'etichettatura di immagini mediche aiuta nella diagnosi e nella pianificazione del trattamento riconoscendo tumori o anomalie in risonanze magnetiche e radiografie. Le cartelle cliniche elettroniche sono supportate da dati dei pazienti annotati, che aiutano i professionisti sanitari nel processo decisionale.
- eCommerce: I sistemi di raccomandazione dei prodotti nell'e-commerce si basano fortemente sul data labeling. Si tratta di comprendere il comportamento dei consumatori, le preferenze e le descrizioni dei prodotti. Un'etichettatura corretta aumenta il coinvolgimento degli utenti e le vendite fornendo consigli sui prodotti pertinenti.
- Social media: Il data labeling è alla base della moderazione dei contenuti sui social media. I contenuti ritenuti offensivi o dannosi vengono segnalati in post e commenti. Il risultato è un web più sicuro e più facile da usare.
- Servizi finanziari: I dati transazionali etichettati sono usati nei servizi finanziari per la valutazione del rischio e il rilevamento delle frodi. Il data labeling protegge consumatori e istituzioni finanziarie aiutando a valutare accuratamente il rischio e a identificare schemi insoliti di potenziale attività fraudolenta.
- Traduzione linguistica: L'etichettatura di dati testuali è utilizzata dai servizi di traduzione per facilitare traduzioni precise. I modelli di traduzione automatica migliorano accuratezza ed efficacia grazie all'addestramento con dataset di traduzioni etichettati.
Best practice per progetti di data labeling
In questa sezione, discuteremo alcune buone pratiche per aiutare i team di IA a raggiungere qualità, coerenza ed efficienza nel loro processo di data labeling.
Definisci linee guida di etichettatura chiare e specifiche
Le linee guida di etichettatura sono istruzioni che specificano come i dati devono essere etichettati. Per esempio, prima di etichettare le immagini, i team di IA dovrebbero specificare cosa costituisce un campione che rientra in una determinata categoria, come gestire immagini parziali o oscurate e come etichettare oggetti non importanti o di sfondo.
Con il supporto di linee guida precise e dettagliate, si può aumentare l'accuratezza e l'affidabilità dei dati etichettati e ridurre la soggettività e la variabilità del processo di etichettatura.
Forma e monitora i labeler
I labeler devono essere formati e monitorati per garantire che seguano le linee guida e producano etichette di alta qualità. Applicare queste pratiche aiuta a mantenere coerenza e qualità nel data labeling.
La formazione include fornire ai labeler informazioni di background, esempi, feedback e supporto per aiutarli a comprendere efficacemente il compito di etichettatura. Il monitoraggio, invece, consiste nel misurare e valutare le prestazioni dei labeler in termini di accuratezza, velocità, accordo e tassi di ritenzione, e nell'affrontare eventuali ostacoli che possono emergere durante il processo.
Valida e migliora le etichette
I dati etichettati devono essere convalidati al termine del processo di data labeling per assicurarsi che soddisfino le esigenze e le aspettative del team di IA — in caso contrario, vanno migliorati.
La convalida prevede l'esame di accuratezza, completezza, diversità, copertura e coerenza dei dati etichettati, nonché l'affidabilità e l'accordo tra i labeler. Questa pratica consente di distinguere i dati utili da quelli non utili e di determinare la robustezza e le prestazioni dei modelli di machine learning.
Considerazioni etiche nel data labeling
Per garantire procedure imparziali ed eque, è fondamentale comprendere le questioni etiche legate al data labeling.
Individuare e risolvere eventuali bias, comprendere l'impatto dei dati distorti sugli algoritmi di machine learning ed esaminare questioni etiche come consenso, privacy e giustizia sono tutti passaggi essenziali per sviluppare pratiche di data labeling responsabili ed etiche.
Dare priorità all'etica dei dati durante il data labeling è essenziale per creare sistemi di IA più equi e affidabili.
Privacy
Una delle implicazioni etiche del data labeling è la privacy. Bisogna prestare attenzione quando si annotano dati sensibili, come nomi e indirizzi. Devono essere in atto procedure di consenso adeguate, poiché le persone devono poter fornire un consenso informato all'etichettatura e al successivo utilizzo dei loro dati.
Bias
Quando i bias vengono introdotti durante il processo di data labeling, l'integrità e l'equilità dei dataset etichettati possono essere compromesse. Questo problema può derivare dai pregiudizi dei labeler, che scaturiscono da concezioni preesistenti su genere, etnia o condizione socioeconomica degli individui.
Poiché questi bias possono distorcere i dati etichettati, è più probabile che discriminazione e disuguaglianze persistano.
Dati distorti etichettati senza considerare aspetti etici possono influire negativamente sulle prestazioni e sui risultati degli algoritmi di machine learning. I pregiudizi e le discriminazioni presenti nella società rischiano di essere riflessi e amplificati da algoritmi addestrati su informazioni inaccurate.
Equità
L'etichettatura equa è un'altra questione etica — significa trattare tutte le persone e i gruppi allo stesso modo. Se si ascolta un'ampia gamma di opinioni, si mettono in discussione gli stereotipi e si considerano idee nuove, l'etichettatura ingiusta può essere evitata o ridotta al minimo.
Bisogna considerare attentamente i possibili effetti delle decisioni di etichettatura sulle diverse comunità e affrontare eventuali pregiudizi o trattamenti ingiusti.
Conclusione
Il data labeling è un passaggio essenziale per creare modelli di machine learning ad alte prestazioni. Anche se dall'esterno può sembrare semplice, metterlo in pratica è una sfida complessa. Le aziende devono oggi valutare una varietà di variabili e tecniche per decidere quale strategia di etichettatura sia migliore. Poiché ogni metodo ha vantaggi e svantaggi, si raccomanda una valutazione approfondita della complessità del compito, insieme a dimensione, ambito e durata del progetto.
Puoi continuare a imparare sull'IA e sull'importanza del data labeling con altre risorse di DataCamp:
Argomenti
