Promuovere un'IA responsabile: moderazione dei contenuti in ChatGPT

Il primo utilizzo documentato del termine intelligenza artificiale risale a una conferenza accademica del 1956, in un intervento di John McCarthy, in cui si faceva riferimento alla simulazione dell'intelligenza umana da parte delle macchine. Per questo, spesso viene considerato uno dei padri fondatori dell'IA.

Ma il vero percorso per capire se le macchine possono pensare è iniziato molto prima. Infatti, nel 1950, il matematico inglese Alan Turing pubblicò un articolo intitolato Computing Machinery and Intelligence per proporre un test che determinasse se un computer è in grado di pensare.

Oggi, le domande sull'Intelligenza Artificiale (IA) sono diverse. La tecnologia è cresciuta in popolarità grazie all'aumento dei volumi di dati che produciamo, ad algoritmi avanzati e a significativi miglioramenti della potenza di calcolo. Siamo arrivati a un punto in cui è ragionevole considerare le questioni etiche e sociali sollevate dall'uso di questi strumenti.

Se da un lato la tecnologia IA può migliorare efficienza e produttività, dall'altro ha anche la capacità di generare contenuti dannosi, incorporare bias e violare la privacy dei dati. Questo ha dato il via a conversazioni interessanti sulla pratica del costruire un'IA in modo responsabile, in modo da responsabilizzare i dipendenti, avere un impatto positivo sui clienti e consentire alle aziende di scalare l'IA in modo etico.

L'evoluzione di ChatGPT e la moderazione dei contenuti

Uno dei progressi dell'IA più discussi nella cultura pop è ChatGPT. ChatGPT è un chatbot IA sviluppato da OpenAI per emulare interazioni simili a quelle umane con gli utenti.

ChatGPT, che ha detenuto per alcuni mesi il titolo di servizio online adottato più rapidamente dopo aver raggiunto un milione di utenti in cinque giorni, ha attraversato diverse iterazioni dalla sua prima uscita nel giugno 2018.

All'epoca, il modello si chiamava Generative Pre-trained Transformer 1 (GPT-1). Fu il primo large language model (LLM) sviluppato da OpenAI, in risposta all'invenzione di Google dell'architettura transformer nel 2017. Questo modello ha posto le basi di ChatGPT come lo conosciamo oggi, ma ci sono state ulteriori iterazioni prima di arrivarci.

Ad esempio, nel 2019 OpenAI ha rilasciato il più potente modello GPT-2. Gli aggiornamenti erano focalizzati sul miglioramento delle capacità di comprensione del linguaggio del modello, il che ha comportato l'addestramento su un dataset molto più ampio e la messa a punto dell'accesso per consentire agli utenti di personalizzare il modello per il proprio caso d'uso specifico. Poco dopo, nel 2020, è arrivato GPT-3.

ChatGPT è oggi considerato uno dei modelli linguistici più potenti disponibili al momento della stesura. Ha la capacità di svolgere compiti di elaborazione del linguaggio naturale come traduzione, completamento del testo, risposta alle domande e generazione di testo.

Ma questo non significa che sia privo di problemi.

Il potere e i limiti di ChatGPT

ChatGPT come lo conosciamo oggi si basa sull'architettura GPT-3.5, con gli abbonati a pagamento che hanno accesso a GPT-4. La principale differenza sta nel dataset utilizzato e nel fatto che è stato ottimizzato per casi d'uso conversazionali, per offrire agli utenti un'esperienza più personalizzata quando interagiscono con il modello tramite un'interfaccia di chat.

Questi cambiamenti hanno migliorato l'efficienza della comunicazione tra esseri umani e programmi informatici. Hanno anche migliorato drasticamente il modo in cui le informazioni vengono elaborate, fruite e l'esperienza del cliente.

Ma non è privo di difetti. Diversi dibattiti hanno recentemente fatto luce sul potenziale di ChatGPT di generare risposte inappropriate o di parte. La nostra guida sull'etica dell'IA generativa approfondisce questi aspetti.

Il problema affonda le radici nel modo in cui è stato costruito ChatGPT: l'LLM è stato addestrato usando gli scritti collettivi di individui con background diversi. Sebbene questa diversità aiuti il modello nella comprensione, ha anche il potenziale di introdurre pregiudizi e distorsioni nel lavoro che genera.

La necessità di una moderazione attiva

Per moderazione attiva dei contenuti si intende il processo di revisione e monitoraggio dei contenuti generati dagli utenti. L'obiettivo è assicurarsi che i contenuti generati dagli utenti rispettino determinati standard e linee guida, proteggendo il tuo brand dall'essere associato a elementi negativi e gli utenti dal vedere contenuti potenzialmente offensivi.

Ad esempio, un aspetto della moderazione attiva dei contenuti prevede la rimozione di contenuti inappropriati dalle piattaforme, mentre un altro comporta l'applicazione delle linee guida della community per prevenire fenomeni come il bullismo.

Meccanismi di moderazione dei contenuti di ChatGPT

OpenAI ha riconosciuto la minaccia posta dai contenuti generati dagli utenti (ad esempio, danneggiare la reputazione dell'applicazione, causare danni agli utenti, ecc.) ed è intervenuta rapidamente per fornire uno strumento in grado di prevenire contenuti inappropriati provenienti da un modello linguistico o dall'utente.

Questo strumento è racchiuso nella Moderation API, che consente agli sviluppatori di verificare i propri contenuti rispetto alle politiche d'uso di OpenAI. Queste politiche mirano a eliminare un linguaggio inappropriato, come:

• Discorso d'odio
• Linguaggio minaccioso
• Molestie
• Autolesionismo (intenzioni o istruzioni)
• Contenuti grafici (inclusi pornografia e violenza)

Tuttavia, è anche possibile che modelli come ChatGPT emettano output faziosi o inaccurati quando influenzati da input degli utenti non filtrati. Pertanto, vengono implementate misure di controllo per impedire al modello di diffondere accidentalmente informazioni false.

I contenuti sono quindi controllati su due fronti:

Controllo dell'input utente

Tecniche per monitorare, filtrare e gestire i contenuti generati dagli utenti; l'obiettivo è consentire alle aziende di mantenere integrità, sicurezza e standard morali quando sviluppano applicazioni LLM.

Controllo dell'output del modello

Queste politiche e procedure rendono possibile tenere traccia e filtrare le risposte che il modello genera quando interagisce con gli utenti; consentono agli sviluppatori di affrontare potenziali problemi relativi all'output del modello, come i bias.

L'implementazione del controllo in input e in output trasferisce le responsabilità etiche degli LLM sull'azienda; diventa responsabilità dell'azienda garantire che gli utenti abbiano un'esperienza positiva con i loro prodotti e servizi e assicurarsi che l'IA venga utilizzata in modo responsabile.

Metodi di moderazione dei contenuti

Esistono sei tipi comuni di moderazione:

Pre-moderazione

Prima che un contenuto sia reso visibile al mondo, deve essere controllato. Questo è chiamato pre-moderazione. Il vantaggio della pre-moderazione è che i contenuti ritenuti inadatti o indesiderabili per una piattaforma online possono essere vietati prima che causino danni.

È una scelta di moderazione estremamente popolare per le community online rivolte a un pubblico più giovane. Tuttavia, molti ritengono che uccida la natura di gratificazione istantanea delle community online, dal momento che i contenuti devono essere approvati prima di essere condivisi.

Post-moderazione

L'opposto della pre-moderazione è la post-moderazione. Dal punto di vista dell'esperienza utente, questa tende a essere preferita poiché significa che i contenuti possono essere pubblicati immediatamente dopo l'invio, prima di entrare in coda per essere moderati.

Il principale vantaggio di questo approccio è che gli utenti possono comunicare in tempo reale, ma il costo può diventare proibitivo poiché gli operatori del sito web, che sono gli editori legali dei contenuti, sono responsabili di ciò che viene mostrato sulla loro piattaforma: più persone vedono contenuti distruttivi, maggiori sarebbero i danni qualora il caso finisse in tribunale.

Moderazione reattiva

Un'altra opzione è mettere il potere nelle mani dei membri della community. Questo significa che gli utenti possono segnalare contenuti che violano le regole o membri che si comportano in modo inappropriato.

È comune vedere la moderazione reattiva utilizzata contemporaneamente alla pre- o post-moderazione come ulteriore rete di sicurezza per i contenuti che sfuggono ai moderatori. Il grande vantaggio di questo approccio è che può scalare con la crescita della community senza gravare ulteriormente sulle tue risorse.

Moderazione distribuita

La moderazione distribuita è una forma rara di filtraggio dei contenuti. Si basa su un sistema di valutazione che i membri della community utilizzano per votare se un contenuto sia conforme alle linee guida della community.

Le aziende tendono a evitare di attribuire ai membri della community l'onere dell'auto-moderazione, poiché comporta rischi legali e di branding.

Moderazione automatizzata

Con l'aumento dei contenuti generati dagli utenti, cresce anche la complessità per i moderatori umani nel gestire il carico. Non solo è difficile per le persone analizzare manualmente enormi quantità di contenuti, ma è anche demoralizzante: nessuno va al lavoro entusiasta di esaminare una pila di contenuti angoscianti.

Aggiungere la moderazione automatizzata a quella gestita da esseri umani è una soluzione estremamente utile. Consiste in vari strumenti tecnici, come i filtri per le parole, per rifiutare e approvare i contenuti inviati.

Nessuna moderazione

I moderatori di contenuti probabilmente sconsiglierebbero l'approccio senza moderazione. Tuttavia, capiscono anche che potrebbero esserci buone ragioni per cui alcune persone scelgono di non moderare i contenuti nella propria community.

Ad esempio, forse non ci sono risorse sufficienti per farlo, oppure la nozione di "libertà di espressione" è ciò che la tua community cerca di abbracciare. In sostanza, rinunciare alla moderazione significa rinunciare al controllo, lasciando le piattaforme vulnerabili, il che in genere è uno svantaggio per i nuovi utenti.

Moderazione dei contenuti nel mondo reale

La maggior parte delle piattaforme di oggi, come Facebook e YouTube, sfrutta la moderazione automatizzata dei contenuti per bloccare determinati tipi di contenuti. Questo comporta tipicamente l'uso dell'IA con l'obiettivo specifico di migliorare gli sforzi di moderazione e potenziare l'esperienza utente sulle loro piattaforme.

Tuttavia, sebbene sia possibile per l'IA rilevare contenuti inappropriati e farsi carico della maggior parte del lavoro noioso solitamente assegnato agli esseri umani, presenta dei limiti. Le macchine spesso tendono a sorvolare su sfumature importanti come disinformazione, bias e discorsi d'odio, il che significa che eliminare completamente i moderatori umani non è ideale.

In altre parole, la moderazione automatizzata basata sull'IA è spesso abbinata alla moderazione umana per garantire che le piattaforme siano sicure per gli utenti e che il brand resti integro. Ecco alcuni esempi reali:

Contenuti abusivi

Twitter (ora X) è stata oggetto di forti critiche per non essere riuscita a rispondere in modo efficiente alle molestie online. Tuttavia, dal passaggio di proprietà a Elon Musk, l'azienda ha puntato molto sull'automazione per moderare i contenuti. Il risultato sono strumenti come il Quality filter, che utilizza tecniche come l'elaborazione del linguaggio naturale per limitare la visibilità dei contenuti di bassa qualità.

Contenuti per adulti

YouTube ha una politica rigorosa contro la nudity e i contenuti sessuali; gli utenti rischiano la chiusura del canale se li pubblicano. Il modo in cui individuano tali contenuti è duplice: moderazione automatizzata e reattiva.

Nell'approccio automatizzato, Google utilizza algoritmi che sfruttano tecniche come la computer vision per verificare la presenza di nudity. Se però il contenuto sfugge ai loro algoritmi, YouTube fa affidamento sugli spettatori per contrassegnarlo come inappropriato affinché venga esaminato.

Contenuti falsi e fuorvianti

Instagram si affida all'IA e a moderatori umani per individuare, rivedere e intervenire sui contenuti che diffondono informazioni fuorvianti – questo è stato particolarmente evidente durante l'epidemia di Covid.

Secondo l'Help Centre di Instagram, «L'IA di [Instagram] può rilevare e rimuovere i contenuti che violano le nostre Linee guida della community prima che chiunque li segnali. Altre volte, la nostra tecnologia invia i contenuti ai team di revisione umani per un'analisi più approfondita e una decisione».

Conclusione

Passando dalle teorie fondative di Turing e McCarthy alle applicazioni pratiche di ChatGPT, il panorama etico dell'IA è diventato sempre più complesso. Sebbene tecnologie come ChatGPT offrano un potenziale trasformativo, pongono anche sfide etiche, tra cui moderazione dei contenuti e bias.

La Moderation API di OpenAI è un passo importante verso un'IA responsabile, ma non è una soluzione valida per tutti. Aziende e sviluppatori condividono la responsabilità etica di implementare un approccio multifaccettato alla moderazione, combinando sistemi automatizzati con supervisione umana. Esempi reali di piattaforme come Twitter e YouTube dimostrano l'efficacia di questo modello ibrido.

Per chi vuole approfondire l'IA responsabile, abbiamo diverse risorse utili, come un podcast sul futuro dell'IA responsabile, un webinar sulla valutazione dei modelli di machine learning in Python e un corso sull'etica dell'IA.

La gestione etica dell'IA è uno sforzo collettivo che richiede un'attenta vigilanza da parte di tutti gli stakeholder. Man mano che spingiamo i confini delle capacità dell'IA, spingiamo anche per l'integrità etica per garantire che la tecnologia sia una forza per il bene.