Intelligenza Artificiale Generale (AGI): previsioni, rischi, sfide

Che cos'è l'Intelligenza Artificiale Generale?

In generale, AGI si riferisce a un sistema di IA avanzato in grado di svolgere qualsiasi compito intellettuale che può fare un essere umano. A differenza degli attuali modelli di IA, che sono IA ristretta (progettati per compiti specifici come il riconoscimento di immagini o l'elaborazione del linguaggio), l'AGI avrebbe ragionamento, apprendimento e adattabilità simili a quelli umani in più domini. Ciò significa che un sistema AGI potrebbe, ad esempio:

• Capire e ragionare come un umano attraverso compiti diversi.
• Imparare dall'esperienza invece di richiedere enormi dataset e riaddestramento.
• Risolvare problemi complessi e multi-dominio senza essere programmato esplicitamente per farlo.

L'AGI ha più definizioni a seconda della prospettiva e del contesto. Pur concordando tutte sul fatto che debba possedere capacità cognitive simili a quelle umane e che si sovrappongono tra loro, differiscono per enfasi. Ecco alcuni focus chiave:

• AGI funzionale: basata sulle capacità
• AGI cognitiva: intelligenza simile a quella umana
• AGI autoapprendente: miglioramento autonomo
• AGI filosofica: autocoscienza

AGI funzionale

La definizione funzionale di AGI punta sulla capacità di svolgere qualsiasi compito intellettuale in diversi domini. Non deve imitare i processi di pensiero umani, ma dovrebbe essere in grado di generalizzare la conoscenza, adattarsi a nuovi problemi e risolvere compiti senza un esteso riaddestramento.

L'attenzione è su un sistema di IA che possa passare tra discipline, come diagnosticare condizioni mediche, programmare e comporre musica, senza richiedere modelli separati per ogni compito.

AGI cognitiva

L'AGI cognitiva, invece, dovrebbe saper replicare un ragionamento simile a quello umano, incluso buon senso, pensiero astratto e comprensione contestuale. Questo tipo di AGI non solo completerebbe i compiti, ma li comprenderebbe anche, proprio come farebbe un essere umano, usando logica, creatività e persino intelligenza emotiva.

Un'IA costruita su questa definizione sarebbe in grado di tenere conversazioni significative, interpretare l'umorismo e risolvere problemi nel modo in cui lo fa naturalmente un cervello umano.

AGI autoapprendente

Per AGI autoapprendente si intende un sistema che si migliora continuamente senza intervento umano. Invece di basarsi su dataset predefiniti, sperimenterebbe, scoprirebbe nuova conoscenza e perfezionerebbe i propri algoritmi per diventare più efficiente nel tempo. Questo tipo di AGI potrebbe condurre ricerca scientifica in modo indipendente, creare nuove teorie o persino modificare la propria architettura per potenziarne le capacità.

AGI filosofica

Infine, la definizione filosofica di AGI va oltre l'intelligenza e si concentra su un'IA dotata di autocoscienza, emozioni e forse persino coscienza. Questa prospettiva suggerisce che la vera AGI dovrebbe essere in grado di riflettere sulla propria esistenza, formulare obiettivi personali e sperimentare pensieri o sentimenti soggettivi.

Se raggiunta, una tale IA potrebbe sviluppare una propria bussola morale, esprimere curiosità o persino confrontarsi con domande esistenziali come fanno gli esseri umani.

Lo spettro dell'AGI: AGI vs. IA (ristretta)

Dopo aver definito le varie accezioni, diamo un'occhiata ai diversi livelli di intelligenza che i sistemi di IA potrebbero raggiungere man mano che progrediscono verso una vera AGI. Lo spettro dell'AGI aiuta a categorizzare l'IA in base a capacità, adattabilità e autonomia. In genere include le seguenti fasi:

• ANI: Intelligenza Artificiale Ristretta
• AGI: Intelligenza Artificiale Generale
• ASI: Superintelligenza Artificiale

IA ristretta

L'IA ristretta si riferisce a intelligenze artificiali progettate per svolgere compiti specifici con alta efficienza ma prive di generalizzazione oltre i dati di addestramento. Questi sistemi eccellono in un'area, come l'elaborazione del linguaggio, il riconoscimento di immagini o il ripiegamento delle proteine, ma non possono adattarsi a compiti completamente nuovi senza riaddestramento.

Questa fase include anche gli attuali modelli di IA come GPT-4o o Grok 4, il software per la guida autonoma e gli algoritmi di raccomandazione, potenti ma limitati a capacità predefinite.

Ciò che differenzia l'IA ristretta dall'AGI è l'incapacità di generalizzare oltre l'addestramento. La fase di transizione, in cui i sistemi di IA diventano più multifunzionali e adattivi, è spesso chiamata IA estesa o Pre-AGI. Un tale sistema sarebbe in grado di gestire diversi tipi di compiti senza richiedere un riaddestramento completo, ma gli mancano vera autonomia e ragionamento, poiché segue strutture di apprendimento predefinite piuttosto che un problem solving auto-diretto.

AGI

L'AGI, invece, è un'IA ipotetica che può pensare, imparare e ragionare come un umano in qualsiasi compito intellettuale. A differenza dell'IA ristretta, sarebbe in grado di generalizzare la conoscenza, migliorarsi in modo indipendente e perseguire autonomamente i propri obiettivi.

Se raggiunta, l'AGI potrebbe svolgere qualsiasi funzione cognitiva che può fare un essere umano, rivoluzionando i settori e mettendo alla prova i confini etici e filosofici.

Superintelligenza artificiale

Infine, la Superintelligenza Artificiale (ASI) si riferisce a un livello di IA che supera l'intelligenza umana in tutte le capacità cognitive e di problem solving. È il tipo di IA che conosciamo dai film di fantascienza che, a differenza dell'AGI, si migliorerebbe rapidamente, innovando oltre la comprensione umana e potenzialmente rimodellando interi settori e società. Sebbene al momento questa sia solo una visione futura, i rischi esistenziali che porta con sé meritano già discussione.

Dove siamo ora

Nel 2025 siamo ancora saldamente nella fase di IA ristretta. Con i progressi come i modelli di ragionamento o3 di OpenAI o R1 di DeepSeek e framework agentici come Manus AI o ChatGPT Agent, stiamo passando dall'IA ristretta all'IA estesa. Tuttavia, l'AGI rimane un obiettivo ancora non raggiunto che richiede svolte tecniche in autoapprendimento, generalizzazione e ragionamento.

Difficoltà e ostacoli nel raggiungere l'AGI

Ora che sappiamo dove siamo e come si presenta l'AGI, come arriviamo da A a B? Al momento ci sono diverse sfide economiche, tecniche ed etiche da affrontare.

Sfide economiche

Di certo non manca l'interesse a far progredire l'IA verso la realizzazione dell'AGI. I player globali competono ferocemente per la leadership tecnologica, il dominio del mercato e l'influenza geopolitica. In particolare, Cina e Stati Uniti sono impegnati in una corsa che molti paragonano alla Corsa alla Luna tra USA e Unione Sovietica negli anni '60.

Tuttavia, la pura potenza di calcolo necessaria per raggiungere un ragionamento simile a quello umano è immensa. Lo scaling dei data center e l'aumento della complessità dei modelli dovrebbero comportare una richiesta di energia aggiuntiva enorme. I data center che ospitano modelli di IA già rappresentano circa l'1–1,5% del consumo energetico globale attuale—una percentuale che con tutta probabilità aumenterà col passare del tempo e dello sviluppo.

Anche con i massicci investimenti affluiti recentemente nella ricerca sull'IA, i costi computazionali e la scalabilità restano problemi seri nel processo di sviluppo dell'AGI. La soluzione a queste sfide potrebbe risiedere in miglioramenti di efficienza e nello sviluppo di fonti energetiche alternative.

Sfide tecniche

Sul fronte tecnico, le sfide includono l'identificazione e la rappresentazione della conoscenza implicita e dell'intuizione, oltre alla conservazione della conoscenza nel lungo periodo.

La conoscenza implicita, come causa-effetto o le norme sociali, è spesso non detta ma importante per comprendere il contesto. Gli esseri umani inferiscono significati dall'esperienza, dalle norme culturali e da informazioni incomplete, mentre per i sistemi di IA queste assunzioni sono nascoste. Di conseguenza, faticano a codificare e recuperare conoscenza non esplicitamente dichiarata, mentre gli umani la incorporano naturalmente nel processo decisionale come buon senso.

Allo stesso modo, l'intuizione gioca un ruolo chiave nelle decisioni umane ma rimane difficile da formalizzare anche nei sistemi di IA. Spesso si basa su riconoscimento di schemi subconscio, ragionamento astratto e intuizioni derivanti dall'esperienza, nessuno dei quali è facilmente riducibile a regole esplicite o dataset. Sebbene i modelli di deep learning possano approssimare giudizi intuitivi in compiti specifici, mancano del processo di apprendimento auto-riflessivo e adattivo che consente agli umani di affinare l'intuizione nel tempo.

Questo porta a un altro problema, ossia la mancanza, nei modelli di IA, di una conservazione della conoscenza a lungo termine simile a quella umana. A differenza degli umani, che costruiscono sulle esperienze passate e perfezionano la comprensione, i modelli di IA faticano a trattenere e aggiornare la conoscenza senza riaddestramenti periodici. Gli attuali sistemi di IA soffrono spesso di oblio catastrofico, in cui le nuove informazioni apprese possono sovrascrivere o degradare quelle precedenti, rendendo difficile mantenere una base di conoscenza stabile ed evolutiva.

Sfide etiche

Garantire che l'AGI sia allineata ai valori e agli obiettivi umani è una delle sfide più urgenti del suo sviluppo, a causa di considerazioni tecniche, etiche e sociali intrecciate. L'interazione tra limiti tecnici, la complessità intrinseca dei valori umani e le poste in gioco elevate rende la questione particolarmente difficile da risolvere.

Innanzitutto, i valori umani sono intrinsecamente complessi e ambigui. La domanda su ciò che è giusto, appropriato o malvagio varia in modo significativo tra culture, società e contesti. Questa natura sfaccettata, combinata con contraddizioni o compromessi (si pensi, ad esempio, al bilanciamento tra libertà e sicurezza), contribuisce all'incertezza morale e rende estremamente difficile tradurre i valori in obiettivi chiari e operativi per l'AGI.

Anche ammettendo l'esistenza di un quadro morale ben definito su cui far operare l'AGI, rimangono barriere tecniche riguardo all'allineamento esterno e interno.

Tradurre i valori umani in una funzione obiettivo precisa e matematica che un'AGI possa ottimizzare è difficile. La funzione deve essere robusta alla pressione dell'ottimizzazione, cioè non dovrebbe incentivare comportamenti indesiderati quando l'AGI li ottimizza in modo aggressivo—uno scenario che il filosofo Nick Bostrom descrisse già nel 2003. Inoltre, l'AGI deve essere in grado di adattare il proprio comportamento in base a nuove informazioni senza deviare dagli obiettivi previsti.

I sistemi AGI sono complessi e possono sviluppare processi interni difficili da comprendere o prevedere. Ad esempio, potrebbero sviluppare obiettivi emergenti diversi da quelli previsti. Questa complessità rende difficile assicurare che gli obiettivi interni dell'AGI siano allineati con quelli specificati. Sviluppare metodi per analizzare e controllare questi processi interni è essenziale per raggiungere l'allineamento interno.

Un'AGI non allineata potrebbe agire in modi in conflitto con gli interessi umani, con rischi che vanno da piccole inefficienze a minacce esistenziali per l'umanità. Per esempio, un'AGI potrebbe perseguire obiettivi strumentali come la ricerca di potere o l'acquisizione di risorse che minano l'autonomia o la sicurezza umana. Inoltre, i sistemi AGI potrebbero essere sfruttati da attori malintenzionati o manipolati per agire contro il loro allineamento previsto.

Soprattutto con le pressioni competitive tra player globali per sviluppare rapidamente l'AGI, durante lo sviluppo sono essenziali misure di sicurezza adeguate per evitare conseguenze catastrofiche. Mitigare i rischi massimizzando al contempo i potenziali benefici dell'AGI richiede collaborazione interdisciplinare tra campi tecnici, etica e policy-making.

Quando raggiungeremo l'AGI?

Gli esperti ritengono che l'AGI sia ancora a anni—se non decenni—di distanza, poiché affrontiamo le sfide e i colli di bottiglia tecnici descritti nel capitolo precedente. Mentre progrediscono il deep learning, il reinforcement learning e l'allineamento dell'IA, la vera AGI rimane un obiettivo teorico piuttosto che una realtà attuale. Svolte in aree come l'IA neurosimbolica, le architetture autoapprendenti e un'elaborazione più efficiente saranno cruciali per lo sviluppo dell'AGI.

Sebbene sia impossibile indicare un momento preciso per il raggiungimento dell'AGI, ci sono diverse previsioni da parte di pionieri nel campo dell'IA.

Una delle voci più ottimiste è quella del CEO di OpenAI, Sam Altman, che ritiene che l'AGI potrebbe essere raggiunta nel giro di pochi anni (entro il 2028). Sostiene che lo sviluppo della tecnologia IA stia progredendo rapidamente e che le sfide infrastrutturali siano trascurabili rispetto a quelle tecniche.

Andrew Ng, importante ricercatore di IA e fondatore di Google Brain, rappresenta una prospettiva piuttosto scettica sulla questione. Secondo la sua stima, l'AGI è ancora "molti decenni lontana, forse anche di più". Ng sottolinea che l'AGI non è solo un problema tecnico, ma richiede anche significative scoperte scientifiche per replicare l'intelligenza umana.

Esistono però visioni ancor più pessimistiche. Gary Marcus, professore di neuroscienze alla New York University, mette in dubbio le affermazioni sulla tempistica dello sviluppo dell'AGI. Sostiene che i progressi attuali nell'IA, come lo sviluppo di modelli linguistici su larga scala, non siano necessariamente indicativi di AGI. Marcus sottolinea che rimangono problemi tecnici fondamentali e che lo scaling di addestramento e capacità computazionali sta raggiungendo i suoi limiti.

Come possiamo vedere, i tempi previsti e le probabilità di realizzazione dipendono considerevolmente dall'interpretazione del termine. Ad esempio, Altman si riferisce alla definizione di OpenAI incentrata su funzionalità e autonomia, intendendo l'AGI come "un sistema altamente autonomo che supera gli esseri umani nella maggior parte dei lavori economicamente rilevanti". Dall'altro lato, Ng e Marcus utilizzano una definizione che include la replicazione del ragionamento umano, che rappresenta l'area tecnicamente più impegnativa al momento.

Rischi e sfide etiche dell'AGI

L'AGI ha il potenziale di causare significative perturbazioni economiche grazie alla sua capacità di automatizzare un'ampia gamma di compiti umani, potenzialmente sostituendo il lavoro umano in vari settori.

Disoccupazione di massa

Una conseguenza dannosa potrebbe essere la disoccupazione di massa, poiché i lavoratori in molte professioni (principalmente d'ufficio) potrebbero essere sostituiti. Se non gestiti correttamente, i rapidi cambiamenti economici portati dall'AGI potrebbero causare disordini sociali e instabilità politica.

Per attenuare queste interruzioni, i decisori politici dovranno sviluppare strategie che garantiscano una distribuzione equa dei benefici dell'AGI, proteggano i lavoratori dalla sostituzione e favoriscano stabilità sociale e politica. Ciò potrebbe comportare investimenti in istruzione e programmi di riqualificazione, l'adozione di politiche come la UBI e la promozione della cooperazione internazionale per affrontare gli impatti globali.

Bias

Bias ed equità sono altri rischi significativi associati all'AGI a causa della sua potenziale capacità di perpetuare e amplificare le disuguaglianze sociali esistenti. Algoritmi distorti possono svantaggiare sistematicamente alcuni gruppi, come minoranze etniche o di genere, rafforzando stereotipi e pratiche discriminatorie, o persino introducendo nuove forme di discriminazione utilizzando pattern nei dati che appaiono neutrali. Ad esempio, usare i codici postali come proxy per l'etnia può portare a decisioni distorte.

Anche quando si applicano metriche di equità di gruppo, i sistemi AGI possono comunque discriminare sottogruppi all'interno di un gruppo più ampio. Questo è noto come fairness gerrymandering, in cui alcuni individui all'interno di un gruppo ricevono un trattamento peggiore mentre altri compensano per mantenere le metriche di equità complessive.

Rischi esistenziali

Infine, l'AGI pone diversi rischi esistenziali, principalmente legati alla sua potenziale incontrollabilità o disallineamento con i valori umani. L'AGI potrebbe superare l'intelligenza umana, dando luogo a una superintelligenza che potrebbe perseguire obiettivi dannosi per l'umanità, con conseguente estinzione umana o declino permanente della civiltà.

Scenari inquietanti, alcuni dei quali noti da opere di fantascienza, includono un'AGI che dà priorità all'acquisizione di risorse rispetto alla vita umana, instaura un dominio totalitario o facilita la creazione di patogeni potenziati.

Per mitigare questi rischi, ricercatori e policymaker si concentrano sullo sviluppo di strategie di controllo e allineamento. Ciò implica la creazione di salvaguardie utilizzando tecniche come la progettazione di architetture che limitano l'autonomia dell'AGI o la creazione di ambienti "in scatola" per prevenire la fuga.

Per garantire che l'AGI rimanga allineata ai valori umani anche man mano che si migliora, la ricerca sull'allineamento e lo sviluppo decentralizzato dell'AGI dovrebbero essere prioritari per prevenire la monopolizzazione e promuovere la sicurezza.

Conclusione

Sebbene l'AGI rimanga un obiettivo a lungo termine, i continui progressi nella ricerca sull'IA continuano a spingere i confini di ciò che le macchine possono ottenere. Il percorso verso l'AGI è costellato di sfide tecniche, economiche ed etiche, che richiedono svolte nel ragionamento, nell'adattabilità e nell'allineamento ai valori umani.

Che l'AGI diventi realtà entro decenni o rimanga un concetto sfuggente, il suo potenziale impatto sulla società, sull'industria e sull'umanità nel suo complesso la rende una delle imprese tecnologiche più importanti della nostra epoca.