Auto-miglioramento ricorsivo nell’IA: come funziona e perché conta

Nel settembre 2026, il ricercatore Jacob Coxon (che aveva trascorso circa tre anni sulla ricerca di pretraining in OpenAI prima di entrare in Anthropic appena due mesi prima) si è dimesso, avvertendo pubblicamente che i laboratori leader stanno correndo verso quella che ha definito "superintelligenza auto-migliorante" senza agire in modo sufficientemente responsabile rispetto ai rischi. Evan Hubinger, che guida la scienza dell’allineamento in Anthropic, ha concordato pubblicamente che il rischio futuro merita seria attenzione, distinguendolo però da ciò che i sistemi attuali possono effettivamente fare. Il dibattito è entrato rapidamente nel discorso mainstream sull’IA.

Il concetto al centro di quella discussione è auto-miglioramento ricorsivo (RSI). Vale la pena capirlo per quello che è, separatamente dalla controversia, perché l’idea di base è più ampia e chiarificante di qualsiasi singolo ciclo di notizie. Questo articolo spiega cosa significa realmente RSI, come funziona il ciclo di feedback, cosa l’IA di oggi può davvero fare in quella direzione e perché i ricercatori non sono d’accordo su dove porti.

Che cos’è l’auto-miglioramento ricorsivo?

L’auto-miglioramento ricorsivo descrive un ciclo di feedback in cui l’IA contribuisce a creare un’IA più capace, e quell’IA più capace diventa migliore nel contribuire al successivo miglioramento, e così via:

L’IA aiuta a migliorare l’IA → l’IA migliorata diventa migliore a migliorare l’IA → quel sistema contribuisce al prossimo miglioramento → ripeti

Vale la pena separare tre cose che spesso vengono confuse.

• Primo, c’è l’IA usata dagli umani per accelerare la ricerca sull’IA. Questo sta accadendo ora, su larga scala.
• Secondo, c’è una ricerca sull’IA sempre più autonoma, in cui i sistemi si assumono una parte maggiore del flusso di lavoro di ricerca con meno direzione umana.
• Terzo, c’è il pieno auto-miglioramento ricorsivo, in cui i sistemi di IA possono progettare e sviluppare in modo sostanziale i propri successori.

Il pieno RSI è la terza cosa. Nessun sistema di IA attuale lo ha raggiunto in modo conclusivo. È esattamente la linea tracciata dalla stessa Anthropic, che osserva come il pieno RSI non sia stato ancora raggiunto e potrebbe non essere inevitabile. Questa distinzione è anche ciò che rende così acceso il dibattito su Coxon: la discussione non riguarda se l’RSI esista oggi, ma quanto velocemente si stia colmando il divario e cosa questo richieda a chi costruisce questi sistemi.

Come funziona l’auto-miglioramento ricorsivo

Un sistema auto-migliorante, nel senso dell’RSI, contribuirebbe alla pipeline di sviluppo dell’IA stessa. Ciò significa scrivere e migliorare codice di ricerca, progettare esperimenti, generare o filtrare dati di addestramento, valutare le prestazioni dei modelli, identificare debolezze e proporre miglioramenti algoritmici. La parte ricorsiva è importante: se il sistema prodotto da questo processo diventa migliore negli stessi compiti, allora la successiva iterazione dello sviluppo dell’IA potrebbe avvenire più rapidamente o in modo più efficace.

Diagramma che illustra il ciclo di feedback dell’auto-miglioramento ricorsivo attraverso generazioni successive di IA. Immagine dell’autore. 

Non è un modello che riscrive letteralmente i propri pesi in tempo reale. Pensalo come generazioni successive: ogni generazione di IA contribuisce in modo più efficace alla costruzione della successiva. Il ciclo si compone tra versioni, non all’interno di un singolo sistema in esecuzione.

Auto-miglioramento ricorsivo vs. auto-correzione dell’IA

L’errore più comune sull’RSI è confonderlo con l’auto-correzione. Inganna anche chi segue da vicino l’IA, quindi vale la pena essere precisi.

Auto-correzione

L’auto-correzione è quando un modello critica o rivede la propria risposta, il proprio codice o piano durante un compito. Include l’individuazione di un errore nel ragionamento, il debugging del codice appena scritto o il raffinamento di una bozza. Questo accade continuamente nei sistemi attuali.

Auto-miglioramento ricorsivo

L’RSI è categoricamente diverso. I miglioramenti incidono sulle capacità del sistema di IA o dei suoi successori, potenzialmente rendendo più efficace lo sviluppo futuro dell’IA stessa. Un agente che fa debugging ripetuto del proprio codice non è automaticamente auto-miglioramento ricorsivo; è semplicemente un agente capace. La distinzione sta nel fatto che il miglioramento persista e si componga nello sviluppo del sistema successivo.

L’auto-correzione è uno strumento che un sistema usa su un compito. L’RSI è ciò che accade quando il compito è costruire il prossimo sistema.

Auto-miglioramento ricorsivo vs. concetti correlati dell’IA

Aiuta mappare l’RSI rispetto ad altri concetti che spesso compaiono nelle stesse conversazioni, soprattutto da quando il dibattito su Coxon ha portato termini come "superintelligenza" e "singolarità" negli stessi titoli.

RSI vs. ricerca automatizzata sull’IA

L’R&S automatizzata in IA comprende sistemi che eseguono esperimenti, analizzano i risultati e propongono i prossimi passi. Possono contribuire all’RSI senza costituire il pieno RSI. Un sistema che automatizza parti della pipeline di ricerca fa parte della tendenza, non il punto di arrivo. Il divario tra "aiuta nella ricerca" e "sviluppa autonomamente i propri successori" è ciò che conta. Il lavoro pubblicato da Anthropic descrive l’IA che si assume sempre più parti di questa pipeline, motivo per cui le dimissioni di Coxon hanno fatto rumore. Il movimento è reale; la domanda è quanto lontano arriverà.

RSI vs. apprendimento continuo

Apprendimento continuo significa che un modello in produzione si aggiorna con nuove informazioni nel tempo. RSI significa migliorare il processo utilizzato per sviluppare sistemi di IA sempre più capaci. Uno cambia ciò che un modello sa; l’altro cambia quanto sarà capace il prossimo modello.

RSI vs. superintelligenza artificiale

L’RSI descrive un processo. La superintelligenza descrive un livello di capacità ipotizzato. Sono collegati nel senso che l’RSI è un percorso ipotizzato verso la superintelligenza, ma non sono lo stesso concetto, e confonderli annebbia entrambi.

Quando Coxon mette in guardia dalla "superintelligenza auto-migliorante", descrive uno scenario in cui l’RSI produce un sistema che supera il livello umano in vari ambiti. È un’affermazione specifica su ciò che il processo potrebbe alla fine generare, non una descrizione del processo stesso.

RSI vs. singolarità dell’IA

La singolarità dell’IA è un punto ipotetico in cui il miglioramento dell’IA diventa così rapido e auto-sostenuto che gli esseri umani non possono più prevedere o controllare ciò che accadrà dopo. Pensala come il momento in cui la curva diventa verticale: il cambiamento avviene più velocemente della nostra capacità di comprenderlo o rispondervi. L’RSI è uno dei meccanismi proposti per arrivarci. Ma la singolarità è l’esito speculativo, non il processo stesso, e molti ricercatori ritengono che la curva si appiattisca molto prima che accada qualcosa del genere.

Quanto siamo vicini all’auto-miglioramento ricorsivo?

Più vicini di quanto la maggior parte immaginasse qualche anno fa. Non così vicini come suggeriscono certi titoli.

I sistemi di IA sono già coinvolti in coding, debugging, esecuzione di esperimenti, analisi dei risultati sperimentali, valutazione dei modelli e assistenza alla ricerca in IA. Anthropic ha dichiarato pubblicamente che sta delegando una quota crescente del lavoro di sviluppo dell’IA ai sistemi di IA, e che i suoi ingegneri oggi rilasciano sostanzialmente più codice rispetto agli anni precedenti. Allo stesso tempo, Anthropic afferma esplicitamente che gli umani mantengono ruoli importanti nel giudizio di ricerca. Ciò significa decidere quali problemi affrontare e valutare se i risultati significano davvero ciò che sembrano significare.

Un coinvolgimento crescente dell’IA nell’R&S sull’IA è una prova di movimento verso una maggiore automazione. Non è la prova che esista già un ciclo RSI autonomo. Nella pipeline c’è più IA; non si auto-gestisce ancora. Questa ambiguità, progressi reali con un punto d’arrivo poco chiaro, è proprio ciò che Coxon ha ritenuto insufficiente. Le sue dimissioni non erano l’affermazione che l’RSI sia arrivato. Era l’argomento che trattarlo come una preoccupazione lontana non è più difendibile.

Cosa potrebbe accelerare l’auto-miglioramento ricorsivo?

Quindi, cosa servirebbe davvero per colmare quel divario? Spiccano alcuni colli di bottiglia, e la distanza da ciascuno ci dice qualcosa sulla timeline realistica.

Capacità di coding dell’IA

Scrivere e modificare autonomamente codice di ricerca è un prerequisito. I modelli attuali sono davvero bravi in questo, anche se commettono ancora errori che richiedono una revisione umana per il lavoro con impatto.

Sperimentazione automatizzata

Eseguire esperimenti in autonomia è un collo di bottiglia distinto dallo scrivere il codice per eseguirli. Un sistema che sappia progettare un esperimento, eseguirlo, interpretarne i risultati e decidere cosa provare dopo chiude una parte significativa del ciclo. I sistemi attuali sanno fare pezzi di tutto questo. Il ciclo completo, senza che un umano verifichi il ragionamento a ogni passo, è ancora fuori portata.

Gusto di ricerca e generazione di idee

Qui le cose si fanno interessanti. Anthropic identifica specificamente il gusto e il giudizio di ricerca umani come un’area di vantaggio comparativo residua. È sapere quali esperimenti vale la pena svolgere, a quali risultati dare fiducia, quali direzioni hanno potenziale. Gran parte del lavoro sperimentale della ricerca sta diventando automatizzabile. Lo strato di giudizio no. È anche qui che Anthropic ritiene che gli umani aggiungano oggi il valore più insostituibile, e dove la distanza dal pieno RSI resta maggiore.

Valutazione dei modelli

Sapere se un modello è davvero migliorato è più difficile di quanto sembri. La valutazione richiede giudizio su cosa conti, e i benchmark attuali sono facili da aggirare o superare. Finché i sistemi di IA non sapranno valutare in modo affidabile i propri successori, gli umani resteranno nel loop in questa fase, il che è di per sé un freno significativo all’RSI autonomo.

Compute e infrastruttura

La pura capacità non è l’unico vincolo. Eseguire il ciclo di sviluppo in autonomia richiede un’infrastruttura che possa supportare addestramento e valutazione su larga scala senza intervento umano costante, e questo rimane costoso e complesso a livello organizzativo.

Valutazione dei modelli

Sapere se un modello è davvero migliorato è più difficile di quanto sembri. La valutazione richiede giudizio su cosa conti, e i benchmark attuali sono facili da aggirare o superare. Finché i sistemi di IA non sapranno valutare in modo affidabile i propri successori, gli umani resteranno nel loop in questa fase, il che è di per sé un freno significativo all’RSI autonomo.

Revisione umana

Anche se i sistemi di IA sanno scrivere codice, eseguire esperimenti e valutare risultati, sono ancora gli umani ad approvare ciò che viene effettivamente rilasciato. Questo passaggio di revisione è un vincolo rigido sulla velocità del ciclo. Puoi automatizzare il lavoro e comunque essere strozzato dall’approvazione. Finché il giudizio dell’IA non sarà considerato abbastanza affidabile da rimuovere quel filtro, la revisione umana è probabilmente il tetto più immediato ai progressi dell’RSI, non una preoccupazione filosofica sul futuro.

I vantaggi dell’auto-miglioramento ricorsivo

La risposta ha due parti: potenziale vantaggio e rischio serio.

Progresso scientifico e tecnologico più rapido

Se i sistemi di IA possono accelerare la ricerca sull’IA stessa, lo stesso effetto potrebbe estendersi allo sviluppo software, alla scoperta scientifica, alla medicina e all’ingegneria in senso più ampio. L’argomento è che un’IA sufficientemente brava nell’accelerare la ricerca potrebbe comprimere le timeline in molti campi, non solo nell’IA.

Sviluppo più rapido delle capacità dell’IA

Ecco il ragionamento del ciclo di feedback espresso chiaramente: i miglioramenti alla capacità di ricerca sull’IA potrebbero aumentare la velocità con cui avvengono ulteriori miglioramenti dell’IA. Questo effetto composto è ciò che rende l’RSI teoricamente significativo, e ciò che rende ricercatori come Coxon sufficientemente preoccupati da dimettersi. Vale la pena notare: uno sviluppo più rapido delle capacità non produce automaticamente un’esplosione d’intelligenza. Il ciclo potrebbe essere reale e tuttavia lento, limitato o soggetto a rendimenti decrescenti.

I rischi dell’auto-miglioramento ricorsivo

La supervisione umana come collo di bottiglia

Esperimenti, codice e modifiche ai modelli generati dall’IA potrebbero alla fine essere prodotti più velocemente di quanto gli umani possano revisarli in modo significativo. La supervisione che attualmente modella lo sviluppo dell’IA dipende dalla capacità degli umani di tenere il passo con ciò che viene costruito. Questo è uno dei motivi per cui Anthropic sottolinea ancora il ruolo del giudizio umano nella sua pipeline di ricerca, pur automatizzando una parte maggiore del lavoro.

Allineamento e controllo

Sistemi più capaci coinvolti nello sviluppo dei loro successori rendono il problema dell’allineamento più rilevante. Se il sistema che contribuisce alla generazione successiva ha obiettivi sottilmente disallineati, questi potrebbero propagarsi o peggiorare nel successore. È esattamente il rischio su cui Hubinger ha scritto ampiamente, ed è ciò a cui allude quando concorda con la preoccupazione di Coxon sui rischi futuri, pur sostenendo che i sistemi attuali non pongono ancora la stessa minaccia.

Cybersecurity

Sistemi autonomi più capaci ampliano anche la superficie d’attacco. Un sistema coinvolto nella propria pipeline di sviluppo è un bersaglio di maggior valore, e le modalità di guasto diventano più gravi man mano che l’autonomia aumenta. Il contenimento e il controllo degli accessi diventano più difficili da progettare quando il sistema da contenere contribuisce anche a costruire la prossima versione di sé.

Incrementi rapidi di capacità

Se il ciclo di feedback accelera in modo significativo lo sviluppo, le istituzioni potrebbero avere meno tempo per valutare e rispondere a nuove capacità. Anthropic ha affermato che il pieno RSI potrebbe aumentare i rischi di perdita di controllo umano sui sistemi di IA, riconoscendo al contempo che l’RSI non è stato raggiunto né è inevitabile.

Perché l’auto-miglioramento ricorsivo è sulle notizie

Le dimissioni di Jacob Coxon da Anthropic nel settembre 2026 hanno inquadrato la questione in termini urgenti: Anthropic e OpenAI starebbero correndo verso una superintelligenza auto-migliorante senza la dovuta cautela, dati i potenziali esiti. Evan Hubinger ha concordato pubblicamente (stimando personalmente oltre il 10% la probabilità di estinzione umana causata dall’IA entro il decennio e riconoscendo che Anthropic non ha ancora un piano per allineare la superintelligenza) distinguendo però quella preoccupazione futura dal rischio posto dai sistemi attuali. Coxon ha poi affermato che il suo disaccordo principale con la leadership di Anthropic riguarda se una corsa competitiva verso l’RSI sia inevitabile e quindi debba essere seguita.

Quel disaccordo si affianca a una precedente pubblicazione di Anthropic che descrive i progressi verso lo sviluppo dell’IA automatizzato dall’IA, la stessa ricerca che mostra l’IA prendersi una quota maggiore della pipeline di sviluppo. Le due cose sono coerenti tra loro, motivo per cui il dibattito è difficile da liquidare. Non prendere le previsioni di Coxon su esiti catastrofici come fatti assodati. Fanno parte di una discussione in corso, non di una scienza consolidata.

L’auto-miglioramento ricorsivo potrebbe portare a un’esplosione d’intelligenza?

L’argomento teorico è: un’IA migliore porta a una ricerca sull’IA migliore, che porta a un’IA ancora migliore, che porta a un miglioramento più rapido. La logica è pulita. La domanda è se regga in pratica.

Un’accelerazione indefinita non segue automaticamente. I vincoli reali includono compute, energia, hardware, dati di addestramento, colli di bottiglia algoritmici, cicli di feedback sperimentali, rendimenti decrescenti e dipendenza residua dal giudizio umano. Un’esplosione d’intelligenza è un’ipotesi dibattuta su ciò che un RSI sufficientemente efficace potrebbe produrre, non una definizione dell’RSI stesso. È uno scenario nella distribuzione, non l’esito ovvio. Nessuno, compresi i ricercatori di Anthropic che ci riflettono più a fondo, sa quanto ripida diventi la curva o dove si appiattisca.

Come potrebbe essere governato l’auto-miglioramento ricorsivo?

Questa incertezza rende la governance sia più urgente che più difficile. La sfida centrale è preservare una supervisione significativa se la ricerca generata dall’IA dovesse iniziare a superare la revisione umana. Le proposte e le aree di ricerca attive includono valutazioni delle capacità prima del deploy, approcci di contenimento dei modelli, controlli di accesso ai sistemi di IA coinvolti nello sviluppo dell’IA, monitoraggio dell’attività di R&S in IA, requisiti di approvazione umana per azioni rilevanti, valutazione indipendente e coordinamento tra i laboratori di frontiera sull’IA.

Nessuna di queste è una soluzione completa, e il dibattito su Coxon evidenzia il perché: i framework di governance progettati per il livello attuale di coinvolgimento dell’IA nella pipeline potrebbero non scalare a quello di domani. Il divario tra dove sono gli strumenti e dove è diretta la tecnologia è parte di ciò che rende questo momento davvero significativo per chi ci lavora più da vicino.

Conclusione

L’auto-miglioramento ricorsivo descrive un ciclo di feedback in cui l’IA contribuisce a creare un’IA più capace, che poi può diventare migliore nel contribuire a successivi miglioramenti. Semplice da enunciare, davvero incerto da valutare.

Lo sviluppo assistito dall’IA di oggi è reale e in crescita, come chiarisce la stessa ricerca di Anthropic. Il pieno RSI autonomo, in cui i sistemi di IA progettano e sviluppano in modo sostanziale i loro successori senza direzione umana, non è stato raggiunto. Anthropic stessa mantiene quella linea. Il divario tra queste due cose è dove vivono tutte le domande interessanti e controverse: quanto velocemente si sta chiudendo, cosa succede se si chiude e chi decide la velocità con cui muoversi?

Lo scambio Coxon-Hubinger non ha creato queste domande. Ha reso impossibile trattarle come teoriche. Che tu trovi allarmante la timeline di Coxon o più misurata l’impostazione di Anthropic, la dinamica di fondo è la stessa: l’IA è sempre più dentro il loop che costruisce l’IA. Capire cosa significa, chiaramente e senza hype in un senso o nell’altro, è il motivo per cui vale la pena conoscere l’RSI.