Model collapse: la trappola dell’addestramento ricorsivo
Il Model Collapse non è un errore tecnico ma il fallimento strutturale di un sistema che, nutrendosi dei propri scarti, sta erodendo la variabilità cognitiva necessaria per l’innovazione reale.
Il web sta diventando una camera dell’eco sintetica dove oltre il 50% dei nuovi contenuti in lingua inglese è generato da AI, creando un feedback loop pericoloso. Mentre le aziende corrono verso l’efficienza dei dati sintetici, i modelli di nuova generazione mostrano segni di un declino qualitativo che minaccia la loro stessa utilità futura.
Il declino cognitivo dei modelli
Il problema fondamentale è matematico: se un modello si addestra sui dati prodotti da un altro modello, finisce per convergere verso una media statistica priva di sorprese. In gergo tecnico, perdiamo la varianza. La perplexity — la metrica che misura quanto un modello è “sorpreso” da un testo, e quindi quanto è in grado di generare contenuto originale e coerente — crolla vertiginosamente.
I dati sono chiari: sono stati osservati 20-28 punti di peggioramento nella perplexity dopo appena 5 epoche di auto-addestramento puramente sintetico (Digital Applied, Maggio 2026). Non è un problema di potenza di calcolo, è un problema di “dieta”. Immaginate un sistema che impara a scrivere leggendo solo riassunti di riassunti: dopo poche iterazioni, la ricchezza linguistica svanisce. Se continuiamo su questa strada, Libertify.com (Marzo 2026) prevede una saturazione del modello del 90% entro il 2035. Tradotto: il modello smette di apprendere e inizia semplicemente a riciclare pattern standardizzati, perdendo la capacità di gestire l’eccezione o la complessità del mondo reale.
L’illusione del dato sintetico
Le aziende stanno cercando una scorciatoia. Generare dati sintetici costa una frazione rispetto alla cura di dataset umani, ma questa efficienza ha un costo occulto. Gartner (Maggio 2026) stima che il 75% della nuova AI training data sarà sintetica entro la fine del 2026. È una corsa all’oro dove, invece di scavare, stiamo producendo la nostra stessa terra da setacciare.
Il rischio è che il segnale umano venga sommerso dal rumore algoritmico. Secondo l’American Alliance of Museums (Luglio 2026), oltre il 50% dei nuovi articoli in lingua inglese pubblicati online è primariamente scritto da AI. Stiamo inquinando il pozzo da cui attingiamo l’acqua. Quando le aziende integrano questi contenuti nei propri flussi di addestramento, non stanno espandendo la conoscenza, ma stanno semplicemente chiudendo il cerchio su se stesse, rendendo i sistemi più veloci ma progressivamente più stupidi.
La sicurezza e la posizione degli esperti
Yoshua Bengio e oltre 100 esperti hanno sollevato preoccupazioni serie sul fatto che l’uso incontrollato di dati generativi stia alterando in modo permanente l’ecosistema informativo. Non si tratta di catastrofismo, ma di osservazione empirica. La stabilità dei sistemi è in calo.
L’AI Index Report di Stanford HAI (Marzo 2026) evidenzia 362 incidenti AI documentati nel 2025, in netto aumento rispetto ai 233 del 2024. Molti di questi incidenti non sono attacchi hacker o usi impropri, ma fallimenti qualitativi: risposte allucinate, logiche circolari o incapacità di gestire contesti specifici. Quando il modello “collassa”, il primo effetto è l’imprevedibilità del comportamento. Per un professionista che usa questi strumenti per automatizzare processi critici, la stabilità è tutto. Se il motore sotto il cofano inizia a degradarsi, l’intera infrastruttura automatizzata diventa un rischio operativo, non un asset.
Oltre la narrazione del collasso
C’è una visione contrarian che vale la pena esplorare: il collasso non è una fatalità inevitabile della sintesi, ma una conseguenza della pigrizia nell’esecuzione. Ricerche recenti discusse su OpenReview (ICML 2026) suggeriscono che il problema non sia il dato sintetico in sé, ma l’assenza di reward functions pluralistiche e ben progettate. Se addestriamo l’AI a ottimizzare solo per la “probabilità statistica”, otterremo sempre il risultato più banale. Se invece la guidiamo verso obiettivi di utilità specifica, il dato sintetico può diventare un amplificatore, non un veleno.
Inoltre, dobbiamo guardare con sospetto al cosiddetto “Liar’s Dividend” (Mea: Digital Integrity, 2026). Alcuni vendor stanno usando lo spettro del “collasso” come una cortina fumogena. È un modo efficace per proteggere i propri set di dati privati: “Non possiamo aprire il nostro modello perché i dati esterni sono contaminati, quindi dovete fidarvi solo della nostra scatola nera”. Non lasciatevi ingannare. La scarsità di dati di alta qualità è reale, ma la soluzione non è blindare i processi, è diversificare le fonti. Il collasso è spesso il risultato di un’architettura che non prevede il fallimento, non del contenuto sintetico in quanto tale.
In sintesi
Le aziende devono smettere di sostituire i dati reali con quelli sintetici e iniziare ad accumularli su una base di dati umani. Il futuro competitivo non appartiene a chi ha più potenza di calcolo, ma a chi saprà integrare motori matematici deterministici invece di affidarsi ciecamente all’auto-addestramento. La qualità dei vostri output dipende interamente dalla qualità dei vostri input: smettete di nutrire il sistema con i suoi stessi scarti.
