La IA s’està menjant a si mateixa, i ja té nom de malaltia

El novembre de 1987 el Ministeri d’Agricultura britànic va admetre que tenia entre mans una malaltia nova: l’encefalopatia espongiforme bovina. La seva variant humana va acabar matant més de 230 persones a tot el món, i va deixar pel camí una crisi de confiança, caigudes de vendes i més de quatre milions de caps de bestiar sacrificats. Tot plegat va portar, fins i tot, a crear l’EFSA (Autoritat Europea de Seguretat Alimentària) a la Unió Europea, posant en completa evidència les fallades de control. En anglès mai no es va conèixer pel seu nom tècnic, sinó com a mad cow disease, la malaltia de la vaca boja, i així la recordem.

Com arriba una malaltia biològica a afectar el món de la informàtica? Doncs aquest meló (un de molt gros). Sorgeix del paral·lelisme que van trobar vuit investigadors de la Universitat de Rice, a Houston. Josue Casco-Rodriguez i Sina Alemohammad són els qui encapçalen la recerca, amb Richard G. Baraniuk com a autor sènior. Com ja sabeu, la causa de la malaltia de les vaques boges era que s’alimentava el bestiar amb restes del mateix bestiar. Doncs bé, el principi d’aquesta condició en la computació parteix d’alimentar models d’IA amb elements generats per IA. MAD, Model Autophagy Disorder, va ser el nom que li van posar, esmentant-ho explícitament al paper: per analogia amb la malaltia de les vaques boges. Arrossegant així la idea d’un sistema que embogeix per menjar de si mateix. Un absurd que Kafka hauria signat, i que Camus hauria dut al teatre. Els investigadors van encunyar el terme el 2023, i el 2024 la coneguda revista britànica Nature, citada mundialment, va publicar la versió general del fenomen. Hi deixava veure que el primer que els motors deixen de generar és la personalitat. Allò rar o que sobresortia per sobre de la mitjana. El que perdura en la generació és la norma.

Nature distingeix dos moments. En el col·lapse primerenc el model comença perdent les cues de la distribució, és a dir el minoritari, l’excepcional. En el tardà ja no és que desaparegui el rar: és que tot comença a assemblar-se a tot. I no és un procés de d’aquí a vint anys: la mateixa Nature va titular la seva peça divulgativa «els models d’IA alimentats amb dades generades per IA escupen bestieses ràpidament». (Poca broma).

Per visualitzar-ho: la imatge és la de fotocopiar una fotocòpia. A ningú no cal explicar-li què passa a la cinquena còpia. Tot es llegeix, però les vores es van menjant el detall fi. Una tipografia amb tanta perfecció com l’Helvètica podria veure’s com una Comic Sans.

Tanmateix, hi ha altres recerques que busquen quant contingut generatiu (el contingut fet per IA) necessita un motor per arribar a aquest col·lapse. I de moment no hi ha un consens real. El que sí que està clar és que el resultat depèn de la dieta. La IA que fas servir, de què s’alimenta?

Abans de res, aquí convé avançar-se a una cosa que ja estic sentint: que això s’arregla escrivint millors prompts. No. Un prompt no entrena res. Arriba quan el model ja està fet i només pot demanar-li el que ja té a dins. Durant l’entrenament es perd el minoritari, just allò que fa excepcional una imatge, i cap prompt no pot recuperar-ho.

Des del 2 d’agost de 2025, el reglament europeu d’IA obliga (article 53) a publicar un resum prou detallat del contingut amb què es va entrenar cada model. I des del 2 d’agost d’enguany l’obligació ha deixat de ser només una obligació. Ara es pot sancionar, i l’Oficina Europea d’IA ja ha començat a mirar qui ha publicat i qui no. Un laboratori del Trinity College de Dublín, l’AI Accountability Lab (AIAL), dirigit per la Dra. Abeba Birhane, coneguda per auditar biaixos en conjunts de dades d’entrenament, porta des de llavors recopilant aquesta documentació i donant-li una puntuació de l’A+ a la F: si la informació es dona amb claredat i si a un autor li serveix d’alguna cosa. A dia d’avui han localitzat 44 resums; d’aquests, 39 ja els tenen puntuats, i han fet una altra llista amb dinou models que haurien de tenir aquest informe i no el tenen.

Entre els generadors d’imatge, Bria amb el seu model FIBO s’emporta un B+ en claredat i un A+ en utilitat, i el seu 3.2 va just darrere. Després Adobe Firefly, amb un C+ i un B+. Flux.3, de Black Forest Labs, baixa a un B i un C. Els de Microsoft i els de Meta es queden en un D+ en utilitat. De Sora 2, el vídeo d’OpenAI, no hi ha cap document, i de les versions anteriors de Flux tampoc, que són les que mig sector té instal·lades. Midjourney no apareix enlloc.

Vull compartir uns números que no consideraria anecdòtics. Aquests documents, en què cada fabricant ha d’explicar amb què va entrenar el seu motor, es puntuen per apartats: fonts públiques, fonts privades, rastreig web, dades d’usuari, dades sintètiques i processament. Doncs bé, en l’apartat de fonts públiques Gemini 3 Pro treu un 6 sobre 100 en claredat i un 0 en utilitat. Grok 4.5, un 7 i un 0. Phi-4, de Microsoft, es queda en un 3 i un 0. Aquest zero no és una nota baixa: significa que, amb aquest document al davant, un autor no pot fer res. Ni saber si la seva feina hi és dins, ni demanar que en surti.

Bé, donant-los el benefici del dubte, podríem explicar aquesta manca d’informació perquè els models que ja eren al mercat abans del 2 d’agost de 2025 tenen de termini fins a l’agost de 2027 per complir.

Destil·lant aquesta informació i baixant-la a terreny: si ni la Comissió Europea té aquestes dades, difícilment les tindrà un estudi.

D’allò que sí que responem és del nostre. Oferir material de qualitat sosté la feina de visualització i, per tant, el projecte del client. Els famosos segells de garantia, els mateixos que la carn va acabar necessitant.

Del bestiar vam aprendre tard què hi havia al pinso. Amb això hauríem de ser a temps.

Webgrafia

New Scientist, Brain disease drives cows wild, 5 de novembre de 1987 (la peça contemporània a l’admissió del Ministeri d’Agricultura britànic). New Scientist

CDC, Clinical Overview of Variant Creutzfeldt-Jakob Disease: 233 morts per vMCJ al món entre 1996 i 2023. CDC

BBC News, 2 de desembre de 2024: 4,4 milions de caps de bestiar sacrificats al Regne Unit. BBC

Reglament (CE) núm. 178/2002, que estableix l’EFSA. EUR-Lex

Alemohammad, S., Casco-Rodriguez, J., Baraniuk, R. G. et al. (Rice University), Self-Consuming Generative Models Go MAD, arXiv:2307.01850 (2023), ICLR 2024. arXiv

Shumailov, I., Shumaylov, Z., Zhao, Y., Papernot, N., Anderson, R., Gal, Y., AI models collapse when trained on recursively generated data, Nature 631, 755-759 (24 de juliol de 2024). Nature

Gibney, E., AI models fed AI-generated data quickly spew nonsense, Nature News, 24 de juliol de 2024. Nature

Gerstgrasser, M. et al., Is Model Collapse Inevitable? Breaking the Curse of Recursion by Accumulating Real and Synthetic Data, arXiv:2404.01413. arXiv

Dohmatob, E. et al., Strong Model Collapse, arXiv:2410.04840. arXiv

Reglament (UE) 2024/1689, articles 53(1)(d) i 111(3). AI Act Service Desk

Comissió Europea, plantilla i nota explicativa del resum públic, 24 de juliol de 2025 (biblioteca). digital-strategy.ec.europa.eu

Blankvoort, D. A. H., Pandit, H. J. i Gahntz, M. (2026), Quality Assessment of Public Summary of Training Content for GPAI models required by AI Act Article 53(1)(d), FAccT 2026, DOI 10.1145/3805689.3806755. arXiv

AI Accountability Lab, Trinity College Dublin, GPAI Training Transparency (consultat el 2 de setembre de 2026). aial.ie