L’IA est en train de se dévorer elle-même, et la maladie a déjà un nom

En novembre 1987, le ministère britannique de l’Agriculture a admis qu’il avait entre les mains une maladie nouvelle : l’encéphalopathie spongiforme bovine. Sa variante humaine a fini par tuer plus de 230 personnes dans le monde, et a laissé derrière elle une crise de confiance, des chutes de ventes et plus de quatre millions de bovins abattus. Tout cela a même conduit à créer l’EFSA (Autorité européenne de sécurité des aliments) dans l’Union européenne, mettant en pleine lumière les défaillances du contrôle. En anglais, on ne l’a jamais connue sous son nom technique, mais comme mad cow disease, la maladie de la vache folle, et c’est ainsi que nous nous en souvenons.

Comment une maladie biologique en vient-elle à toucher le monde de l’informatique ? Eh bien, c’est un sacré sujet (un très gros). Il naît du parallèle qu’ont trouvé huit chercheurs de l’Université Rice, à Houston. Josue Casco-Rodriguez et Sina Alemohammad dirigent la recherche, avec Richard G. Baraniuk comme auteur principal. Comme vous le savez déjà, la cause de la maladie de la vache folle était que l’on nourrissait le bétail avec des restes de bétail. Eh bien, le principe de cette condition en informatique part du fait de nourrir des modèles d’IA avec des éléments générés par l’IA. MAD, Model Autophagy Disorder, est le nom qu’ils lui ont donné, en le mentionnant explicitement dans l’article : par analogie avec la maladie de la vache folle. Entraînant ainsi l’idée d’un système qui devient fou à force de se manger lui-même. Une absurdité que Kafka aurait signée, et que Camus aurait portée au théâtre. Les chercheurs ont forgé le terme en 2023, et en 2024 la célèbre revue britannique Nature, citée dans le monde entier, a publié la version générale du phénomène. Elle y laissait voir que la première chose que les moteurs cessent de générer est la personnalité. Ce qui était rare ou dépassait la moyenne. Ce qui perdure dans la génération, c’est la norme.

Nature distingue deux moments. Dans l’effondrement précoce, le modèle commence par perdre les queues de la distribution, c’est-à-dire le minoritaire, l’exceptionnel. Dans l’effondrement tardif, ce n’est plus que le rare disparaît : c’est que tout commence à ressembler à tout. Et ce n’est pas un processus pour dans vingt ans : Nature elle-même a titré son article de vulgarisation « les modèles d’IA nourris de données générées par l’IA se mettent vite à débiter des absurdités ». (Sans rire.)

Pour le visualiser : l’image est celle de la photocopie d’une photocopie. Personne n’a besoin qu’on lui explique ce qui se passe à la cinquième copie. Tout se lit encore, mais les bords rongent le détail fin. Une typographie aussi parfaite que l’Helvetica pourrait finir par ressembler à une Comic Sans.

Il existe pourtant d’autres recherches qui cherchent à savoir combien de contenu génératif (le contenu fait par l’IA) il faut à un moteur pour atteindre cet effondrement. Et pour l’instant il n’y a pas de vrai consensus. Ce qui est clair, c’est que le résultat dépend du régime. L’IA que vous utilisez, de quoi se nourrit-elle ?

Avant toute chose, il convient ici de devancer quelque chose que j’entends déjà : que cela se règle en écrivant de meilleurs prompts. Non. Un prompt n’entraîne rien. Il arrive quand le modèle est déjà fait et ne peut lui demander que ce qu’il a déjà en lui. Pendant l’entraînement, le minoritaire se perd, précisément ce qui rend une image exceptionnelle, et aucun prompt ne peut le récupérer.

Depuis le 2 août 2025, le règlement européen sur l’IA oblige (article 53) à publier un résumé suffisamment détaillé du contenu avec lequel chaque modèle a été entraîné. Et depuis le 2 août de cette année, l’obligation a cessé d’être seulement une obligation. Elle peut désormais être sanctionnée, et le Bureau européen de l’IA a déjà commencé à regarder qui a publié et qui ne l’a pas fait. Un laboratoire du Trinity College de Dublin, l’AI Accountability Lab (AIAL), dirigé par la Dre Abeba Birhane, connue pour auditer les biais des jeux de données d’entraînement, recueille depuis lors cette documentation et lui attribue une note de A+ à F : si l’information est donnée clairement et si elle sert à quelque chose pour un auteur. À ce jour, ils ont localisé 44 résumés ; parmi eux, 39 sont déjà notés, et ils ont dressé une autre liste de dix-neuf modèles qui devraient avoir ce rapport et ne l’ont pas.

Parmi les générateurs d’images, Bria avec son modèle FIBO obtient un B+ en clarté et un A+ en utilité, et son 3.2 arrive juste derrière. Ensuite Adobe Firefly, avec un C+ et un B+. Flux.3, de Black Forest Labs, descend à un B et un C. Ceux de Microsoft et ceux de Meta restent à un D+ en utilité. Pour Sora 2, la vidéo d’OpenAI, il n’y a aucun document, ni pour les versions antérieures de Flux, qui sont celles que la moitié du secteur a installées. Midjourney n’apparaît nulle part.

Je veux partager quelques chiffres que je ne considérerais pas comme anecdotiques. Ces documents, dans lesquels chaque fabricant doit raconter avec quoi il a entraîné son moteur, sont notés par rubriques : sources publiques, sources privées, exploration du web, données des utilisateurs, données synthétiques et traitement. Eh bien, dans la rubrique des sources publiques, Gemini 3 Pro obtient 6 sur 100 en clarté et 0 en utilité. Grok 4.5, 7 et 0. Phi-4, de Microsoft, reste à 3 et 0. Ce zéro n’est pas une note basse : il signifie qu’avec ce document devant lui, un auteur ne peut rien faire. Ni savoir si son travail est dedans, ni demander qu’il en sorte.

Bon, en leur accordant le bénéfice du doute, on pourrait expliquer ce manque d’information par le fait que les modèles déjà sur le marché avant le 2 août 2025 ont jusqu’en août 2027 pour se conformer.

En distillant cette information et en la ramenant sur le terrain : si même la Commission européenne n’a pas ces données, un studio les aura difficilement.

Ce dont nous répondons, c’est de ce qui est à nous. Offrir un matériau de qualité soutient le travail de visualisation et, par conséquent, le projet du client. Les fameux labels de garantie, les mêmes dont la viande a fini par avoir besoin.

Du bétail, nous avons appris trop tard ce qu’il y avait dans l’aliment. Pour ceci, nous devrions encore être à temps.

Webographie

New Scientist, Brain disease drives cows wild, 5 novembre 1987 (l’article contemporain de l’aveu du ministère britannique de l’Agriculture). New Scientist

CDC, Clinical Overview of Variant Creutzfeldt-Jakob Disease : 233 décès par vMCJ dans le monde entre 1996 et 2023. CDC

BBC News, 2 décembre 2024 : 4,4 millions de bovins abattus au Royaume-Uni. BBC

Règlement (CE) n° 178/2002, instituant l’EFSA. EUR-Lex

Alemohammad, S., Casco-Rodriguez, J., Baraniuk, R. G. et al. (Rice University), Self-Consuming Generative Models Go MAD, arXiv:2307.01850 (2023), ICLR 2024. arXiv

Shumailov, I., Shumaylov, Z., Zhao, Y., Papernot, N., Anderson, R., Gal, Y., AI models collapse when trained on recursively generated data, Nature 631, 755-759 (24 juillet 2024). Nature

Gibney, E., AI models fed AI-generated data quickly spew nonsense, Nature News, 24 juillet 2024. Nature

Gerstgrasser, M. et al., Is Model Collapse Inevitable? Breaking the Curse of Recursion by Accumulating Real and Synthetic Data, arXiv:2404.01413. arXiv

Dohmatob, E. et al., Strong Model Collapse, arXiv:2410.04840. arXiv

Règlement (UE) 2024/1689, articles 53(1)(d) et 111(3). AI Act Service Desk

Commission européenne, modèle et note explicative du résumé public, 24 juillet 2025 (bibliothèque). digital-strategy.ec.europa.eu

Blankvoort, D. A. H., Pandit, H. J. et Gahntz, M. (2026), Quality Assessment of Public Summary of Training Content for GPAI models required by AI Act Article 53(1)(d), FAccT 2026, DOI 10.1145/3805689.3806755. arXiv

AI Accountability Lab, Trinity College Dublin, GPAI Training Transparency (consulté le 2 septembre 2026). aial.ie