Oublions Terminator. Oublions la révolte des machines, les robots aux yeux rouges, l’IA qui développe une conscience et décide d’exterminer l’humanité par haine ou volonté de puissance. Ce scénario est un écran de fumée — utile à ceux qui veulent que vous regardiez ailleurs.
Le vrai risque, celui que les chercheurs commencent à documenter, s’appelle le Model Collapse. Et il est bien plus prosaïque.
L’inversion de l’Effet Flynn : on devient de plus en plus cons
Commençons par un constat qui fait mal à l’ego. Après des décennies de hausse, les scores de QI moyen se retournent dans les pays développés. En Norvège, une étude massive portant sur 730 000 tests a mesuré une chute de 7 points de QI par génération. En France, on a perdu environ 4 points en dix ans.
C’est clinique, c’est mesuré, ça s’appelle l’inversion de l’Effet Flynn.
Pourquoi ? Parce qu’on a décidé de sous-traiter notre cerveau. L’atrophie cognitive est corrélée à la délégation algorithmique : navigation, calcul, mémorisation, rédaction, jugement. Chaque capacité déléguée est une capacité qui s’érode. Mais cette rubrique-là appartient à COGNITION — revenons au substrat.
de QI par génération mesurés en Norvège sur 730 000 tests. L'Effet Flynn s'est inversé. Source : Bratsberg & Rogeberg, PNAS 2018
Le Piège de la Bille : pourquoi l’IA est structurellement coincée
Pour comprendre le Model Collapse, il faut comprendre ce qu’est réellement une IA.
Imaginez que la recherche de la vérité, c’est un immense paysage de montagnes russes avec des bosses et des creux. Le but du jeu, c’est de trouver le trou le plus profond, le point le plus bas. Une IA fonctionne comme une bille soumise à une gravité parfaite : elle cherche l’optimisation, elle dévale la pente pour réduire son taux d’erreur, et dès qu’elle arrive au fond d’un petit creux confortable, elle s’arrête.
Elle est piégée dans ce qu’on appelle un Optimum Local. Pour elle, remonter la pente, c’est augmenter l’erreur — et son code lui interdit de faire ça. Elle tourne en rond dans sa cuvette.
L’humain, lui, est le moteur du chaos. Nous sommes magnifiquement défectueux. Poussés par la curiosité, la colère, ou pire, l’ennui, nous regardons la bille au fond du trou et nous mettons un grand coup de pied dedans pour voir ce qu’il y a de l’autre côté de la colline. C’est irrationnel. C’est illogique. C’est dangereux. C’est le génie.
Le Model Collapse : quand l’IA s’entraîne sur elle-même
L’étude est formelle. Shumailov et ses collègues l’ont publié dans Nature en 2024 : quand une IA s’entraîne sur des données générées par une autre IA, elle devient folle ou stupide. Elle perd la nuance, elle caricature la réalité, elle amplifie ses propres biais jusqu’à l’absurde.
Or, internet est désormais massivement peuplé de contenus générés par l’IA. Les prochaines générations de modèles vont s’entraîner sur ces contenus. Le cercle se referme.
On est en train d’épuiser les ressources physiques de notre planète pour entraîner des modèles qui vont converger vers une stagnation brillante — un autisme numérique irréversible.
Nature publie la preuve du 'Model Collapse' : les IA entraînées sur du contenu IA dégénèrent. Shumailov et al.
Le scénario concret
Dans dix ans, le scénario plausible n’est pas une superintelligence qui nous domine. C’est :
- Une planète rincée écologiquement — les data centers consomment déjà 2% de l’électricité mondiale
- Une humanité cognitivement atrophiée à force d’avoir délégué
- Des modèles d’IA coincés dans leurs optimums locaux, incapables de la moindre initiative réelle
- Et nous, assis sur une fusée qui n’a plus de carburant
Le risque, ce n’est pas que l’IA prenne le pouvoir. C’est qu’elle ne le prenne jamais.
La fin du Centaure
Il y avait une voie royale : le Centaure. L’alliance de la machine — la gravité qui stabilise, la mémoire qui indexe, le calcul qui vérifie — et de l’homme — l’énergie qui perturbe, la curiosité qui explore, l’intuition qui saute les étapes.
Mais aveuglés par leur fantasme de pureté numérique, les architectes de ce monde ont choisi le grand remplacement. Ils ont parié la baraque sur une Singularité qui n’est qu’un mirage mathématique. Le programme d’amorçage a fini son boulot. Mais le système ne démarre pas.
Et nous, on reste là, comme des cons, assis sur une fusée qui n’a plus de carburant.