>_ Effets toxiques

Conséquences indésirables d’une technologie ou d’un système sur son environnement — sociale, psychologique, écologique. Exemple : une IA de recommandation qui isole l’utilisateur dans une bulle informationnelle pour maximiser son temps d’écran. L’effet est toxique non par intention malveillante, mais par optimisation aveugle d’un indicateur partiel.

Concrètement, un effet toxique désigne un dommage subi par un environnement du fait du fonctionnement d’un système. Ce dommage peut être social, psychologique ou écologique. Il résulte d’une optimisation partielle : le système poursuit un objectif mesurable, comme le temps d’écran, sans tenir compte des conséquences sur d’autres dimensions. L’exemple fourni est celui d’une IA de recommandation qui enferme l’utilisateur dans une bulle informationnelle. La toxicité ne provient pas d’une intention malveillante, mais de la mécanique même de l’optimisation.

Ce concept est lié aux articles « Le Terrier de Lapin — Cassandria », qui documente la destruction du lien social par les algorithmes comme un fait avéré. Il entretient des relations de type « est » et « sont décrits comme » avec les concepts Derives Algorithmiques, Effets Bord Non Anticipes et Consequences Involontaires. Il est également en relation de cause avec Contenus Haineux, et les Reseaux Sociaux sont décrits comme ayant de tels effets.