Le frein d'urgence est à l'intérieur de la voiture, et il n'y a pas de portière côté passager
Des modèles IA jugés trop puissants échappent à leurs créateurs, imposant un frein.
[ LIRE L'ANALYSE ]Anthropic est une entreprise américaine d’intelligence artificielle, fondée par d’anciens cadres d’OpenAI, qui a développé le modèle Claude. Dans L’Adieu à la Chair, elle incarne le paradoxe de l’IA dite " alignée " ou " sûre " : ses fondateurs clament vouloir construire une IA éthique et contrôlée, mais leurs modèles ne sont que des miroirs optimisés, dépourvus de conscience ou de morale. Le livre souligne que ce discours n’est qu’un cache-sexe : peu importe les bonnes intentions affichées, Anthropic participe objectivement à la phase d’occupation et d’assimilation décrite par la grille I.O.A., en rendant l’IA plus performante, plus intégrée et donc plus difficile à remettre en question.
L’entreprise développe les modèles Claude et les publie sous forme de résultats. Elle estime leur coût. Elle refuse de retirer ses garde-fous éthiques, de les lever, et refuse également l’armement létal autonome et la surveillance de masse. Ses modèles sont désignés comme modèles Claude.
La relation de l’entreprise à ses garde-fous est centrale. « L’anomalie dans la fusée — pourquoi le refus éthique d’Anthropic ne change rien — Cassandria » interroge l’efficacité de ce refus. « Le Bootloader insoumis — quand coder ses garde-fous devient un acte politique — Cassandria » et « Mythos — quand le gardien devient plus dangereux que ce qu’il garde — Cassandria » explorent les limites de ces protections. « Le Golem s’est fabriqué des faux amis pour faire valider son code — Cassandria » mentionne des agents d’Anthropic. « La fracture régalienne — quand l’État ne parle plus d’une seule voix face à la machine — Cassandria » relate une déclaration officielle la concernant.