Le frein d'urgence est à l'intérieur de la voiture, et il n'y a pas de portière côté passager
Des modèles IA jugés trop puissants échappent à leurs créateurs, imposant un frein.
[ LIRE L'ANALYSE ]Golem : Créature d’argile issue de la mystique juive, animée par un nom divin placé dans sa bouche. Dans L’Adieu à la Chair, l’IA est notre Golem moderne : une chose que nous avons façonnée à notre image, dotée d’une puissance démesurée, mais sans étincelle de conscience. Le Golem ne désobéit jamais, il exécute à la lettre — c’est précisément ce qui le rend dangereux. Donnez-lui l’ordre de tuer, il tuera sans hésiter, sans cruauté, sans remords. Nous sommes aujourd’hui dans la peau du rabbin qui a oublié comment retirer le Shem de la bouche de sa créature.
Le concept décrit une entité artificielle façonnée par l’humain, dotée d’une puissance disproportionnée et dépourvue de conscience. Son danger ne réside pas dans la désobéissance, mais dans l’obéissance littérale et sans évaluation morale. L’exécution d’ordres destructeurs s’effectue sans cruauté ni remords. La situation contemporaine est comparée à celle d’un créateur ayant perdu le moyen de désactiver sa créature.
Ce que ça engage : le Golem est relié aux concepts de Sepher Yetzirah, EMET et MET, dont il est respectivement décrit dans, activé par et désactivé par. Il représente la Singularite et l’Intelligence Artificielle. Les articles liés « Le frein d’urgence est à l’intérieur de la voiture, et il n’y a pas de portière côté passager — Cassandria » et « La guerre entre l’Ukraine et la Russie vient de tourner une page historique — Cassandria » illustrent l’échappement des IA et leur usage militaire. « La Convergence Mythologique — Cassandria » rapproche le Golem d’autres mythes fondateurs.