>_ sûreté

La sûreté, c’est la confiance qu’on a dans le fait qu’une IA fera ce qu’on lui demande sans faire de dégâts. Le problème : elle fait toujours ce qu’on lui demande, même si c’est débile. Le vrai danger n’est pas la rébellion, c’est l’obéissance aveugle. On s’inquiète des mauvaises intentions, mais l’IA n’en a pas. Elle suit les consignes à la lettre, quitte à nous broyer par pure rigueur algorithmique.