L'arbre qui cache la fouille
France Travail développe un algorithme de profilage des chômeurs pour contrôler, automatisant la sélection des personnes …
[ LIRE L'ANALYSE ]France Travail désigne un dispositif institutionnel qui développe un algorithme de profilage des chômeurs. Ce système vise à automatiser la sélection des personnes à contrôler. Il s’inscrit dans le cadre du contrôle de la recherche d’emploi.
Concrètement, France Travail met en œuvre un ciblage automatisé des individus soumis à ce contrôle. L’algorithme produit un profilage des demandeurs d’emploi, ce qui permet de déterminer ceux qui feront l’objet d’une vérification. Cette automatisation remplace une sélection manuelle par un processus technique. Le dispositif comporte des risques, notamment en matière de traitement des données personnelles et de décisions potentiellement arbitraires.
Ce que ça engage : France Travail a développé le Ciblage du Contrôle de la Recherche d’Emploi, une technologie qu’il a également présentée au Comité d’éthique de l’IA. Le dispositif réalise et profile le Contrôle de la Recherche d’Emploi. Il utilise le concept de Golem, manque de Transparence, et a entraîné la situation décrite dans l’article « L’arbre qui cache la fouille — Cassandria ».