>_ Comité D'éthique IA

Un comité d’éthique IA est une instance dédiée à l’examen des implications morales, sociales et juridiques des systèmes d’intelligence artificielle. Il se saisit des questions soulevées par la conception, le déploiement et l’usage de ces technologies. Son rôle consiste à formuler des recommandations, à évaluer les risques et à encadrer les pratiques, sans pour autant se substituer aux autorités réglementaires ou aux décideurs.

Concrètement, un tel comité analyse les cas d’usage, identifie les biais potentiels et les effets discriminatoires, et propose des mesures de correction ou de prévention. Il peut être consulté en amont d’un projet ou saisi a posteriori face à un incident. Ses avis, souvent non contraignants, visent à éclairer les choix techniques et organisationnels. Dans le cas décrit par l’article lié, l’enjeu porte sur un algorithme de profilage automatisant la sélection de personnes à contrôler, ce qui expose à des risques de traitement inéquitable.

Ce que ça engage : le comité d’éthique IA se trouve directement concerné par les situations documentées dans « L’arbre qui cache la fouille — Cassandria ». Cet article décrit un algorithme de profilage des chômeurs développé par France Travail, qui automatise la sélection des personnes à contrôler. Le comité est l’instance qui pourrait évaluer la conformité de ce dispositif aux principes éthiques, examiner les biais de sélection et recommander des garde-fous. Sa fonction est donc de faire contrepoids aux automatismes décisionnels, en introduisant une délibération collective sur leurs effets.