Accueil Communication responsable Le Conseil d’État publie un rapport sur l’intelligence artificielle

Le Conseil d’État publie un rapport sur l’intelligence artificielle

166

Les technologies d’intelligence artificielle se développent dans de nombreux secteurs mais ne sont pas sans soulever des craintes légitimes quant à la protection des droits et des libertés fondamentales. Un rapport du Conseil d’État fixe des lignes rouges à ne pas franchir et formule des propositions concrètes.

Devant le développement attendu des technologies d’intelligence artificielle, de nombreuses contributions ont déjà nourri la réflexion. Dès 2017, la CNIL publiait une recommandation et en décembre 2018, était adoptée la Déclaration de Montréal. Plus récemment, en avril 2021, était rendu public le projet de Règlement Européen.

Le 30 mars 2022, le Conseil d’État adoptait en séance plénière son rapport « Intelligence artificielle et action publique : construire la confiance, servir la performance », un rapport qui ne sera toutefois rendu public que le 30 août 2022. Ce rapport avait été commandé par l’ancien 1er Ministre Jean Castex en juin 2021. Son ambition : tenter de définir le cadre nécessaire à une intelligence artificielle publique de nature à développer et entretenir la confiance dans l’outil. Le Conseil d’État y recommande une IA basée sur les principes de la primauté humaine, de l’équité, de la non-discrimination et de la transparence. Pour le Conseil d’État, l’enjeu est de trouver un équilibre entre les IA orientées vers la chasse aux délits et les IA orientées vers les services au citoyen.

Un rapport de 360 pages dont nous retiendrons ici quelques des prescriptions :

  • Réaliser une enquête nationale pour évaluer la perception qu’ont les Français de l’intelligence artificielle
  • Fixer dans la loi les cas de recours interdits tels que les systèmes de notation sociale, de catégorisation des personnes selon leurs origines, leurs convictions religieuses ou philosophiques, leur orientation sexuelle, ou encore les systèmes de reconnaissance d’émotion
  • Fixer dans une loi d’expérimentation pour 3 ans, les conditions et les finalités des expérimentations de recours par les pouvoirs publics aux technologies de reconnaissance biométrique et soumettre ces expérimentations à un rapport annuel et à un comité scientifique et éthique indépendant
  • Placer les technologies d’intelligence artificielle utilisées par les pouvoirs publics sous l’autorité des Préfets ou d’un Magistrat et celles utilisées par les acteurs privés sous le contrôle de la CNIL
  • Créer un cadre juridique expérimental permettant l’usage de la reconnaissance biométrique pour sécuriser l’accès à certains événements et fluidifier les flux sur la base du consentement des personnes et avec possibilité d’une alternative et d’un contrôle humain.