Depuis avril 2021, le projet de règlement européen sur l’intelligence artificielle, l’AI Act, est en discussion. Un texte de cette ampleur serait une première mondiale. Quel devrait être son contenu ?
Le futur règlement européen sur l’intelligence artificielle est bâti sur une analyse des risques avec 4 niveaux retenus, du risque inacceptable au risque minime en passant par les risques élevé et limité. Le risque inacceptable justifie une interdiction et le risque élevé des conditions de mise sur le marché et d’utilisation. Le texte prévoit que chaque État européen devra se doter d’un organe de contrôle. Pour l’heure, en France c’est actuellement la CNIL qui joue ce rôle.
Les préoccupations qui ont présidé à ce prochain règlement ont été en priorité la qualité des données utilisées par les outils, la transparence vis-à-vis de l’outil et des utilisateurs (y compris en matière de droits d’auteur notamment pour les IA génératives), la surveillance humaine qui doit rester présente, notamment pour les outils à risque élevé et la responsabilité en cas de préjudice causé. Dans cette dernière hypothèse, c’est le fournisseur de l’outil qui sera déclaré responsable et l’amende encourue peut se monter à 20 millions d’€, voire 6% du chiffre d’affaires mondial.
Quel pourrait donc être demain le cadre légal du recours à l’IA sur le territoire européen et notamment les usages prohibés ? Voici quelques éléments qui semblent acquis :
– L’identification biométrique à distance, en temps réel et dans l’espace public devrait être interdite. Par contre, son utilisation serait possible à posteriori en cas d’infraction grave déjà commise et avec accord du juge.
– Les systèmes d’IA permettant de déduire les émotions d’une personne ou d’un groupe dans les domaines du maintien de l’ordre, de la gestion des frontières, ou encore sur le lieu de travail et dans les établissements scolaires seraient également prohibés.
– Exclus aussi les systèmes de notation sociale d’une personne par un État et basée sur ses vulnérabilités, sa situation sociale ou économique, son âge, ses capacités, son comportement social.
– Interdits également les outils de police prédictive qui permettraient d’évaluer les risques d’infraction ou de récidive et qui s’appuieraient sur une évaluation des traits de personnalité.
Les outils les plus à risque devront avoir été testés par des experts indépendants afin d’en identifier les éventuels risques pour la sécurité, la santé, les droits fondamentaux et les libertés, ainsi que pour l’environnement.
L’AI Act va devoir encore franchir quelques étapes avant son entrée en vigueur programmée pour 2025. Mais nous tenions ici à souligner le rôle moteur que joue l’Europe pour essayer d’adapter notre vieux continent aux nouvelles technologies. Une démarche qui n’est pas sans rappeler l’entrée en vigueur il y a maintenant déjà 5 ans du RGPD imité depuis par une cinquantaine d’États de par le monde, et plus récemment des textes également fondamentaux comme les DSA et DMA.
