Le Parlement Européen et le Conseil de l’Union Européenne viennent de conclure un accord sur un règlement en matière d’intelligence artificielle, l’AI Act. Quels sont les enjeux et les principales dispositions de ce futur règlement ?
La première ébauche de l’AI Act remonte à avril 2021 et nous avons eu l’occasion de présenter ce futur Règlement dans nos colonnes. Réglementer l’intelligence artificielle est un peu un exercice d’équilibriste car les enjeux sont forts et peuvent être contradictoires. En priorité l’objectif est de fixer un cadre permettant d’éviter, et à défaut de sanctionner les dérives, mais aussi de protéger la propriété intellectuelle, notamment les droits d’auteur. Protéger également le droit à l’image. Mais il faut aussi s’assurer que cette démarche d’encadrement ne freinera pas l’innovation, au risque de pénaliser les outils d’intelligence artificielle européens et de rendre ainsi l’Europe dépendante.
Il aura fallu plus de 35 heures de négociation pour aboutir, ce 8 décembre, à un accord présenté comme une 1ère mondiale. En effet, l’Europe est désormais le seul continent à disposer d’un cadre juridique. Une démarche qui n’est pas sans rappeler celle du RGPD.
L’AI Act distingue deux niveaux de réglementations en fonction des risques encourus.
Réglementation de niveau 1
Ce niveau concerne les systèmes qui ne présentent pas de « hauts risques ». Les IA génératives sont concernées. Nécessité pour ces outils de mettre en place un contrôle de la qualité des données utilisées, de s’assurer du respect des droits de la propriété intellectuelle, notamment des droits d’auteur. Obligation également de mentionner sur les créations produites que celles-ci l’ont été par des outils d’intelligence artificielle, une exigence qui devrait permettre de mieux lutter contre les deepfakes. Enfin, en ce qui concerne les outils qui interagissent avec les utilisateurs, les chatbots notamment, obligation d’informer l’utilisateur qu’il n’interagit pas avec un humain.
Réglementation de niveau 2
Ce niveau concerne les domaines à hauts risques, principalement l’éducation, les ressources humaines, la santé et le maintien de l’ordre. Les systèmes d’IA devront alors être soumis à un contrôle humain, devront disposer d’une documentation technique et d’une stratégie de gestion des risques. Par contre l’audit par une autorité publique un temps envisagé ne semble pas finalement avoir été retenu.
Les systèmes d’IA prohibés
L’accord exclut l’utilisation de certains outils comme étant par essence contraires aux valeurs européennes. Sont concernés les outils de notation des citoyens, les outils d’identification biométrique à distance dans les lieux publics, et notamment les systèmes qui touchent aux données sensibles (croyances, orientation sexuelle), les outils de surveillance de masse (sauf nécessité absolue dans le cadre du maintien de l’ordre).
Les sanctions
Trois degrés de sanctions sont prévus en cas de non-respect de ce futur règlement. En cas d’utilisation d’IA interdites, une amende de 7% du chiffre d’affaires mondial ou de 35 millions d’€ est encourue. En cas de non-respect des obligations, une amende de 3% du chiffre d’affaires mondial ou de 15 millions d’€ et enfin en cas de fournitures d’informations incorrectes, une amende de 1,5% du chiffre d’affaires mondial ou de 7,5 millions d’€. Des amendes administratives sont prévues pour les PME et les startups.
L’AI Act entrera en application 2 ans après son entrée en vigueur. Celle-ci est difficile à prévoir car un important travail technique est maintenant nécessaire pour affiner les dispositions prises.
A noter que l’AI Act ne s’appliquera pas aux usages à des fins de recherche et d’innovation, aux usages militaires et de défense ainsi qu’aux usages non-professionnels
Mise à jour au 7 février 2024
Accord définitif ce 2 février sur l’IA Act. Ce dernier entrera en application 2 ans et 20 jours après sa publication au Journal Officiel européen. On peut donc tabler sur fin février ou début mars 2026. Un grand pas en avant…
