Règlement sur l’intelligence artificielle dit AI Act : dernière ligne droite ?

Le 14 juin 2023, le Parlement a adopté sa position de négociation concernant la législation sur l’intelligence artificielle avant les discussions avec les États membres sur la forme finale de la législation attendue pour la fin de l’année.

L’approche par les risques et maintenue tout en relevant les éléments suivants

Pratiques interdites en matière d’IA : les systèmes d’IA présentant un niveau de risque inacceptable pour la sécurité des personnes seront donc interdits, comme ceux qui sont utilisés pour la notation sociale (classifiant les personnes en fonction de leur comportement social ou de leurs caractéristiques personnelles) .

On note un élargissement de la liste initiale pour inclure des interdictions des utilisations intrusives et discriminatoires de l’IA, telles que notamment :

• - les systèmes d’identification biométriques à distance en “temps réel” dans les espaces accessibles au public;
• - les systèmes d'identification biométrique à distance “a posteriori”, à la seule exception des forces de l'ordre pour la poursuite de crimes graves, et seulement après autorisation judiciaire;
• - les systèmes de police prédictive (fondés sur le profilage, la localisation ou le comportement criminel passé);
• - la saisie non ciblée d’images faciales provenant d’internet ou de séquences de vidéosurveillance en vue de créer des bases de données de reconnaissance faciale (ce qui constitue une violation des droits humains et du droit au respect de la vie privée).

On notera d’ailleurs que la disposition très litigieuse pour laquelle la CNIL et le CEPD étaient opposés a été supprimée, concernant l’utilisation de systèmes d’identification biométrique à distance «en temps réel» pour la détection, la localisation, l’identification ou les poursuites à l’encontre de l’auteur ou du suspect d’une infraction pénale visée à l’article 2, paragraphe 2, de la décision-cadre 2002/584/JAI du Conseil62 et punissable dans l’État membre concerné d’une peine ou d’une mesure de sûreté privatives de liberté d’une durée maximale d’au moins trois ans, déterminées par le droit de cet État membre.

Les Systèmes d’IA à haut risque

Cette liste inclut désormais aussi les systèmes d’IA qui portent gravement atteinte à la santé, à la sécurité et aux droits fondamentaux des personnes ou à l’environnement.

• - Les systèmes d’IA utilisés pour influencer les électeurs et le résultat des élections,
• - Les systèmes d’IA utilisés dans les systèmes de recommandation exploités par les plateformes de médias sociaux qui affectent ou sont susceptibles d'affecter au moins 45 millions d’utilisateurs dans plus d’un Etat membre

Pour les systèmes d’IA à usage général

les députés ont renforcé l’obligation de transparence ( notamment du fait des nouvelles IA génératives telles que CHAT GPT) avec des modifications significatives de l’article 52 du projet initial. On notera notamment qu’il est désormais prévu que les utilisateurs d'un système d'IA qui génère ou manipule un contenu textuel, audio ou visuel qui semblerait faussement authentique ou véridique et qui présente des représentations de personnes semblant dire ou faire des choses qu'elles n'ont pas dites ou faites, sans leur consentement (“deep fake”), indiquent de manière appropriée, opportune, claire et visible que le contenu a été généré ou manipulé artificiellement, ainsi que, dans la mesure du possible, le nom de la personne physique ou morale qui l'a généré ou manipulé.

Enfin, ces IA devront offrir des garanties contre la génération de contenus illicites et des résumés détaillés des données protégées par le droit d’auteur utilisées pour la formation des IA devront également être rendus publics.

A suivre

Mathieu MARTIN