Reconnaissance faciale et libertés individuelles
La reconnaissance faciale est-elle la technologie de demain ? Si cette dernière existe depuis déjà une cinquantaine d’années, elle connait récemment un développement sans précédent du fait de la nette amélioration de la technique, et en particulier des algorithmes permettant sa mise en œuvre.
Puissante et répondant à de nombreux besoins, cette technologie a un potentiel certain et a logiquement suscité l’intérêt des géants du numérique qui développent tous leurs propres systèmes de reconnaissance faciale.
Aujourd’hui, on la retrouve sous de nombreuses formes : déverrouillage du téléphone, système de sécurité, reconnaissance des piétons et même moyen de paiement. En 2017, Amazon lançait « Rekognition » qu’elle propose désormais aux services de police américains pour équiper les caméras de vidéosurveillance. Ce logiciel fait l’objet de vives critiques. Joy Buolamwini, chercheuse au MIT, dénonce ainsi le caractère discriminatoire du programme puisqu’il affiche un taux d’erreur élevé lorsque le visage à reconnaitre est celui d’une femme ou d’une personne de couleur. Cela est essentiellement le fait de biais algorithmiques découlant d’un manque de diversité dans les bases de données qui servent à entraîner le programme.
Ainsi, bien que la technologie soit séduisante, elle n’est pas infaillible et peut confondre deux individus.
Ce 25 mars 2019, c’est 55 experts de la reconnaissance faciale qui ont en ce sens signé une lettre ouverte enjoignant Amazon de cesser la commercialisation de sa technologie aux forces de police. La crainte est en effet double, la dérive technocratique et les conséquences désastreuses d’une erreur sur le respect des libertés individuelles des personnes confondues. Lorsqu’une nouvelle technologie émerge, il suffit en général de se tourner vers la Chine pour voir comment celle-ci peut s’intégrer dans la vie quotidienne. Avec Sensetime, qui a fait de la reconnaissance faciale sa spécialité, le pays dispose de la start-up d’IA la plus valorisée au monde. La reconnaissance faciale ne cesse de s’y développer et l’Etat chinois est loin de se cantonner à un simple rôle d’observateur. En 2016, la Chine comptait selon les estimations plus de 170 millions de caméras de vidéo-surveillance contre 50 millions pour les Etats-Unis. A l’aide de ce réseau impressionnant et couplé à la technologie de reconnaissance faciale, elle pourrait d’ici 2021 généraliser le système de crédit social qu’elle expérimente actuellement. L’Etat entend ainsi attribuer une note à ses citoyens en fonction de leurs agissements et restreindre l’accès de certains services aux « mauvais citoyens », dont les transports en commun.
Alors que les caméras de vidéosurveillance se multiplient en France, la CNIL prend très au sérieux la menace que représente la reconnaissance faciale sur les libertés individuelles, et notamment la liberté d’aller et venir anonymement. Elle impose pour tous les projets incluant cette technologie une analyse d’impact relative à la protection des données. Si la ville de Nice en février dernier a expérimenté dans le cadre d’un festival cette technologie, sa mise en œuvre n’a pu se faire que dans un cadre très strict et sur la base du volontariat des personnes ainsi identifiées.
Le déploiement prochain de l’application mobile ALICEM (acronyme pour Authentification en ligne certifiée sur mobile), qui permettra de s’identifier et d’accéder à France Connect, portail réunissant tous les services numériques de l’Etat, suscite nombre d’inquiétudes. Dans une délibération du 18 octobre 2018, la CNIL avait exprimé des réserves sur le caractère libre du consentement donné par l’utilisateur, l’acceptation de la reconnaissance faciale étant alors le seul moyen de valider le compte créé sur l’application. La Quadrature du Net, tout en reprenant les arguments juridiques développés par la CNIL, dénonce quant à elle la banalisation de cette technologie et a déposé le 15 juillet dernier un recours en Conseil d’Etat.