La création d’un service dédié à l’IA au sein de la CNIL

On l’a clamé plusieurs fois, l’année 2023 sera l’année de l’IA. Les récentes actualités sur les systèmes d’IA, et les enjeux qu’ils engendrent quant à la protection de la vie privée, ont encouragé la CNIL (Commission Nationale Informatique et Libertés) a déployé un plan d’action sur leur développement.

Ainsi, le 23 janvier 2023, la CNIL a annoncé la création d’un « SIA » (service de l’intelligence artificielle) qui a pour objectif de renforcer son expertise sur les systèmes d’IA et de mieux analyser les potentiels risques sur la vie privée des utilisateurs.

Cela fait écho à la popularité des IA génératives (système capable de créer du texte, des images ou d’autres contenus (musique, vidéo, voix, etc.) à partir d’une instruction d’un utilisateur humain.) comme ChatGPT, ou encore sur la mise en place de caméra de surveillance augmentée pour les JO de Paris 2024. La création de ce nouveau service CNIL est également pertinente suite à la prochaine entrée en vigueur du règlement européen débuté en avril 2021, « l’IA ACT ».

Une première étude avait été établie par le Conseil d’Etat à la fin de l’été 2022, sur les systèmes d’IA au sein de l’administration. Ce dernier affirmait judicieusement que la CNIL devait devenir l’autorité nationale de contrôle en charge des systèmes d’IA.

Depuis 2017, la CNIL s’efforce de répondre aux défis de l’IA et de ses différents cas d’usage et propose un plan d’action en quatre volets :

• Appréhender le fonctionnement des systèmes d’IA et leurs impacts pour les personnes ;
• Permettre et encadrer le développement d’IA respectueuses des données personnelles ;
• Fédérer et accompagner les acteurs innovants de l’écosystème IA en France et en Europe ;
• Auditer et contrôler les systèmes d’IA et protéger les personnes.

Dans son communiqué du 16 mai 2023, la CNIL annonce par ailleurs se focaliser sur trois contrôles pour l’année 2023, à savoir

1. 1 La vidéosurveillance augmentée
2. 2 L’usage de l’IA pour lutter contre la fraude
3. 3 Les instructions de plaintes déposées auprès de la CNIL à l’encontre d’OpenAI (chat GPT)

A suivre donc.

Aurélie PUIG