Alors que ChatGPT fait déjà l'objet de cinq plaintes auprès de l'autorité protectrice de la vie privée des Français, sa présidente, Marie-Laure Denis, explique le rôle qu'entend jouer la Cnil dans la régulation de l'intelligence artificielle.
La Cnil, protectrice de la vie privée des Français, sera-t-elle le futur gendarme de l'intelligence artificielle ? Selon sa présidente Marie-Laure Denis, l'institution qui fête ses 45 ans cette année tient à faire respecter le cadre européen sur les données personnelles.
«On essaye de faire en sorte que l'IA qui se développe en France, et qui doit se développer d'une façon harmonisée au niveau européen, soit respectueuse de la vie privée», a-t-elle expliqué à l'AFP.
Le RGPD, le règlement général sur la protection des données, «s'applique à l'IA», a-t-elle affirmé. «Et on ne peut pas attendre parce que c'est une technologie qui est très consommatrice en données personnelles, de l'entraînement des algorithmes aux interactions avec les utilisateurs.»
Lire aussi : Combien coûte l'IA ?
L'entreprise américaine OpenAI, à l'origine du robot conversationnel ChatGPT, fait déjà l'objet de cinq plaintes auprès de la Cnil, qui lui a adressé un premier questionnaire dans le cadre d'une procédure de contrôle.
«Vous devez pouvoir avoir accès (à vos données personnelles), vous devez pouvoir demander un effacement. Et pour les IA génératives qui, comme leur nom l'indique, génèrent des textes, des sons ou des vidéos, il peut y avoir un risque sur l'exactitude des données, parce que c'est un système probabiliste qui n'est pas nécessairement fiable», souligne Marie-Laure Denis.
Mais selon elle, «il ne faut pas que ChatGPT concentre toutes les énergies des régulateurs de la protection des données. Le rôle de la Cnil, c'est de préciser les règles applicables pour donner aux acteurs de la sécurité juridique, autant que possible, pour l'IA en général, sachant que cette position est ensuite susceptible d'évoluer en fonction des positions de nos homologues, du prochain règlement européen sur l'intelligence artificielle et éventuellement de la jurisprudence».
Lire aussi : L’IA, outil ou menace pour le design ?
L'institution a lancé en début d'année un «service de l'intelligence artificielle» et vient d'annoncer son plan d'action. «Dans les prochains mois», elle soumettra à consultation publique sa doctrine sur les règles applicables en matière d'entraînement des algorithmes et d'exercice du droits des personnes sur leurs données.
Sur d'autres domaines liés à l'IA, elle mène actuellement des contrôles sur les caméras de vidéosurveillance algorithmique utilisées par des collectivités locales, ou sur les outils technologiques de lutte contre la fraude sociale. «On contrôlera très probablement certaines des caméras augmentées utilisées dans le cadre des JO» de Paris, assure la Commission.
Signe de la «prise de conscience des pouvoirs publics» sur les questions de vie privée, la Cnil compte aujourd'hui 270 emplois, un quart de plus qu'avant la mise en oeuvre du RGPD. «Naturellement avec tous les défis à venir, je ne peux qu'émettre le souhait que ces effectifs continuent à croître», avance Marie-Laure Denis, dont le mandat arrive à échéance en février 2024.
Lire aussi : Métavers et IA, les nouveaux assistants RH
«Les raisons qui ont présidé à la création de la Cnil il y a 45 ans n'ont jamais été autant d'actualité qu'en cette période de digitalisation accélérée pour protéger nos concitoyens face au possible mauvais usage de leurs données personnelles, que ce soit par la puissance publique ou par des acteurs privés», estime-t-elle.
En 2022, selon son rapport annuel, le nombre de plaintes traitées par l'autorité (13 160) a dépassé celui des plaintes reçues (12 193) - certaines étaient en attente -, dont 7 959 jugées recevables. La Cnil a également procédé à 345 contrôles, envoyé 147 mises en demeures et prononcé 21 sanctions pour un montant d'amendes cumulé de 101 millions d'euros.
Elle a enfin inauguré une procédure simplifiée de sanctions qui devrait lui permettre à terme d'adopter «une centaine de sanctions supplémentaires» par an, et a examiné 18 projets de sanctions proposés par ses homologues européens. Elle fait notamment partie des 4 autorités ayant demandé à l'autorité irlandaise de prononcer une sanction financière contre Meta, avec à la clé l'amende record de 1,2 milliard d'euros annoncée le 22 mai.
«En tout, 850 décisions ont été prises au niveau des Cnil européennes dans cette logique de régulation concertée (...) Très concrètement, on voit que [ça] a des incidences concrètes sur les plus gros acteurs du numérique», conclut-elle.
