Le 8 avril 2024, la CNIL a publié ses premières recommandations concernant le développement des dispositifs, outils et applications utilisant de l'intelligence artificielle (IA)1.
Ces dernières s'inscrivent dans le plan d'action annoncé le 16 mai 2023 pour un déploiement de systèmes d'IA respectueux de la vie privée des individus2.
Les recommandations visent notamment à éclairer les décisions stratégiques des acteurs de l'écosystèmes IA afin de les aider à concilier l'innovation et le respect des droits des personnes sur leurs données personnelles.
Périmètre des recommandations CNIL en matière d'IA
Le référentiel publié par la CNIL s'applique de manière cumulative aux :
Systèmes d'intelligence artificielle…
Le système d'IA est défini par le futur règlement sur l'IA comme un système « conçu pour fonctionner à différents niveaux d'autonomie, qui peut faire preuve d'une capacité d'adaptation après son déploiement et qui, pour des objectifs explicites ou implicites, déduit, à partir des données d'entrée qu'il reçoit, la manière de générer des résultats tels que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels »3.
… en phase de développement
Selon la CNIL, la phase de développement est celle qui consiste à « concevoir, développer et entraîner un système d'IA »4. Cette phase est antérieure à la phase de déploiement durant laquelle le système d'IA est mis en usage.
…. traitant des données à caractère personnel
Cela inclut notamment les systèmes fondés sur l'apprentissage automatique ou ceux développés à partir de vidéos, d'images ou d'enregistrement de voix. Les recommandations s'appliquent également aux systèmes d'IA à usage général.
Méthodologie de conformité de l'IA préconisée par la CNIL
Les recommandations de la CNIL s'articulent suivant une méthodologie détaillée au sein de sept fiches pratiques5 guidant les acteurs de l'IA afin qu'ils puissent :
- Déterminer le régime juridique applicable à leurs traitements de données (fiche 1)
- Définir les finalités poursuivies (fiche 2)
- Déterminer la qualification juridique des fournisseurs de systèmes d'IA (fiche 3)
- Définir une base légale de traitement (fiche 4-1)
- S'assurer que le traitement est licite en cas de réutilisation des données (fiche 4-2)
- Réaliser une analyse d'impact, si nécessaire (fiche 5)
- Tenir compte de la protection des données dans la conception du système (fiche 6)
- Tenir compte de la protection des données dans la collecte et la gestion des données (fiche 7)
Chacune de ces thématiques sera prochainement détaillée par notre cabinet.
Quel pilotage juridique de la conformité RGPD des IA ?
Il est à noter que la CNIL souhaite compléter ces recommandations aux fins d'assurer une conformité RGPD des IA déployées au sein des organisations tout au long de leur mise en œuvre.
Le pilotage juridique de la conformité RGPD des IA s'attachera ainsi à suivre les recommandations à venir de la CNIL concernant la gestion des droits et l'information des personnes concernées, la gestion des biais et discriminations, la sécurité ou encore sur la conception et l'entraînement des modèles dans le respect du RGPD.
Ces travaux, qui devraient se confrontés à quelques points de friction entre l'IA Act et le RGPD seront prochainement soumis à consultation publique par la Commission.
Footnotes
1. IA : la CNIL publie ses premières recommandations sur le développement des systèmes d'intelligence artificielle, 8 avril 2024, Cnil.fr
2. Intelligence artificielle : le plan d'action de la CNIL, 16 mai 2023, Cnil.fr
3. Article 3 de la Résolution législative du Parlement européen du 13 mars 2024 sur la proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l'intelligence artificielle (législation sur l'intelligence artificielle) et modifiant certains actes législatifs de l'Union (COM (2021)0206 – C9-0146/2021 – 2021/0106(COD))
4. Quel est le périmètre des fiches pratiques sur l'IA ?, 8 avril 2024, Cnil.fr
5. Recommandations de la CNIL, Cnil.fr
The content of this article is intended to provide a general guide to the subject matter. Specialist advice should be sought about your specific circumstances.