Marie-Laure Denis, présidente de la CNIL, a participé à la publication du numéro de mars 2025 (n°29) de la série Enjeux Numériques des Annales des Mines, intitulé Pour une IA responsable et éthique.
Réglementation européenne : IA et RGPD pour une meilleure transparence
L’Union européenne renforce son cadre législatif avec le Règlement sur l’Intelligence Artificielle (RIA), qui vient compléter le Règlement Général sur la Protection des Données (RGPD).
Ce cadre juridique a pour but de garantir la transparence et la sécurité des systèmes d’IA. Le RIA limite les risques systémiques, tandis que le RGPD protège les droits individuels et la vie privée.
La régulation de l’IA vise également à prévenir les atteintes aux libertés fondamentales, telles que la surveillance de masse et les décisions automatisées abusives. Une coopération étroite entre régulateurs, développeurs et utilisateurs est essentielle pour assurer une innovation technologique respectueuse des droits fondamentaux et des valeurs sociétales.
L’impact de l’IA sur la société et les données personnelles
L’intelligence artificielle transforme profondément les interactions numériques et les pratiques professionnelles et scientifiques. Par exemple, dans la recherche génomique, l’IA facilite l’analyse des mutations génétiques, contribuant à une meilleure compréhension des maladies complexes comme le cancer.
Toutefois, l’usage massif des systèmes automatisés pose des défis en matière de transparence et de protection des libertés individuelles. La prise de décision algorithmique peut engendrer une perte d’autonomie et d’expertise, notamment si elle introduit des biais discriminatoires.
Vidéosurveillance algorithmique : équilibre entre sécurité et libertés publiques
La vidéosurveillance algorithmique (VSA) illustre le dilemme entre sécurité publique et respect des libertés individuelles. Ces systèmes, qui visent à détecter des comportements inhabituels, soulèvent des préoccupations sur la protection des données personnelles.
Lors des Jeux Olympiques de Paris 2024, la loi JOP encadrait l’expérimentation de la VSA sous trois conditions :
- Interdiction de traiter des données biométriques, notamment la reconnaissance faciale.
- Impossibilité de croiser ces données avec d’autres bases de données personnelles.
- Absence de décisions automatisées déclenchant une intervention policière sans validation humaine.
Ces restrictions visaient à empêcher l’identification des citoyens dans l’espace public. La CNIL supervisait ces expérimentations pour garantir le respect des normes de protection des données.
Intelligence artificielle (IA) et prise de décision : entre efficacité et risques
Les systèmes d’IA décisionnelle offrent des avantages considérables en allégeant les tâches administratives et en soutenant l’expertise métier. Toutefois, ils peuvent entraîner une dépendance accrue aux algorithmes et une réduction des effectifs humains.
En février 2024, la Cour suprême autrichienne a statué sur un cas illustrant ces enjeux. Elle a jugé que le système de classification des demandeurs d’emploi utilisé par le service public de l’emploi en Autriche entrait dans le périmètre de l’article 22 du RGPD, permettant ainsi un encadrement strict de son utilisation afin d’éviter des discriminations.
RGPD : Profilage et personnalisation
L’inclusion d’un individu dans une catégorie « performatrice », attribuant des droits ou services en fonction d’une analyse algorithmique, correspond au concept de « profilage » défini par le RGPD. Ce traitement, qui repose sur l’analyse automatique des données personnelles, peut inclure des critères tels que la productivité ou le comportement.
Les systèmes d’IA intégrant des caractéristiques personnelles risquent de reproduire des biais et des stéréotypes. L’algorithme de justice prédictive COMPAS, utilisé aux États-Unis, illustre ce risque : il influençait la sévérité des peines en fonction de biais discriminatoires détectés dans les données d’entraînement.
Dans des domaines moins sensibles, ces biais peuvent néanmoins altérer la qualité des services rendus. Pour limiter ces dérives, le RIA impose des audits réguliers visant à identifier et corriger les biais algorithmiques.
Lire aussi : Cybersécurité – Tendances pour 2025
Au-delà de l’aspect juridique, le « profilage » englobe aussi les systèmes de recommandation de contenu, qui s’appuient sur la collecte de données personnelles (habitudes de consommation, localisation, situation familiale, etc.) afin de proposer des services personnalisés.
Le RGPD impose des règles strictes en matière de transparence, d’information préalable et d’opt-out pour permettre aux utilisateurs de refuser ces traitements. Le RIA va plus loin en interdisant strictement les systèmes exploitant les vulnérabilités cognitives ou émotionnelles des individus.
En effet, ces mécanismes de personnalisation peuvent influencer les comportements des utilisateurs, par exemple en encourageant la consommation excessive ou en enfermant les individus dans des bulles informationnelles. Cette situation pose des questions fondamentales sur la diversité de l’information et le bon fonctionnement de la démocratie à l’ère numérique.
Préparez-vous aux défis de la cybersécurité en 2025
Les cybermenaces évoluent à grande vitesse. Pour rester protégé, il est essentiel d’allier technologies avancées et sensibilisation continue.
Besoin d’accompagnement pour sécuriser vos données ?
OPTIMEX DATA vous accompagne dans votre transition vers une sécurité renforcée. Basés à Lyon, Grenoble, Sophia-Antipolis et partout en France, nous sommes à votre disposition.
- Téléphone : 04 76 63 61 61
- Email : contact@optimex-data.fr
Protégez vos données, assurez votre avenir.
Source : Enjeux Numériques – Pour une IA responsable et éthique.
