JO et intelligence artificielle parmi les défis de la Cnil en 2024, selon sa présidente
Jeux de Paris, vidéosurveillance algorithmique, essor des IA génératives gourmandes en données personnelles: la présidente de la Cnil (Commission nationale de l'informatique et des libertés), Marie-Laure Denis, récemment reconduite pour un deuxième mandat de cinq ans, évoque les défis du gendarme de la vie privée des Français au cours des prochains mois.
Nous nous intéressons à la sécurité des données parce qu'il peut y avoir des données sensibles, par exemple des données d'accréditation des forces de l'ordre, et qui peuvent, le cas échéant, favoriser des actions malveillantes.
Nous veillons aussi à ce que soient uniquement collectées les données qui sont nécessaires à la finalité pour lesquelles elles sont collectées, qu'elles ne soient pas conservées trop longtemps."
Réponse: "Nous avons consacré beaucoup d'énergie en amont à la problématique des caméras augmentées. C'est la première fois en France, et même en Europe, que sont déployées des caméras qui embarquent de l'intelligence artificielle pour détecter des comportements suspects ou dangereux.
Par exemple, quelqu'un qui arrive dans une enceinte interdite, une voiture qui circule en sens inverse, le départ d'un feu, un mouvement de foule...
Les conséquences en matière de libertés publiques sont potentiellement plus importantes puisqu'il n'y a plus de limites humaines, même si ce sont des caméras qui ont pour finalité d'aider à la décision. Elles ne décident pas à la place des forces de l'ordre.
C'est peut-être un peu prématuré (pour un premier bilan, NDLR) parce que la première expérimentation, qui était en réalité un test de paramétrage et pas une vraie exploitation, c'était le concert de Depeche Mode début mars (à Paris, NDLR).
C'est vraiment en ce moment qu'ont lieu les premiers déploiements des caméras augmentées à travers un autre concert, un match de basket, dans des gares aussi."
Réponse: "Notre but, c'est d'accompagner cette innovation. Non pas la freiner mais l'accompagner dès l'amont avec des garanties dans la mesure où l'IA consomme un nombre considérable de données personnelles.
Les développeurs d'IA veulent pouvoir conserver ces données longtemps mais, nous, nous leur disons: "+On comprend mais regardons les différents usages pour lesquels vous les conservez+.
On peut essayer de les conserver le moins longtemps possible lorsque ce n'est pas nécessaire. En matière de protection de la vie privée, c'est un enjeu tout à fait fondamental.
La Cnil aura un rôle à jouer absolument incontournable en matière d'IA puisque les textes en matière de protection des données s'appliquent.
Je relève qu'il y a un certain nombre d'institutions qui ont appelé à ce que la Cnil joue un rôle important en matière de régulation de l'IA. Ça me paraît naturel sur un certain nombre de missions."
J.Goergen--LiLuX