La loi sur l’IA de l’UE: Cadre et impact sur l’innovation

La loi sur l’IA qui a été proposée par la Commission européenne en avril 2021 puis adoptée en mars 2024, vise à définir un cadre global pour les systèmes d’intelligence artificielle au sein de l’UE. Il les classe en fonction de leur niveau de risque potentiel, allant de minime à inacceptable, et impose en conséquence des contraintes réglementaires. Ce règlement met notamment l’accent sur la transparence, la responsabilité et le contrôle humain dans le déploiement de l’IA, de manière à préserver les droits fondamentaux et les valeurs sociétales.

Nous avons échangé avec Vincent Bouatou, Directeur adjoint de la technologie chez IDEMIA Public Security (IPS), au sujet de l’impact du règlement sur l’IA et de la manière dont celui-ci influencera l’avenir de l’innovation.

Pouvez-vous nous donner plus d’informations au sujet de la loi sur l’IA et de ses répercussions potentielles sur le secteur de la technologie ?

Chez IPS, nous soutenons fermement les initiatives réglementaires visant à assurer la confiance du public et à l’utilisation responsable des technologies. Nous avons participé activement aux discussions sur ces sujets. Ce règlement apporte des clarifications et des règles indispensables aux fournisseurs de technologie, aux clients et aux utilisateurs finaux, notamment en ce qui concerne les cas d’utilisation et les pratiques de gestion des données.

En outre, le règlement sur l’IA introduit des contrôles et des audits rigoureux et impose de documenter de manière approfondie les déploiements de produits et les développements algorithmiques. Ceci comprend l’assurance de la qualité des données et les mesures de gestion des risques au cours des phases de développement et de déploiement. Ces exigences soulignent la nécessité d’un examen minutieux de processus qui relevaient auparavant de l’autorégulation ou étaient ouverts à interprétation.
Les fournisseurs de technologie étant désormais contraints d’expliquer le fonctionnement de leurs systèmes, l’écosystème devient plus compréhensible. Les entités utilisant ces systèmes pourront ainsi répondre aux préoccupations éventuelles des utilisateurs finaux et des personnes concernées, dans le but, à terme, d’instaurer la confiance et de renforcer la responsabilisation.

De plus, nous sommes convaincus que la loi sur l’IA sera bénéfique pour le secteur de la technologie, en favorisant l’impartialité et l’équité dans les systèmes d’IA. L’adaptation aux nouvelles règles présentera peut-être des défis, mais le respect de celles-ci est indispensable pour préserver la réputation du secteur et assurer une croissance durable.

Qui veillera au respect de la loi sur l’IA par chaque État membre de l’UE ?

La loi sur l’IA prévoit la création d’autorités nationales de surveillance des marchés, chargées de veiller au respect des exigences sur leurs territoires respectifs. Leur rôle consistera à assurer le suivi de la mise en œuvre, à réaliser des inspections et à faire respecter le règlement. Ces autorités travailleront également en collaboration avec d’autres acteurs nationaux et de l’UE, de manière à assurer la cohérence de l’application et de l’interprétation des règles dans les différents États membres.

En tant que chef de file du secteur, nous sommes attachés à participer activement aux discussions visant à faciliter la compréhension de la réalité de notre industrie et des avancées technologiques par les autorités compétentes. Cet engagement est attesté par nos collaborations passées avec des entités telles que la Commission Nationale de l’Informatique et des Libertés (CNIL) en France et le National Institute of Standards and Technology (NIST, ou Institut national des normes et de la technologie) aux États-Unis sur des questions spécifiques aux technologies biométriques.

En outre, des échanges réguliers ont lieu entre toutes les parties prenantes. Ils sont essentiels pour rester informés des dernières évolutions et éventuellement affiner la réglementation, par exemple par le biais d’actes délégués. Ces discussions continues contribuent à assurer la réactivité du cadre réglementaire face aux défis émergents et aux avancées technologiques.

Quelles sont les mesures prises par IPS pour garantir la conformité de toutes ses solutions aux exigences de la loi sur l’IA?

Examinant nos processus à la recherche d’éventuelles lacunes au regard de la loi sur l’IA, nous sommes fiers de constater qu’elles sont rares. Hormis quelques changements mineurs dans la documentation de nos pratiques relatives au développement et aux produits, nos solutions et nos processus internes sont déjà, pour l’essentiel, alignés sur la quasi-totalité des dispositions du règlement.

Le siège social d’IPS se trouve en France. Nous disposons d’une grande équipe de R&D, également située en France, contrairement à bon nombre de nos concurrents. Tous nos processus de développement et nos solutions sont déjà conformes au RGPD.

Nous nous efforçons de produire des algorithmes équitables et impartiaux pour tous, indépendamment de l’âge, de l’origine ethnique ou du sexe. Il ne s’agit toutefois pas d’une tâche aisée et, pour y parvenir, nos algorithmes sont soumis à des tests rigoureux. Nous sommes fiers de pouvoir dire que nos algorithmes d’identification biométrique ont atteint un tel niveau d’efficacité que les biais ne peuvent plus être mesurés. Peu de sociétés spécialisées dans la biométrie peuvent faire des déclarations aussi audacieuses et les étayer par des tests indépendants.

IPS participe depuis de nombreuses années aux tests de référence du NIST pour trois types de biométrie : l’iris, le visage et les empreintes digitales. Nous nous sommes toujours classés en première position ou dans le peloton de tête de ces tests de référence, ce qui est une prouesse pour tout fournisseur de technologie.

Quel sera l’impact de la loi sur l’IA sur les forces de l’ordre au sein de l’UE ?

L’une des répercussions les plus significatives est liée à l’accent que met la nouvelle loi sur la responsabilité et la transparence. Les forces de l’ordre qui déploient des systèmes biométriques doivent fournir des explications claires sur la manière dont elles se procurent et exploitent leurs systèmes d’identification biométriques, y compris les algorithmes, la gestion des données et les biais potentiels.

Les dispositions de la loi sur l’IA clarifient également l’utilisation autorisée des plateformes d’analyse vidéo par les forces de l’ordre, en définissant des lignes directrices précises. Le texte comporte aussi une liste courte et claire d’exceptions à l’interdiction générale d’identification biométrique en temps réel dans les espaces publics.

En choisissant de travailler avec IPS comme partenaire privilégié, les forces de l’ordre s’assurent de collaborer avec un fournisseur de technologie européen déjà pleinement conforme au RGPD et aux exigences du règlement sur l’IA. En tant que porte-parole du secteur, nous avons joué un rôle actif dans l’élaboration de ces règles, nous démarquant ainsi de nos concurrents.

Nous faisons bénéficier à nos clients de notre grande expérience, ayant défendu cette cause depuis des années. L’utilisation de notre technologie inspire confiance et tranquillité d’esprit aux forces de l’ordre du monde entier. Développés en Europe, nos algorithmes sont les plus équitables et précis du marché, une association rare et complexe qui nous distingue également de la concurrence.

Qu’en est-il pour les forces de l’ordre en dehors de l’Europe ?

Pour les forces de l’ordre hors de l’UE, la collaboration avec IDEMIA Public Security constitue une référence, leur permettant d’adopter une technologie conforme avant même d’éventuels changements de réglementation. Cette approche proactive leur donne une longueur d’avance, dans un contexte où d’autres régions pourraient suivre avec leurs propres versions de la loi sur l’IA.