AI Act -une protection insuffisante

Cet article fait partie de la suite du dossier sur l’informatisation du monde, paru dans le numéro 349 d’avril 2025 de Courant Alternatif, et notamment le premier article sur l’IA.

Ce cadre réglementaire européen prétend poursuivre les cinq groupes d’objectifs suivants :

• veiller à ce que les systèmes d’IA mis sur le marché soient sûrs et respectent la législation en vigueur en matière de droits fondamentaux, les valeurs de l’UE, l’État de droit et la durabilité environnementale ;
• promouvoir l’adoption d’une IA axée sur l’humain et digne de confiance ;
• garantir un cadre juridique uniforme afin de faciliter les investissements et l’innovation ;
• renforcer la gouvernance et l’application effective de la législation existante en matière d’exigences de sécurité applicables aux systèmes d’IA et de droits fondamentaux ;
• améliorer le fonctionnement du marché intérieur pour des applications d’IA légales et sûres, et empêcher la fragmentation du marché.

Évidemment, on voit vite que l’intérêt premier de cette législation, c’est de favoriser les marchés, l’investissement et la sécurité. Sachant que l’IA, en « moulinant » beaucoup plus de données que les moteurs de recherche classiques, consomme de plus en plus d’électricité et d’eau pour les systèmes de refroidissement, parler de « durabilité environnementale » est une plaisanterie de mauvais goût.

Mais ce qui nous préoccupe encore plus malgré cet affichage du respect des valeurs, ce sont les dangers de l’IA pour les libertés fondamentales et les droits humains. Amnesty International (2) a relevé quelques points positifs et surtout de gros points dangereux. Le premier point positif, c’est la possibilité de porter plainte et demander réparation pour des personnes qui auraient été victimes d’agissements utilisant l’IA. Le second, c’est l’interdiction de logiciels de « notation sociale », qu’ils soient publics ou privés. On devrait pour le moment échapper au modèle chinois (3).

Le règlement européen sur l’IA présente plusieurs failles, et en particulier, comme l’a révélé une enquête de Disclose (4), c’est le gouvernement français qui s’est fortement mobilisé pour affaiblir la portée du texte.
L’AI Act interdit toute une liste d’utilisations d’IA jugées « inacceptables », mais il y ajoute souvent des précisions sur les cas permettant des exceptions. Voici 3 exemples :

Sont interdits les systèmes d’IA destinés à évaluer ou prédire le risque qu’une personne physique commette une infraction pénale… sauf si c’est pour étayer l’évaluation humaine de l’implication d’une personne dans une activité criminelle. En gros, ces systèmes d’IA à usage policier sont interdits s’ils sont utilisés de manière prédictive (ayant tel profil, cette personne peut commettre une infraction), mais ils sont autorisés dans un but de confirmation (cette personne, soupçonnée d’avoir commis une infraction, a tel profil, donc il y a de grandes probabilités qu’elle l’ait effectivement commise). Ça promet de belles batailles devant les tribunaux si ce profilage par l’IA vient suppléer au manque de preuves.

Sont interdits les systèmes d’IA de reconnaissance des émotions sur le lieu de travail et les établissements d’enseignement… sauf pour des raisons médicales ou de sécurité.

Sont interdits les systèmes d’identification biométrique à distance en temps réel dans des espaces accessibles au public à des fins répressives… sauf dans les cas de recherche ciblée de victimes potentielles de la criminalité, de prévention d’une menace spécifique pour la vie ou la sécurité des personnes ou la prévention d’une attaque terroriste (5), d’identification, localisation ou poursuite à l’encontre des auteurs ou des suspects de certaines infractions pénales punissables d’une peine d’une durée maximale d’au moins quatre ans.

La reconnaissance faciale n’est que partiellement interdite. L’AI Act ouvre la voie à la légalisation de certains usages spécifiques de la reconnaissance faciale en temps réel. C’est une première dans l’UE, et cela constitue une violation des droits et des libertés.
L’IA est autorisée aux frontières pour surveiller les personnes exilées. En particulier, si l’AI Act interdit la « reconnaissance des émotions » et la « catégorisation biométrique » sur les lieux de travail et dans les établissements scolaires, leur utilisation par les forces de l’ordre et les autorités en charge du contrôle de l’immigration est autorisée. L’AI Act autorise donc aux États de tester et d’utiliser des technologies de surveillance dangereuses aux frontières de l’UE.

A la suite de cela, on peut penser que l’UE est prête à tester des systèmes de surveillance abusifs sur les populations les plus marginalisées de la société et peut ensuite les étendre à d’autres catégories de population.

Cette réglementation est applicable seulement au sein de l’UE ; rien n’est concrètement prévu pour prémunir les populations européennes contre l’utilisation abusive par des firmes étrangères de systèmes interdits. En particulier, le règlement classe les technologies d’IA en 4 niveaux de risques : Risque inacceptable, risque élevé, risque de transparence, risque minimal ou nul. En bons libéraux, les pays européens ont décidé que c’est le secteur privé, suite à un intense lobbying, qui définira les niveaux de risque : les fournisseurs de systèmes d’IA définiront eux-mêmes si leur outil doit être considéré comme présentant ou non un risque élevé.

Enfin, les États gardent toute latitude pour utiliser l’IA comme bon leur semble et au mépris des droits des personnes. Comme l’indique l’article 2.3 de l’AI Act, « le présent règlement (…) ne porte pas atteinte aux compétences des États membres en matière de sécurité nationale. » De même, l’article 46, alinéa 2 du règlement européen précise que « dans une situation d’urgence dûment justifiée pour des raisons exceptionnelles de sécurité publique (…) les autorités répressives » peuvent utiliser « un service d’IA à haut risque spécifique », sans autorisation.
Il est donc absolument nécessaire de dénoncer les discours présentant l’AI Act comme une réglementation protectrice des libertés. Il faut aussi dénoncer l’IA comme une technologie qui, en plus d’être coûteuse sur le plan environnemental et sur le plan social, constitue une menace pour les libertés individuelles. Et pour cela, il est nécessaire de lutter contre toutes les techniques (vidéosurveillance, pistage informatique, fichiers…) qui alimentent déjà l’IA. En complément des dénonciations, il semble qu’il y ait de plus en plus d’actes de sabotage de câbles et autres infrastructures. Ce ne peut être une mauvaise chose. On peut aussi pratiquer individuellement l’hygiène numérique en utilisant le moins possible les outils nous fliquant, ou avec des systèmes un peu plus sécurisés que ceux les plus répandus.

AD, Limoges

Notes
1) Le texte de base a été adopté en décembre 2023, l’accord voté en mars 2024 et ratifié en juin. Les dispositions devaient se mettre progressivement en place entre août 2024 et août 2026.
2) Plusieurs articles sur leur site, mais en particulier celui intitulé « Comment réglementer l’intelligence artificielle ».
3) Voir le documentaire « Ma femme a du crédit »
4) Sur Disclose.ngo « Intelligence artificielle : la France ouvre la voie à la surveillance de masse en Europe »
5) Comme certaines investigations policières contre des militants (affaires du « 8/12 », du « 15/06 ») ont été menées avec les moyens de l’antiterrorisme, on peut être certains que les exceptions seront activées fréquemment.