ChatControl : les liaisons dangereuses

Il faut remonter aux racines du projet de règlement pour comprendre comment l'UE travaille, derrière de nobles intentions, à se doter d'un outil éminemment attentatoire aux libertés fondamentales.

Au motif de lutter contre la pédocriminalité et la pédopornographie en ligne, l'Union européenne travaille à un nouveau règlement, connu et popularisé sous le nom de ChatControl.

Laborieux dans sa mise en œuvre tant les institutions européennes et surtout les Etats membres entre eux sont partagés sur le sujet, dangereux pour les libertés fondamentales, la liberté d’expression et la protection de la vie privée, le projet de règlement CSAM (Child Sexual Abuse Material) s’avère être complètement inopérant face à la criminalité organisée.

Que ce soit sur les plans éthique, juridique ou technologique, rien ne va.

Dans une lettre ouverte publiée le 10 septembre, plus de 600 scientifiques de 35 pays tirent la sonnette d’alarme. Et s’élèvent contre un projet qui, bien que révisé – la version initiale date de 2022, elle a été amendée à plusieurs reprises et notamment par le Parlement européen – “créera des capacités inédites de surveillance, de contrôle et de censure et comporte un risque inhérent de dérive fonctionnelle et d’abus par des régimes moins démocratiques”.

“Assurer la sécurité et la confidentialité actuelles des communications numériques et systèmes a nécessité des décennies d’efforts concertés de la part des chercheurs, de l’industrie et des décideurs politiques. Il ne fait aucun doute que cette proposition compromet complètement la sécurité et la confidentialité qui sont essentiels pour protéger la société numérique”.

Sur le papier, le risque d’atteinte à la vie privée, à la confidentialité des échanges et à la liberté d’expression est réel. Le dispositif prévoit de cibler toutes les communications, publiques, privées mais aussi chiffrées de bout en bout. Qu’elles passent par des messageries comme WhatsApp, Signal, Télégram, des plates-formes comme YouTube ou via les réseaux sociaux.

Pour bien comprendre comment fonctionne ChatControl, lire ou relire notre précédent article :

---

Comment en est-on arrivé jusque-là ? Le projet de règlement est une initiative de la Commission européenne, reprise et proposée par le parlement européen et le Conseil de l’Union européenne. Un texte défendu par la commissaire européenne aux Affaires intérieures Ylva Johansson, dans un désormais classique contexte de lobbying et de liens d’intérêts.

Ainsi, la Commission a-t-elle étroitement travaillé sur ce texte avec Europol. Un procès-verbal récupéré par Balkan Investigative Reporting Network révèle que l’office européen de police a poussé pour un "accès non filtré" aux données collectées via le scanning, afin d'entraîner des algorithmes d'IA pour d'autres crimes. Des révélations qui ont poussé au déclenchement d’une enquête, parmi d’autres liées au projet de règlement sur les abus sexuels sur enfants, de la médiatrice européenne en 2024 ¹.

Les liens et potentiels conflits d’interêts au sein de la Commission européenne ne concernent pas qu’Europol. La commissaire européenne a aussi travaillé étroitement avec des ONG comme Thorn ou WeProtect Global Alliance, ou des sociétés comme Microsoft. Outre le fait que ces organisations ne sont pas vraiment des détracteurs de l’accès illimité aux données et militent pour le recours à la tech, il y a comme des interférences.

Ainsi, des membres du cabinet de Ylva Johansson, comme Antonio Labrador Jimenez, siègent-ils à WeProtect. Ainsi, Thorn comme WeProject ont-ils reçu des financements, directs ou indirects, de la Commission ainsi que des accès “inhabituels” à des réunions. Qu’est ce qui a été décidé ? Avec quel niveau d’indépendance et d’expertise ?

"En dépit des sérieux doutes quant à l’efficacité des technologies de détection ², il n’y a eu aucune discussion publique, analyse ou évaluation de ces technologies qui puisse justifier l’approche retenue dans le projet de règlement ³. Ce manque de transparence entrave une discussion ouverte et informée qui pourrait identifier des technologies adaptées pour lutter contre les abus faits aux enfants, et met en danger la sécurité numérique de notre société en Europe et au‑delà", s’élèvent les scientifiques.

A un mois du vote, le 14 octobre, du Conseil de l’UE, la balance a-t-elle définitivement penché – tout du moins pour le texte dans sa forme actuelle ? Alors que la France plaide pour ce qui n’est autre qu’une surveillance de masse intrusive et attentatoire aux droits fondamentaux, le Luxembourg et la Slovaquie viennent de se rajouter à la liste des pays (six en tout désormais) qui annoncent s’opposer au texte aux côtés également désormais de l’Allemagne. Plus grand pays de l’UE, la position de l’Allemagne était scrutée de près. Son “non” rend désormais improbable le vote à la majorité qualifiée.

A ce jour, 15 pays soutiennent le projet, dont la France, l'Espagne et l'Italie. Six se positionnent contre et six sont toujours indécis.

1. Ces enquêtes ont conduit à des conclusions de “maladministration” (mauvaise administration), avec des recommandations pour améliorer la transparence et les procédures anti-conflits. La médiatrice européenne (Emily O'Reilly jusqu'en février 2025, remplacée par Teresa Anjinho) n'a pas de pouvoir contraignant, mais ses recommandations peuvent mener à des réformes.

2. Le nombre de faux positifs est par exemple significatif. En Irlande, seuls 20 % des signalements reçus en 2020 par le National Center for Missing & Exploited Children relevaient réellement de la maltraitance d’enfants. En Allemagne, 34 % des signalements sur les contenus pédopornographiques sont des faux positifs d’après le Bundeskriminalamt, l’office fédéral de police criminelle.

3. La Commission nie tout biais, affirmant que la proposition CSAM est "neutre technologiquement" et axée sur la protection des enfants.