L’Union européenne envisage des propositions controversées visant à analyser en masse les communications privées sur les applications de messagerie cryptées à la recherche de pédopornographie.
En vertu de la législation proposée, les photos, vidéos et URL soumises sur des applications populaires telles que WhatsApp et Signal seraient analysées par un algorithme basé sur l’IA par rapport à une base de données gouvernementale contenant des éléments connus pour être abusifs.
Le Conseil de l’UE, l’un des deux organes législatifs du bloc, votera jeudi sur la législation, connue sous le nom de Chat Control 2.0.
Si elles sont approuvées par le Conseil, qui représente les gouvernements des 27 États membres du bloc, les propositions passeront à la prochaine étape législative et aux négociations sur les termes exacts de la loi.
Alors que les responsables européens affirment que Chat Control 2.0 contribuera à prévenir l’exploitation sexuelle des enfants, les plateformes de messagerie cryptée et les défenseurs de la vie privée se sont farouchement opposés aux propositions, les comparant à la surveillance de masse de 1984 de George Orwell.
Pourquoi les projets de l’UE sont-ils si controversés ?
Les critiques affirment que Chat Control 2.0 est incompatible avec le cryptage de bout en bout, qui garantit que les messages ne peuvent être lus que par l’expéditeur et le destinataire prévu.
Alors que le régime proposé de « modération des téléchargements » analyserait les messages avant leur envoi, les critiques ont qualifié ces mesures de « porte dérobée » sous un autre nom qui rendrait les communications de chacun vulnérables à un piratage potentiel ou à des interférences de tiers.
« Nous pouvons appeler cela une porte dérobée, une porte d’entrée ou une « modération des téléchargements ». Mais quel que soit le nom que nous lui donnons, chacune de ces approches crée une vulnérabilité qui peut être exploitée par des pirates informatiques et des États-nations hostiles, supprimant la protection des mathématiques incassables et mettant à sa place une vulnérabilité de grande valeur », a déclaré Meredith Whittaker, présidente de Signal. , a-t-il déclaré dans un communiqué cette semaine.
Les opposants soutiennent également que les propositions donneraient un pouvoir énorme aux entreprises privées, dont beaucoup sont basées aux États-Unis, pour s’engager dans une surveillance massive des citoyens européens.
Une fois qu’une porte dérobée existe, elle pourrait être utilisée pour rechercher plus que de la pornographie juvénile, selon Matthew Green, expert en cryptographie appliquée à l’Université Johns Hopkins.
« Les gens pensent que le Chat Control concerne des crimes spécifiques. Non, ce n’est pas là l’enjeu. Ce qui a été pris est une décision architecturale concernant le fonctionnement des systèmes de messagerie privée : si elle est adoptée, ces systèmes seront, selon la loi, configurés pour une surveillance de masse. Cela peut être utilisé à n’importe quelle fin », a déclaré Green dans un article sur X.
Patrick Breyer, membre du Parlement européen du parti pirate allemand, a comparé ces propositions à l’ajout de logiciels espions gouvernementaux sur tous les appareils de l’UE.
« Nous sommes au bord d’un régime de surveillance aussi extrême que celui que nous connaissons partout ailleurs dans le monde libre. Même la Russie et la Chine n’ont pas réussi à nous mettre des microbes comme l’UE a l’intention de le faire », a déclaré Breyer dans un communiqué.
Qui soutient la loi ?
Des propositions visant à analyser en masse les communications privées à la recherche de pédopornographie ont été présentées pour la première fois par la commissaire suédoise aux Affaires intérieures, Ylva Johansson, en 2022.
La Belgique, l’actuel président du Conseil, a proposé la dernière version de la législation comme compromis après que des propositions plus invasives aient été rejetées par le Parlement européen.
Selon la dernière version, les analyses seraient limitées aux photos, vidéos et URL, et les utilisateurs devraient consentir à l’analyse.
Toute personne ne consentant pas ne pourrait pas télécharger ou partager des photos et des vidéos.
Les partisans affirment que les propositions sont nécessaires pour lutter contre le fléau de l’exploitation des enfants, qui, selon les responsables, est facilité par les plateformes cryptées et l’émergence de logiciels de génération d’images basés sur l’intelligence artificielle.
En 2022, le Centre national américain pour les enfants disparus et exploités a déclaré que 68 % des 32 millions de cas record de matériel d’exploitation d’enfants signalés par les prestataires de services provenaient de « services de chat, de messagerie ou de courrier électronique » au sein de l’UE.
L’Internet Watch Foundation, basée au Royaume-Uni, a fait état de conclusions similaires, identifiant l’UE comme la source des deux tiers des contenus abusifs.
Les forces de l’ordre et les services de renseignement ont souvent exprimé leur inquiétude quant au fait que les criminels utilisent des applications de messagerie cryptées pour éviter d’être détectés.
Telegram et Signal ont tous deux été utilisés par des groupes armés allant de l’EIIL (ISIS) aux Oath Keepers.
Selon des documents divulgués et obtenus par l’organisme de médias français Contexte, les agences de renseignement, les armées, la police et certains ministères de l’UE sont exemptés de ces mesures.
Qui s’oppose à la loi ?
Parmi les États membres de l’UE, selon Breyer, seuls l’Allemagne, le Luxembourg, les Pays-Bas, l’Autriche et la Pologne ont pris clairement position contre les propositions, tandis que l’Italie, la Finlande, la Suède, la Grèce et le Portugal, entre autres, n’ont pas encore clairement exprimé leur position. .
Des députés européens de pays comme l’Allemagne, le Luxembourg, les Pays-Bas et l’Autriche ont également exprimé leurs inquiétudes, certains d’entre eux estimant que la surveillance ne devrait être dirigée que vers des individus spécifiques sur la base d’une cause probable déterminée par un juge.
En novembre, le Parlement européen, qui doit adopter la plupart des lois européennes, a voté contre la « surveillance aveugle des chats » en faveur d’une surveillance ciblée.
Parmi les entreprises technologiques et les groupes de défense des droits numériques opposés aux propositions figurent Mozilla, Signal, Proton, l’Electronic Frontier Foundation, European Digital Rights, l’Internet Freedom Foundation et le Conseil irlandais pour les libertés civiles.
Mercredi, le lanceur d’alerte de la National Security Agency (NSA), Edward Snowden, a qualifié ces propositions de « mesure terrifiante de surveillance de masse ».
Comment Chat Control 2.0 fonctionnerait-il en pratique ?
Même si Chat Control 2.0 allait de l’avant, les experts affirment que la version actuelle de la loi soutenue par la Belgique serait très difficile, voire impossible, à appliquer avec un cryptage de bout en bout.
Au Royaume-Uni, qui a adopté un projet de loi sur la sécurité en ligne sur le même thème, le gouvernement a admis qu’il n’existait pas encore de technologie permettant d’analyser les messages cryptés sans compromettre la sécurité globale.
Les plateformes technologiques telles que Signal et WhatsApp, qui avaient menacé de se retirer du Royaume-Uni, ont considéré cela comme une victoire partielle.
Les critiques soutiennent également que le ciblage des applications de messagerie sera inefficace pour mettre fin à la pédopornographie étant donné l’existence de réseaux privés et du dark web.
Les algorithmes basés sur l’IA se sont également révélés susceptibles de commettre des erreurs, augmentant ainsi le risque que des personnes innocentes soient signalées aux forces de l’ordre.
Le New York Times a rapporté en 2022 que l’outil d’IA de Google pour la détection de matériel abusif avait signalé à tort un père au foyer à San Francisco après avoir envoyé une photo du pénis de son fils au médecin, ce qui a déclenché une enquête policière et la fin de sa relation. . Comptes Google.
