Beaucoup d’entre vous auront reçu la notification avec laquelle Meta annonce le lancement d’un nouveau programme de développement pour son intelligence artificielle. Bref, Meta utilisera à peu près toutes les informations déposées au fil des années par ses utilisateurs pour entraîner ses algorithmes. Imaginez : des discussions personnelles, des expressions dont vous n’êtes pas fier ou que vous ne reconnaissez plus comme les vôtres, des commentaires plus ou moins ridicules, des likes sur des photos ou des posts au goût douteux. Tout cela servira à entraîner l’IA, qui, à son tour, pourra « communiquer » avec des tiers.
(Sur la photo : Stefano Rossetti est avocat chez Noyb – Centre européen pour les droits numériques)
Ce que tout cela signifie reste franchement un mystère. En théorie, on peut s’y opposer, mais seulement en théorie. Par choix explicite de Meta, l’exercice de ce droit est en fait assez difficile (voir l’excellent article d’Annalisa Godi à ce sujet). Dans tous les cas, même lorsque l’utilisateur réussit, il n’existe vraiment aucun moyen de vérifier si la demande est acceptée dans la pratique. L’autorité irlandaise, territorialement compétente pour enquêter sur Meta, n’est en effet pas connue pour la diligence avec laquelle elle exerce ses fonctions de contrôle.
Pour ces raisons, noyb a déposé une série de plaintes auprès de différentes autorités de protection des données, soulignant la nécessité d’une action concertée et urgente pour vérifier la légitimité de telles opérations.
À la base de tout cela se trouve une ambiguïté délibérée et intentionnelle concernant le traitement des données. Lorsque tout a commencé, il y a une vingtaine d’années, personne ne pouvait imaginer que les données de son compte personnel puissent être utilisées à quelque fin que ce soit. Au début, il s’agissait de marketing direct. Ensuite, le ciblage politique (quelqu’un se souvient d’un certain Cambridge Analytica ?). Et maintenant l’intelligence artificielle, avec les risques possibles que cela comporte, surtout si la formation de l’algorithme est basée sur ce genre d’informations (pensez aux chats privés).
Un cas pratique. Il y a quelques jours, dans le but d’améliorer mon anglais, j’ai demandé à un assistant IA de m’aider à rendre mon expression plus naturelle. Le robot m’a posé une question : « Qu’est-ce que tu aimes ? » et j’ai pensé : « Lire ». J’ai répondu : « Je suis passionnée par les livres, j’aime les avoir avec moi, les lire, apprendre auprès de grands esprits, femmes et hommes ». Correctif IA : « Je suis passionnée de livres. J’aime m’entourer d’eux, fouiller dans leurs pages et m’imprégner de la sagesse des grands esprits, hommes et femmes». Afin de proposer une version plus épurée, l’IA a inversé le sens des deux mots surlignés, en plaçant « hommes » avant « femmes », comme cela a toujours été le cas. Cela est dû au fait que l’algorithme a été entraîné sur un ensemble de données qui a produit statistiquement cette séquence. En d’autres termes, il réitère la discrimination fondée sur le sexe. Et ce type de dynamique peut se répéter dans bien d’autres secteurs.
Par exemple, en ramenant la réflexion à Cambridge Analytica, il existe un risque évident que l’IA puisse influencer le débat démocratique, en proposant des articles qui confirment un préjugé plutôt que d’apporter des éléments supplémentaires, essentiels pour former un cerveau pensant et votant (nous voulons être optimistes). ) . Tout cela peut alimenter des risques systémiques tels que les discours de haine, les discriminations de toutes sortes, la limitation de la liberté d’expression en ligne. Par exemple, si une publication ne reflète pas une position acceptée, et reçoit donc des commentaires négatifs, l’IA pourra la qualifier d’« illégitime » et supprimer le contenu et son auteur de la plateforme. (Ce n’est pas de la science-fiction. Tout cela se produit et fait l’objet d’un nouveau règlement européen, le Digital Services Act.) Contester la décision algorithmique est théoriquement possible, tout comme obtenir une intervention de contrôle humain. Cependant, pour y parvenir efficacement, vous devez connaître la logique décisionnelle de l’IA. Les plateformes ne sont cependant pas particulièrement enclines à fournir ces explications parce qu’elles exposent leur propriété industrielle à des risques, et parce que la modération humaine coûte de l’argent (à moins qu’elles ne sous-traitent cette fonction dans les pays en développement, sans protection du droit du travail, et même cela, nous l’avons entendu). ça avant.) C’est ici que le rôle des autorités de contrôle entre en jeu.
Le système de coopération envisagé par le règlement européen sur la vie privée prévoit que la compétence pour superviser ce type de traitement incombe aux autorités de protection des données des pays où ces géants ont leur principal établissement. Essentiellement, l’Irlande et le Luxembourg. Il n’y a qu’un « petit » problème. Pour une raison impénétrable – disons « impénétrable » pour ne heurter la sensibilité de personne – ces pays ne disposent pas de règles procédurales claires en matière de traitement des plaintes, avec pour conséquence que, dans la grande majorité des cas, aucune enquête n’est menée et rarement une sorte d’intervention. En d’autres termes, le système ne fonctionne pas précisément pour le traitement des données personnelles pour lequel il devrait mieux fonctionner.
En ne réglementant pas rapidement les activités de leurs autorités de contrôle, ces pays permettent en fait la création de véritables paradis de la vie privée. Il s’agit d’une violation de la réglementation européenne. La Commission européenne pourrait intervenir par une procédure d’infraction. Mais jusqu’à présent, il n’a pas fait grand-chose. Peut-être que les négociations pour la nouvelle Commission pourront prendre en compte cet état de fait. Le moment d’agir de manière constructive est véritablement arrivé. En fait, nous sommes déjà très en retard.
par Stefano Rossetti (Source : Demain)
