L’intelligence artificielle se nourrit de données, c’est dommage que les « cobayes » soient sélectionnés sans leur consentement : la découverte des experts.
Si un utilisateur recherche une recette avec seulement deux ingrédients dans le réfrigérateur, il peut utiliser l’IA qui lui fournira des suggestions ; il en va de même pour les voyages : il existe des systèmes capables d’alerter l’utilisateur lorsque le prix baisse. Sans parler de la génération de photos, de musique, etc. En bref, l’IA est entrée dans la vie des utilisateurs comme un coup de tonnerre avec pour objectif de l’améliorer. Mais à quel prix ?
Dans la pensée collective, il suffirait de penser à un concept fascinant de progrès technologique, mais en l’analysant dans un sens pratique, la question devient plus cynique. L’IA utilise diverses données pour entraîner le système; ou plutôt, ceux qui y travaillent utilisent les informations des utilisateurs. Toutefois, jusqu’à présent, le problème ne semble pas être le système, qui est désormais dans le domaine public, mais plutôt la manière non transparente avec laquelle cette pratique se déroule depuis un certain temps.
Intelligence artificielle : le mécanisme sournois de collecte de données
La plateforme Slack, semble-t-il, a collecté – et collecte toujours – des messages, des fichiers et des données pour former ses capacités en Intelligence Artificielle Dans les coulisses. La pire chose? Les utilisateurs ont été automatiquement inclus dans cette pratique à leur insu et sans leur consentement. Ces derniers jours, certains utilisateurs ont découvert cette désagréable nouvelle en lisant la politique de confidentialité. L’entreprise canadienne, rachetée par Salesforce fin 2020, n’a pas prévenu à l’avance que l’utilisation des données est automatique et que leur exclusion doit être explicitement demandée.
La nouvelle politique a été découverte accidentellement par Corey Quinn, un cadre du groupe DuckBill. Slack écrit qu’il n’utilise pas les données des utilisateurs pour former des modèles d’IA génératifs, mais qu’il peut les utiliser pour former des modèles d’apprentissage automatique et d’intelligence artificielle non générative exploité pour certaines fonctionnalités, telles que les suggestions d’emoji et de chaînes, la saisie semi-automatique et la recherche. Que ce soit dans un sens ou dans l’autre, l’entreprise analyse les messages, fichiers et autres contenussans nécessiter une autorisation explicite.
À cet égard, de nombreux utilisateurs ont critiqué le mode opt-in. Pour empêcher que vos données soient utilisées pour la formation de modèles (opt-out), vous devez envoyer un e-mail au support client. Slack, pour sa part, a confirmé qu’il accède à certaines données des utilisateurs, mais pas au contenu des messages et des chaînes privées, soulignant que la collecte s’effectue sous forme agrégée et que les données ne sont pas utilisées pour développer des modèles d’IA génératifs ni partagé avec des tiers.
Après ce rapport, ils ont été mis en œuvre contrôles techniques pour éviter tout accès non autorisé. Slack affirme avoir choisi le mode dit de désinscription car il estime que les protections sont suffisantes. Cependant, le principal problème pourrait résider dans le Système de formation IA, que sans retour humain, il ne pourrait pas progresser. Cependant, ce qui fait actuellement que les utilisateurs se sentent trahis, c’est le manque de transparence et de protection de leurs informations.
