Les intelligences artificielles représentent un risque pour l’humanité, qui pourrait être amené à disparaître. C’est ce qu’ont déclaré dans une lettre ouverte certains salariés et anciens salariés d’entreprises actives dans le secteur, comme OpenAI et Google DeepMind, qui ont expressément demandé de pouvoir exposer les dangers liés à ces nouvelles technologies en quittant l’anonymat auquel ils sont soumis. contraints par les contrats signés avec ceux-ci.
La lettre commence par déclarer que les signataires croient « au potentiel de la technologie de l’IA pour apporter des avantages sans précédent à l’humanité ». Il poursuit en disant : « Cependant, nous comprenons également les risques sérieux posés par ces technologies. Ces risques vont du renforcement des inégalités existantes à la manipulation et à la désinformation. perte de contrôle des systèmes d’IA autonomes pouvant conduire à l’extinction humaine” Selon la lettre, les entreprises elles-mêmes ont reconnu ces risques, tout comme les gouvernements du monde entier. D’autres experts en intelligence artificielle sont également d’accord.
Expliquez-vous mieux
« Nous sommes convaincus que ces risques peuvent être atténués de manière adéquate grâce aux conseils de la communauté scientifique, des décideurs politiques et du public. Cependant, les sociétés d’IA sont fortement incitées financièrement à éviter une surveillance globale, et nous ne pensons pas que des structures de gouvernance d’entreprise sur mesure soient suffisantes pour changer. l’état des choses.” Bref, il faudrait une surveillance par des tiers de ces technologies, ce que les entreprises ne permettent cependant pas pour ne pas ruiner leur activité. Cela ressemble presque à l’intrigue d’un film dystopique.
La lettre poursuit en précisant que ces sociétés ont informations confidentielles importantes sur « les capacités et les limites de leurs systèmes, l’adéquation de leurs mesures de protection et les niveaux de risque de préjudice qu’ils pourraient causer ». Mais à l’heure actuelle, ils n’ont aucune obligation de partager des informations avec les gouvernements ou les organes de contrôle, et encore moins avec la société civile, qui sera la plus touchée. Les signataires de la lettre doutent que l’on puisse faire confiance à ces sociétés pour gérer et partager les informations. Après tout, qui de mieux qu’une bande de managers avides d’argent pour gérer efficacement et judicieusement l’avenir de l’humanité ? Nous savons tous qu’ils n’agiront que pour notre bien.
« Tant qu’il n’y aura pas de contrôle gouvernemental efficace sur ces entreprises, les employés actuels et anciens font partie des rares personnes qui peuvent les tenir responsables devant le public. Cependant, des accords de confidentialité stricts nous empêchent de faire part de nos préoccupations, sinon aux entreprises elles-mêmes. d’entre eux ne sont peut-être pas confrontés à ces problèmes.”
La lettre conclut en demandant aux entreprises de s’ouvrir aux critiques sur les risques de l’intelligence artificielle, et non d’imposer le silence aux salariés par le biais de contrats ou de représailles économiques.
