Nous travaillons depuis des années à créer des robots morts. En 2021, Joshua Barbeau avait utilisé GPT-3 pour créer un chatbot capable de reproduire la voix de sa petite amie décédée. La même année, le site de généalogie MyHeritage introduit Deep Nostalgia, une fonctionnalité permettant de créer des vidéos animées de vos proches à l’aide d’un album photo.
Autrefois, nous buvions du sang de chèvre, maintenant nous téléchargeons un chatbot. Depuis des siècles, nous essayons de communiquer avec les morts et maintenant là‘intelligence artificielle pourrait mettre la résurrection numérique sur la table. En d’autres termes, vous entraînez une IA avec des photos, de l’audio et quelques vidéos pour créer le clone virtuel, puis 10 dollars suffisent pour discuter avec vos proches décédés. Plusieurs chatbots ont déjà été lancés, d’abord des prototypes boiteux mais fonctionnels. Il n’y en a pas pour le moment contrainte juridique Pourtant, selon les experts en éthique, les « deadbots » pourraient causer des dommages psychologiques et “persécuter” les utilisateurs.
De manière ancestrale, il y a toujours eu le peur de jouer avec la mortet avec la résurrection numérique, il semble que nous traversions une frontière dangereuse. Tomasz Hollanek et Nowaczyk-Basińska, Des chercheurs et des éthiciens de l’Université de Cambridge ont soulevé de nouvelles questions sur l’au-delà numérique. « Les utilisateurs pourraient utiliser des chabots pour redonner vie à grand-mère” expliquent-ils dans l’étude. De plus, les parents atteints d’une maladie en phase terminale pourraient créer des versions numériques à laisser à leurs enfants. “Les progrès rapides de l’intelligence artificielle générative montrent que presque toute personne ayant accès à Internet et quelques connaissances de base peut ressusciter un proche décédé”, explique Basińska. « Ce domaine de l’intelligence artificielle est un champ de mines éthique. Il est important de prioriser dignité du défunt et veiller à ce que cela ne soit pas compromis, par exemple, par des motivations financières liées aux services numériques après la mort ».
Par exemple, que se passerait-il si votre grand-mère commençait à vous recommander d’acheter cette marque de céréales ? Les entreprises pourraient utiliser des chatbots pour promouvoir des produits, car la manière dont les données nécessaires à la création des chatbots sont stockées et utilisées n’est pas encore claire. Non seulement cela, les décès virtuels pourraient également affecter le processus normal de deuil, créer un court-circuit cognitif. « Aucun service de loisirs ne peut démontrer que permettre aux enfants d’interagir avec des « robots morts » est bénéfique ou, à tout le moins, ne nuit pas à ce groupe vulnérable », prévient l’étude. Pour cette raison, selon les chercheurs, il est essentiel que les entreprises transparent sur le fonctionnement des chatbots.
Il faut 15 secondes pour cloner sa voix : comment fonctionne le nouveau programme OpenAI
Les Deadbots sont déjà une réalité
Nous travaillons depuis des années à créer des robots morts. En 2021, Josué Barbeau avait utilisé GPT-3 pour créer un chatbot capable de reproduire la voix de sa petite amie décédée. La même année, le site de Généalogie MyHeritage a introduit Deep Nostalgia, une fonctionnalité permettant de créer des vidéos animées de vos proches à l’aide d’un album photo. « Les résultats peuvent être controversés et il est difficile de rester indifférent à cette technologie », commentait alors MyHeritage. « Cette fonctionnalité est destinée à un usage nostalgique, redonnant vie à nos ancêtres bien-aimés. » En 2022, MyHeritage a lancé Histoire profondepour permettre aux utilisateurs de générer des « vidéos parlantes ».
En Chine, les pompes funèbres utilisent déjà des photos, des vidéos et des enregistrements vocaux des défunts pour créer des avatars qui récitent des phrases d’adieu pendant les funérailles. De plus, en janvier dernier, le chanteur taïwanais Bao Xiaobo a “ressuscité” sa fille de 22 ans, décédée il y a deux ans, grâce à l’IA, en montrant son clone numérique dans une vidéo publiée en ligne.
Les problèmes éthiques liés à la résurrection numérique
Plusieurs questions éthiques restent ouvertes. Par exemple : à qui appartiennent les données d’une personne après son décès ? Quel est l’effet psychologique sur les proches ou les amis ? A quoi peut servir un robot mort ? Qui peut désactiver définitivement le bot ? “Les gens peuvent développer des liens émotionnels forts avec de telles simulations, ce qui les rendra particulièrement vulnérables à la manipulation”, a expliqué Tomasz Hollanek, chercheur à l’Université de Cambridge et expert en éthique et technologie. Discutez avec eux versions numériques de nos proches cela pourrait également prolonger la douleur et créer une déconnexion avec la réalité.
« Des méthodes et même des rituels devraient être envisagés pour retirer les robots morts de manière digne. une forme d’enterrement numériqueDe plus, les restes numériques d’une personne doivent être traités comme « une entité possédant une valeur intrinsèque ».
Selon l’étude, il faudrait des postes capables d’endiguer toute dérive d’un véhicule. phénomène né controversé. “Il sera nécessaire d’assurer une transparence significative des services récréatifs via des clauses de non-responsabilité sur les risques et les capacités des robots morts”, limiter l’accès aux services récréatifs aux utilisateurs adultes seulement, et suivant le principe du consentement mutuel des donateurs et des destinataires de données pour participer à des projets récréatifs.
