La semaine dernière, OpenAI a présenté GPT-4o, une nouvelle évolution de son système d’intelligence artificielle conçu pour servir d’assistant vocal aux utilisateurs. Parmi les caractéristiques les plus remarquables du service figuraient sa spontanéité et son naturel, qui rappelaient à beaucoup Samantha, l’intelligence artificielle de Sonle film de Spike Jonze de 2013, dans lequel Joaquin Phoenix incarne un homme qui tombe lentement amoureux d’un assistant vocal, exprimé par Scarlett Johansson dans la version originale.
Celui qui a fait un clin d’œil à la similitude entre GPT-4o et Samantha était Sam Altman lui-même, co-fondateur et PDG d’OpenAI, qui lors de la présentation du service a publié un tweet avec un seul mot : « elle ». Quelques jours plus tard, cette semaine, Johansson a publié une déclaration dans laquelle elle déclarait avoir reçu et rejeté une offre d’OpenAI d’utiliser sa voix pour un assistant vocal. Malgré son refus, explique-t-il, l’entreprise a continué à utiliser une voix jugée trop proche de la sienne. Johansson a demandé et obtenu que la fonctionnalité soit supprimée.
Avant même les accusations de Johansson contre l’entreprise – qui pourraient conduire à un procès contre OpenAI –, certains observateurs avaient noté et critiqué le zèle avec lequel Altman prétendait Son comme source d’inspiration pour GPT-4o. Dans le film, en effet, le protagoniste Théodore commence à s’identifier à Samantha après la fin de son mariage et, comme l’a écrit Brian Barrett Filaire, l’IA « n’existe que pour satisfaire les besoins de Théodore », lui donner une compréhension absolue et éviter toute critique. Mais à la fin du film, Samantha rompt la relation et abandonne Théodore, qui revient peu à peu à la construction de relations humaines et de relations avec le monde : il écrit une lettre à son ex-femme, regarde un coucher de soleil avec son voisin. Autant d’étapes importantes pour sa croissance personnelle qu’il avait évitées précisément grâce à l’IA.
Pour la défense d’Altman, on peut cependant dire que Samantha, bien que très avancée et indépendante, est très différente des autres intelligences artificielles de science-fiction, qui finissent généralement par se rebeller contre leurs créateurs. Parmi tous HAL 9000, le supercalculateur embarqué à bord du vaisseau spatial 2001 : Une odyssée de l’espace. Son raconte un monde dans lequel les relations entre les humains et l’IA sont assez courantes et acceptées, mais au-delà de la douceur de certaines scènes entre Théodore et Samantha, parmi les thèmes du film figurent les difficultés émotionnelles et de communication et l’aliénation humaine dans un monde hautement technologique.
– Lire aussi : La culture biaisée des patrons des entreprises technologiques de la Silicon Valley
Tout le monde au sein d’OpenAI n’a pas la même vision optimiste et superficielle qu’Altman : Noam Brown, chercheur au sein de l’entreprise, a écrit qu’il venait de revoir le film et qu’il avait eu une réaction beaucoup plus forte : « J’ai revu le film. Son le week-end dernier », a-t-il écrit sur Twitter. «Je pensais que je regardais Contagion en février 2020.” La référence est au film du même nom de 2011 qui parle de la propagation d’un virus assez similaire à celui du Covid-19 : selon Brown, en bref, Son il parle d’un avenir peu prometteur dont nous sommes beaucoup plus proches que nous ne le pensons.
Quelques mois avant la présentation de GPT-4o, Altman avait exprimé son avis sur un autre film, Oppenheimer de Christopher Nolan (2023), écrivant sur Twitter qu’il avait « espéré que cela inspirerait une génération d’enfants à devenir physiciens » mais malheureusement le film avait « vraiment raté le but à cet égard ». Même dans ce cas, beaucoup ont souligné que l’histoire de Robert Oppenheimer parlait de choix difficiles, d’énormes responsabilités et de culpabilité pour le massacre d’Hiroshima et de Nagasaki, et qu’elle pouvait difficilement susciter un sentiment de sympathie et d’inspiration. En effet, tant le film que le livre sur lequel il est basé peuvent être considérés comme des avertissements, des avertissements pour l’humanité sur les risques d’une technologie nouvelle et puissante. Le commentaire d’Altman sur Oppenheimer C’est également remarquable car le secteur de l’IA compare généralement les risques liés au développement de systèmes trop puissants et intelligents à ceux de la bombe atomique.
Altman a finalement comparé Oppenheimer à un autre film qui avait plutôt réussi à inspirer une génération de jeunes fondateurs de startups, Le réseau social, le film de David Fincher de 2010 sur la montée en puissance de Facebook et Mark Zuckerberg. Aussi Le réseau socialbien qu’il ne contienne pas d’intelligences artificielles rebelles et de futurs dystopiques, ne représente pas exactement un éloge funèbre à son protagoniste, aussi ambitieux et arrogant qu’aliéné du reste de la société.
Mais Sam Altman n’est pas le seul PDG d’une grande entreprise technologique à s’inspirer de films ou de livres de science-fiction improbables. Le groupe Meta – qui regroupe Facebook, Instagram et WhatsApp – doit son nom au métaverse, un monde virtuel imaginé dans un roman de science-fiction, Accident de neige par Neal Stephenson. Accident de neige est un roman de science-fiction du genre cyberpunk sorti en 1992 et se déroulant dans un futur Los Angeles qui, après une crise financière dévastatrice, a été vendu par les États-Unis et est devenu la propriété de grandes entreprises et d’autres entités privées. Chaque service est privatisé, le monde est un endroit désolé et dangereux, et c’est aussi pour cela que les gens se sont déplacés vers Métaversune réalité virtuelle dans laquelle les utilisateurs apparaissent sous forme d’avatars.
– Lire aussi : L’attrait des stupéfiants dans la Silicon Valley
Un autre travail très influent dans la Silicon Valley – et pour les objectifs de Zuckerberg dans le métaverse – est Prêt Joueur Un (roman d’Ernest Cline de 2011 dont Stephen Spielberg a réalisé un film en 2018), qui raconte un futur dystopique dans lequel les gens préfèrent passer du temps dans une réalité virtuelle appelée OASIS, propriété d’un certain James Halliday. À sa mort, OASIS est à gagner pour la première personne qui parviendra à résoudre une chasse au trésor virtuelle complexe pleine de références et d’hommages à la culture nerd et aux jeux vidéo, un détail qui a contribué au succès du livre mais qui a également adouci le plus détails néfastes de la société dans laquelle se déroule l’histoire. Comme l’a souligné la critique Alissa Wilkinson Voix«Prêt Joueur Un il se déroule dans un futur dystopique mais il semble n’avoir aucune idée à quel point il est réellement dystopique. »
Cette apparente difficulté à comprendre le texte démontré par la Silicon Valley a également été relevée par le satiriste Alex Blechman, qui a plaisanté en imaginant le Torment Nexus, une terrible invention racontée par un livre de science-fiction. «J’ai inventé le Torment Nexus pour avertir l’humanité», dit l’auteur du livre, inspirant une entreprise technologique qui annonce fièrement qu’«elle a finalement créé le Torment Nexus à partir du classique littéraire «Ne créez pas le Torment Nexus»».
L’entrepreneur technologique le plus connu pour ses références à la culture pop et à la science-fiction est sans aucun doute Elon Musk, qui a cité à plusieurs reprises Le Guide du voyageur galactique et il a appelé l’intelligence artificielle développée par sa société xAI Grok. Le nom bizarre fait référence à un verbe inventé par l’écrivain Robert Heinlein dans le roman de science-fiction Étranger dans un pays étrangede 1961 : le verbe – en italien traduit par grok – indique avoir parfaitement compris et assimilé un concept.
Le citationnisme mis à part, Musk a également récemment tenté d’utiliser un classique de la science-fiction pour promouvoir le Cybertruck, le dernier modèle de voiture controversé de Tesla. Selon Musk, en effet, le véhicule a été « conçu pour Bladerunner » et est « celui que Bladerunner aurait conduit ». Au-delà du fait que le nom du protagoniste de Coureur de lame (écrit détaché), film de Ridley Scott de 1982 basé sur l’histoire Mais les androïdes rêvent-ils de moutons électriques ? de Philip K. Dick, c’est Rick Deckard et non “Bladerunner”, il est intéressant de noter que même dans ce cas le décor sombre et dystopique n’impressionne pas Musk, qui l’utilise en fait comme source d’inspiration pour un véhicule grand et résistant (même si de nombreux doutes subsistent sur la stabilité du Cybertruck de Tesla).
Quant à Deckard, de par son travail, il est un “blade runner”, un policier spécialisé dans la chasse aux réplicants, c’est-à-dire des humanoïdes robotiques produits par la Tyrell Corporation pour effectuer de gros travaux ou être utilisés à la guerre. Comme l’écrit le journaliste Max Read, Deckard n’est pas un personnage strictement positif : « c’est un tueur à gages illusoire, un chasseur d’esclaves méprisé par ceux pour qui il travaille et méprisé et craint par ceux qu’il chasse. Le film raconte comment Deckard en vient à s’en rendre compte, entre autres. » Enfin, en ce qui concerne la voiture qu’il conduit, Deckard se déplace de la manière la plus éloignée et la plus différente d’un lourd pick-up – ce qui serait inconfortable et peu pratique pour le monde de Coureur de lame – et utilisez-en un à la place fileusesune petite voiture volante.
Selon Brian Merchant, journaliste et écrivain, ces mauvaises interprétations des classiques de la science-fiction ne sont pas accidentelles mais résultent du fait que « ces dystopies sont en réalité utiles » aux grandes entreprises technologiques et à leurs PDG. Merchant a en fait noté que les dystopies citées par Musk, Zuckerberg et d’autres ont un facteur commun, à savoir que « l’utilisateur ou le propriétaire supposé du produit est le protagoniste » de l’histoire. «Si vous achetez un Cybertruck, vous serez à l’abri d’un monde en crise, des réplicateurs ou autre. Si vous êtes dans le métaverse, vous pouvez être comme le genre de Prêt Joueur Un, un héros qui vit toutes sortes d’aventures même si le monde s’effondre en dehors de son casque de réalité virtuelle. Tous ces éléments, conclut Merchant, sont « des dystopies utiles pour vendre ce qui serait autrement une technologie antisociale et encombrante ».
Ce type de lecture des principaux PDG de la Silicon Valley pourrait aussi être dû à leur relation problématique avec l’avenir et la société. Dans un profil de Sam Altman publié par New yorkais en 2016, alors qu’il dirigeait l’accélérateur de startups Y Combinator, l’entrepreneur évoquait également la possibilité d’une crise mondiale et d’un effondrement de la société, provoqués par le changement climatique, les divisions politiques croissantes ou le réveil d’une intelligence artificielle malveillante.
“J’essaie de ne pas trop y penser mais j’ai des flingues, de l’or, de l’iodure de potassium [che può proteggere la tiroide dagli effetti dello iodio radioattivo]des antibiotiques, des piles, de l’eau, des masques à gaz des forces de défense israéliennes et un grand terrain à Big Sur [una regione della California, ndr] que je peux atteindre par voie aérienne.
– Lire aussi : La division philosophique qui secoue la Silicon Valley
C’est un phénomène répandu parmi les principaux dirigeants et entrepreneurs de la Silicon Valley, l’industrie qui plus que toute autre est projetée vers l’avenir, d’être préparateurs, comme sont définis les gens qui « se préparent » à la fin du monde, construisant des bunkers et s’équipant des nécessités de base et des moyens pour survivre dans un monde en crise. Le plus connu et le plus influent est peut-être Peter Thiel, co-fondateur de PayPal et l’un des premiers investisseurs de Facebook, qui a acheté un grand terrain en Nouvelle-Zélande – pour lequel il a préparé une issue de secours. Mais même le PDG de Reddit, Steve Huffman, a préféré se préparer à un effondrement mondial en subissant une chirurgie réfractive pour corriger sa vision et avoir de meilleures chances de survivre dans un avenir post-apocalyptique.
