« Pourquoi Sam Altman a-t-il été licencié ? » On connaît enfin les raisons

Sam Altman, le PDG de OpenAIest défini comme “le père de ChatGpt» même s’il n’a en réalité pas contribué personnellement au développement de cette technologie.

Cependant, Altman peut se vanter d’avoir décidé d’avoir “mis au monde” ChatGpt. Et la façon dont il l’a fait confirme les craintes de ceux qui pensent que le PDG d’OpenAI peut prendre des décisions qui nuisent à l’humanité.

« Lorsque ChatGpt a été présenté en novembre 2022, personne ne nous avait prévenus à l’avance. Nous avons découvert ChatGpt grâce à une publication sur Twitter », a-t-il révélé. Hélène Tonerl’un des membres du conseil d’administration d’OpenAI qui devait à l’époque superviser le travail du PDG, sur le podcast Le salon TED sur l’IA.

OpenAI, fondé en tant que laboratoire de recherche à but non lucratif en 2015, s’est « scindé » en 2019 suite à la nomination de Sam Altman au poste de PDG.

Il a été ajouté à l’OpenAI original, qui continue de poursuivre l’AGI à but non lucratif. OpenAI LPune entreprise à « bénéfices plafonnés » qui recherche plutôt les profits pour garantir que le laboratoire d’origine puisse poursuivre son travail.

A l’époque, OpenAI avait également annoncé que la nouvelle société serait « contrôlée » par le conseil d’administration du laboratoire à but non lucratif. Un board dont Helen Toner est membre depuis plusieurs années. La raison pour laquelle il l’a quitté, en décembre 2023, concerne Sam Altman.

En accord avec les autres membres de l’ancien board d’OpenAI, et avec le soutien de l’ancien directeur scientifique de son laboratoire de recherche, Ilya SutskeverHélène Toner a viré Sam Altman sans fournir d’explications détaillées sur sa décision. Le conseil d’administration, en novembre dernier, a accusé Altman de ne pas être assez « transparent » dans ses communications.

Depuis, beaucoup se demandent quelle était la véritable motivation derrière le départ d’Altman, qui a ensuite repris ses fonctions une semaine seulement après le « coup d’État » du conseil d’administration. Parmi ceux-ci, il y a aussi Elon Muskl’un des premiers investisseurs dans OpenAI, qui a écrit sur [di OpenAI] a décidé de prendre des mesures aussi drastiques.

Musk – et bien d’autres – craignent qu’Altman ait gardé le conseil d’administration dans l’ignorance avancées potentiellement dangereuses dans le développement de l’IA.

C’est un peu le reproche qu’il lui a fait récemment Jan Leike à l’entreprise, avant de démissionner de son poste de gérant Équipe de superalignement dédié à la sécurité de l’IA. « Ces dernières années, la culture et les processus de sécurité sont passés au second plan face aux produits brillants », a déclaré Leike.

Enquête interne d’OpenAI sur le départ de Sam Altman ça s’est terminé en mars derniersans apporter de réponse claire et définitive à la question que tout le monde se pose : « Pourquoi a-t-il été licencié ? ». Il y a eu un “abus de confiance” entre le conseil d’administration et Altman, a déclaré OpenAI, et la conduite de l’entrepreneur “ne méritait pas sa destitution”.

Pour Helen Toner, cependant, OpenAI avait besoin d’un nouveau PDG. Et Altman a dû être retiré sans avertissement.

“[Era] très clair pour nous tous que dès que Sam aurait le moindre soupçon que nous pourrions faire quelque chose qui allait à son encontre, il ferait tout, il ferait tout ce qui est en son pouvoir pour saper le conseil, pour l’empêcher même d’arriver au pouvoir. point de pouvoir le licencier », a déclaré Toner, lors de sa première interview depuis la fin de l’enquête OpenAI.

La confiance dans le leadership d’Altman a diminué par la suite, selon Toner. graves omissions de la part de l’entrepreneur: ayant gardé le silence sur le fait qu’il possédait le Fonds de démarrage d’entreprise [che oggi vale 15 miliardi di dollari] et ayant fourni, à plusieurs reprises, données trompeuses sur les protocoles de sécurité.

“À plusieurs reprises, il nous a fourni des informations inexactes sur les processus de sécurité formels que l’entreprise avait mis en place”, a déclaré l’ancien membre du conseil d’administration d’OpenAI, “ce qui signifiait qu’il était pratiquement impossible pour le conseil d’administration de savoir dans quelle mesure ils devaient fonctionner correctement. ces processus de sécurité ou ce qui devait changer.

Toner a également déclaré qu’il souffrait représailles d’Altman, suite à la publication de ses recherches qui l’avaient agacé. “Sam a commencé à mentir aux autres conseillers pour se débarrasser de moi”, a-t-il déclaré au podcast. Le salon TED sur l’IA.

Par ailleurs, selon les révélations de Toner, le conseil d’administration avait été informé à l’époque du climat “toxique” qui régnait dans l’entreprise à cause d’Altman, accusé d'”abus psychologiques” et de “mensonges et manipulations répétés”.

Toner est diplômée en génie chimique de l’Université de Melbourne en 2014. Sa carrière d’analyste puis de manager a été profondément influencée parAltruisme efficace, une approche philanthropique particulière qui cherche à maximiser – grâce à des preuves scientifiques et à l’utilisation de données – l’impact positif des dons et des actions caritatives sur la société.

Toner occupe actuellement le poste de directeur de la stratégie et des subventions de recherche fondamentale CSETle Center for Security and Emerging Technology : Il s’agit d’une organisation basée aux États-Unis qui joue un rôle de recherche et de conseil auprès du gouvernement et d’autres acteurs intéressés par la sécurité nationale et les questions technologiques aux États-Unis.

“La plupart des dirigeants des entreprises développant l’IA prennent les risques au sérieux et essaient de faire ce qu’il faut”, a déclaré Toner dans le passé. Temps Financier – Mais en même temps, ce sont évidemment eux qui créent ces systèmes. Et ce sont toujours eux qui peuvent potentiellement réaliser des bénéfices. »

Les récentes déclarations de Toner au TED AI Show ont été commentées par Bret Taylor, l’actuel président du conseil d’administration d’OpenAI qui a pris ses fonctions après le retour d’Altman à la tête de l’entreprise :

“Nous regrettons que Mme Toner continue de s’exprimer sur ces questions. Un comité indépendant du conseil d’administration a travaillé avec le cabinet d’avocats Wilmer Hale pour mener un examen approfondi des événements de novembre. L’examen a conclu que la décision précédente du conseil d’administration était fondée. non basé sur des préoccupations concernant la sûreté ou la sécurité du produit, le rythme de développement, les finances d’OpenAI ou ses déclarations aux investisseurs, clients ou partenaires commerciaux. De plus, plus de 95 % des employés, y compris la haute direction, ont demandé le changement. réintégration de Sam Altman en tant que PDG et démission du conseil d’administration précédent. Notre objectif reste d’aller de l’avant et de poursuivre la mission d’OpenAI pour garantir que l’AGI profite à toute l’humanité.

v