“L’intelligence artificielle est un danger d’extinction humaine” : l’alarme des salariés et anciens salariés d’OpenAI et de DeepMind

Un aperçu de la modernité. Divers employés et anciens employés d’OpenAI et de Google DeepMind ont publié une lettre sur le web soulignant les préoccupations liées à l’intelligence artificielle dans une période historique où l’on parle de plus en plus souvent de cette technologie en constante évolution. Et ils sont allés jusqu’à parler d’« extinction humaine » et de « vastes accords de […]

Un aperçu de la modernité. Divers employés et anciens salariés De OpenAI Et Google DeepMind ont publié une lettre sur le web soulignant les inquiétudes liées à laintelligence artificielle dans une période historique où l’on parle de plus en plus souvent de cette technologie en constante évolution. Et ils ont commencé à parler de «extinction humaine» et « des accords de confidentialité étendus qui nous empêchent d’exprimer nos observations ».

L’attaque de la lettre est claire : on continue de croire que l’intelligence artificielle peut être un système décisif, capable de donner vie à nouveaux horizons Et aide humanité. Mais les collaborateurs mettent rapidement en lumière les enjeux de l’outil : « Nous comprenons aussi les des risques sérieux posées par ces technologies. Celles-ci vont de l’enracinement plus poussé de inégalités existant, à manutention et à désinformation, à la perte de contrôle des systèmes autonomes d’intelligence artificielle, entraînant une potentielle extinction de l’humanité. » D’où l’accent mis sur la nécessité de mettre en place un encadrement sérieux de la technologie : « Les sociétés d’intelligence artificielle disposent d’une forte motivations financières pour éviter une surveillance efficace et nous ne pensons pas que structures personnalisées de gouvernance d’entreprise suffisent à changer la donne”.

Les auteurs du communiqué dénoncent ensuite le manque de liberté d’expression : « Tant qu’il n’y aura pas de contrôle gouvernemental efficace sur ces entreprises, les salariés actuels et anciens font partie des rares personnes qui peuvent les tenir responsables devant le public. Cependant, de nombreux accords de confidentialité existent prévenir pour exprimer le nôtre préoccupations, sauf envers les entreprises mêmes qui risquent de ne pas résoudre ces problèmes. Bon nombre des risques qui nous préoccupent ne sont pas encore réglementés. Certains d’entre nous craignent raisonnablement diverses formes de représaillescompte tenu de l’historique de cas similaires dans l’industrie. Pas où le d’abord pour rencontrer ou parler de ces problèmes. La lettre a été écrite par 13 personnes dont sept se sont identifiés. Les six autres, cependant, sont restés anonyme.