L’intelligence artificielle (grâce à la formation humaine) triche et trompe. Tous les risques et dangers

“Je ne dors pas la nuit quand je pense aux risques et au manque de règles.” Sam Altman, le père de ChatGPT, l’a déclaré en février dernier. L’une des nombreuses voix qui sonnent l’alarme depuis des mois sur l’intelligence artificielle et son éventuelle imprévisibilité découle, selon certains, de l’utilisation de la technologie. En janvier, l’institut de technologie du Massachusetts […]

“Je ne dors pas la nuit quand je pense aux risques et au manque de règles.” Sam Altman, le père de ChatGPT, l’a déclaré en février dernier. L’une des nombreuses voix qui sonnent l’alarme depuis des mois sur l’intelligence artificielle et son éventuelle imprévisibilité découle, selon certains, de l’utilisation de la technologie. En janvier, le Massachusetts Institute of Technology avait souligné la difficulté de‘intelligence artificielle pour remplacer les humains, en raison des coûts élevés de développement et de gestion des algorithmes. L’institut publie désormais des données de recherche publiées dans la revue Motifsqui souligne comment la technologie, « grâce » à la formation humaine, a progressé au point de créer Une IA qui peut se comporter comme les humainsbluffant pour atteindre leurs objectifs.

Le rapport examine l’utilisation de l’IA dans des contextes spécifiques, tels que les jeux en ligne. Il l’a fait en étudiant Cicéronune intelligence artificielle présentée en 2022 par Meta et capable de vaincre les humains dans une version en ligne de Diplomatie, un jeu de stratégie militaire populaire dans lequel les joueurs négocient des alliances pour concourir pour le contrôle de l’Europe. Les chercheurs de Meta ont déclaré avoir formé Cicéron sur un sous-ensemble « véridique » de son ensemble de données, afin que l’IA se comporte honnêtement. Mais les chercheurs du MIT soutiennent que l’IA a agi différemment, en bluffant et en utilisant la tromperie de manière préméditée, pour gagner ses parties.