Le l’intelligence artificielle générative frappe encoreon pourrait dire : ils ont diffamé un homme innocent l’accusant d’être un prédateur sexuel, avec la complicité indirecte de Microsoft. C’est l’hallucination classique qui affecte ces modèles de langage très avancés, mais elle est particulièrement grave compte tenu des implications de l’affaire.
La diffamation a été découverte par un journaliste du New York Times qui, analysant le site d’information sur l’IA BNN Breaking, a découvert un article dans lequel l’animateur Dave Fanning était accusé d’être jugé pour comportement prédateur sexuel. Le présentateur impliqué dans le processus n’était pas réellement lui, mais l’IA l’a indiqué comme tel le présentant ainsi aux lecteurs du site.
Quand s’arrêter
Pour ajouter l’insulte à l’injure, Microsoft l’a fait. Plus précisément, son agrégateur d’actualités MSN, qui a fait la promotion des fausses nouvelles, les faisant atteindre une audience bien plus large que celle du site en question. Au bout de quelques heures, il a été retiré, mais entre-temps le mal était fait.
Il convient de souligner que Microsoft est impliqué à l’avant-garde du secteur de l’intelligence artificielle, avec des milliards d’investissements dans le domaine. Il a donc tout intérêt promouvoir certains contenus, sans les contrôler.
La réponse de Fanning a été immédiateBNN Breaking et Microsoft le poursuivant en justice pour diffamation, compte tenu des dommages causés à sa réputation.
L’entreprise de Redmond est déjà sous surveillance pour les nombreux contenus malveillants générés par son bot Copilot. Cet incident ne fera certainement pas de bien à la réputation de ces technologies, déjà mal vues par de nombreux observateurs.
