“C’est un des progrès passionnants – déclare David Bau, professeur à la Northeastern University qui s’occupe de l’IA, à propos de la nouvelle recherche OpenAI –. En tant qu’industrie, nous devons apprendre à mieux comprendre et examiner ces grandes tendances.“.
Selon Bau, la principale innovation de l’équipe OpenAI est de montrer un moyen le plus efficace de mettre en place un petit réseau de neurones qui peut être utilisé pour comprendre les composants d’un système plus vaste. Cependant, l’enseignant ajoute que pour devenir plus fiable la technique doit être perfectionnée : “Il reste encore beaucoup de travail à faire pour utiliser ces méthodes et obtenir des explications pleinement compréhensibles.“, Il dit.
Bau fait partie d’un projet financé par le gouvernement américain appelé National Deep Inference Fabric, qui mettra des ressources de cloud computing à la disposition des chercheurs universitaires pour leur permettre d’explorer des modèles d’IA particulièrement puissants. “Nous devons comprendre comment faire en sorte que les scientifiques qui ne travaillent pas dans de grandes entreprises puissent également effectuer ce travail“, commente Woof.
Dans leur article, les chercheurs d’OpenAI reconnaissent qu’il est nécessaire de continuer à travailler pour améliorer la nouvelle méthode, en espérant toutefois qu’elle puisse conduire au développement de Méthodes pratiques pour contrôler les modèles d’IA. “Nous espérons qu’un jour l’interprétabilité nous fournira de nouvelles façons de penser la sécurité et la robustesse des modèles, et qu’elle augmentera considérablement notre confiance dans les modèles d’IA puissants en offrant de fortes garanties sur leur comportement.“, lit-on dans le document.
Cet article a été initialement publié sur Wired US
