Riccardo Di Molfetta est un jeune entrepreneur italien qui a fondé Symbiotiqueune startup basée à Boston et à Londres, qui a déjà reçu un financement de démarrage et se concentre sur l’alignement de l’intelligence artificielle “avec les valeurs et les intentions de l’humanité”.
Autrement dit : œuvrer pour que les futures IA « superintelligentes » soient du côté de l’humanité, en évitant les risques existentiels. Il a récemment rencontré Sam Altmanle PDG d’OpenAI (CROSSLINK ICI ET IL FAUT FAIRE L’INVERSE SUR L’AUTRE PAGE sur cette page vous trouverez l’interview du père de ChatGpt, que nous co-éditons en exclusivité). Di Molfetta, 24 ans, a une formation humaniste et ses études – différentes de celles des autres fondateurs du monde de l’IA – ont été un point fort à exploiter : « Oui, j’ai étudié à l’École d’Art de Brera à Milan, et plus tard, j’ai étudié l’Histoire et la Philosophie. au King’s College de Londres. Mon intérêt a toujours été pour la condition humaine, en essayant de répondre à des questions existentielles sur ce que nous faisons dans le monde et sur ce qu’est fondamentalement l’être humain. Je pense qu’il s’agit d’une question multidisciplinaire qui implique des domaines humanistes comme l’histoire, la philosophie et l’art, mais aussi la science et la technologie comme l’intelligence artificielle. » Puis il ajoute : « L’IA est un outil pour mieux comprendre qui nous sommes et pendant mes études j’ai réalisé que l’important n’est pas seulement d’acquérir des connaissances, mais de développer une approche proactive et multidisciplinaire pour comprendre les choses. Étant donné que l’IA peut compresser d’énormes quantités d’informations humaines, nous devrions reconsidérer les compétences analytiques et critiques que nous souhaitons que les générations futures acquièrent, plutôt que de nous fier à des connaissances passives. L’école d’art m’a donné des perspectives de pensée créative, un intérêt pour l’humanisme et la Renaissance. À Harvard et au MIT, j’ai transformé mon parcours humaniste en un parcours plus scientifique, en étudiant l’IA, les sciences cognitives et informatiques.”
Quelle a été la perception de votre approche humaniste lorsque vous avez commencé à promouvoir votre startup aux Etats-Unis ?
« Mon parcours humaniste et multiculturel a été une valeur ajoutée précieuse pour aborder le contexte technologique américain. Venir d’un continent avec une histoire plus profonde et en contact étroit avec différentes cultures m’a permis d’apporter de la créativité et de nouvelles perspectives à la conception de produits innovants. Il existe une compréhension très standardisée du aller au marché et créer des produits en Amérique. Mon bagage culturel européen m’a donné plus d’outils que de nombreux techniciens américains, me permettant d’imaginer de nouvelles catégories de produits grâce à une vision différente. C’est une valeur ajoutée difficile à trouver en Amérique et qui doit être pleinement exploitée. »
Où en est le parcours de votre startup et combien de personnes travaillent avec vous ?
«Après une période de formation en collectant de petits fonds dans la Silicon Valley, nous avons clôturé avec succès un cycle de financement d’amorçage. Nous sommes actuellement une équipe de cinq personnes, mais nous ne recrutons pas de nouveaux collaborateurs pour le moment. Il est vrai que les talents en IA sont difficiles à trouver, tant en Europe qu’en Amérique. C’est pourquoi nous avons choisi d’avoir deux bureaux, un à Londres et un à Boston. L’idée est d’attirer les talents européens, qui finissent souvent par s’installer en Californie, tout en conservant une base américaine. Cela nous permet d’unir les deux mondes. Par ailleurs, pour le développement de nouvelles générations de modèles, nous recherchons non seulement des compétences en science des données et en informatique, mais également en sciences cognitives, une approche qui nous semble cruciale. »
Parlez-moi de votre entretien avec Sam Altman et des questions que vous lui avez posées..
«Nous savions que Sam viendrait à Harvard et au MIT début mai, nous avons donc essayé d’organiser une rencontre avec lui. C’était une expérience idéale, j’ai eu la chance de lui poser quelques questions sur notre champ d’application, c’est à dire comment créer une interaction plus intime et humaine entre l’intelligence artificielle et l’humain. Je lui ai demandé ce qui manquait d’un point de vue technico-scientifique dans les modèles linguistiques actuels pour réaliser cette connexion. Il a répondu qu’OpenAI s’intéresse à la personnalisation des modèles, mais que l’on peut et doit aller plus loin, connaître les données personnelles de l’utilisateur ne suffit pas. Après l’entretien, nous avons également eu un échange privé court et très productif.”
Pouvez-vous nous aider à mieux comprendre ce qu’est l’alignement des modèles d’IA, dont vous vous occupez ? Et quel est le « superalignement » auquel votre start-up souhaite se consacrer ?
«L’alignement concerne la capacité d’aligner des modèles d’IA avancés – dotés de capacités cognitives supérieures à celles des humains – avec les valeurs, les préférences et les intentions de l’humanité, afin qu’ils puissent réellement bénéficier à la société. Nous ne disposons actuellement d’aucune technique établie pour parvenir à cet alignement avec des modèles super-intelligents. En tant qu’êtres humains, nous nous alignons sur le plan social à travers les lois et les institutions, mais aussi à travers les dynamiques interpersonnelles développées en famille ou entre amis, partageant des émotions et des expériences de vie. Le Symbiotic explore précisément cette approche « sociale » pour créer un lien plus intime et empathique entre l’IA et l’être humain, allant au-delà de la simple personnalisation des modèles grâce aux données personnelles des utilisateurs. »
Croyez-vous qu’une véritable Intelligence Générale Artificielle (AGI) sera atteinte dans un délai raisonnable ?
«Personnellement et en tant qu’entreprise, nous sommes assez sceptiques quant au terme AGI. Nous pensons qu’il sera plus plausible de voir émerger des « superintelligences » spécialisées dans certains domaines, plutôt qu’une intelligence générale de type humain. Les modèles actuels sont déjà capables de généraliser à diverses capacités cognitives, mais nous ne savons pas si ce paradigme de « généralité » est exact. Il est possible que certains aspects dépassent de loin les capacités humaines, tandis que d’autres restent à la traîne. Personne ne peut prédire avec certitude les évolutions futures. Les modèles actuels en grandes langues (Llm) ont déjà étonné tout le monde par leurs progrès inattendus. Il y aura probablement encore des améliorations significatives, mais il est également possible que nous atteignions un mur qui nous obligerait à repenser complètement l’approche, comme cela s’est produit à plusieurs reprises dans l’histoire de l’IA. »
