Si ChatGPT est un puissant exécuteur de tâches redondantes, il ne faut pas confondre cet outil conversationnel avec un moteur de recherche ou une encyclopédie.

À mesure que les semaines passent, les observateurs sont de plus en plus nombreux à souligner les erreurs factuelles de ChatGPT, et à rappeler les fondements mêmes de l’outil : il ne s’agit pas d’un moteur de recherche ni d’une encyclopédie. ChatGPT peut mentir. Et, il ne s’en prive pas. Numerama a fait le test. Nous lui avons demandé de citer « 5 femmes qui ont été Première ministre en France », et l’intelligence artificielle nous a donné les noms de quatre hommes. Redirigé par nos soins, ChatGPT a ensuite assuré que Rachida Dati et Ségolène Royal avaient chacune été Première ministre.

Les experts en intelligence artificielle ne seront pas surpris par ces écueils. « Nous avons là un outil purement rhétorique, un beau parleur qui sait disserter sur n’importe quoi pour produire avec une apparence d’autorité des affirmations qui semblent raisonnablement étayées, mais ne reposent sur rien », écrivaient déjà à la mi-décembre 2022 la chercheuse Claire Mathieu et le professeur Jean-Gabriel Ganascia, qui diffusaient une tribune dans les Echos Start. « Non seulement, il est par construction indifférent à la vérité de ses assertions, mais de plus, il les adapte à son interlocuteur. Il n’y a donc, même pas, de cohérence interne. C’est le relativisme à l’état pur. »

Article complet en français par Marie Turcan pour Numérama : http://bit.ly/3JC5dvj