Daily Archives: 4 mai 2023

ChatGPT or ChatGepetto ?

Inspired by the example of my esteemed colleague Benjamin Voyer, I did the following experiment: ask ChatGPT to write my biography, Wikipedia style. Like Ben Voyer, I was also very surprised by the result.

As regards form, it is perfect. It also shows that language doesn’t matter: the same query, in French or in English, gives exactly the same text. In other words, ChatGPT seems to have an internal language, understood only by him/her, which serves as a common basis for responses in different languages.

However, the substance is a different matter. The following table gives a visual understanding of what I mean:

To build up on my esteemed colleague’s analysis, it’s not as if this information were hard to find: the vast majority of it is public, present on many sites, and even if I’m not present on wikipedia (quite normal, IMO), there is clearly enough public data to write a proper wikipedia entry.

With such a list of errors, it is surprising that ChatGPT has correctly identified my field of activity. The Augur in Information (AI) says « French economist and finance professor »: I’m not an economist, but hey, it’s at least reassuring not to have been classified as a « Youtube influencer » or « septic tank drainer ».

As a conclusion to this little exercise, a fundamental observation: while ChatGPT can be very accurate (and helpful) when asked pragmatic questions – for example about how to use an Excel function – it is not the same when it comes to news or people. It is not a search engine, it is a conversational assistant. In short, don’t be surprised if it tells you fairy tales…

PS: I suggest you do this experiment on your own name. You can even publish the result on social networks with the hashtag #ChatGepetto, we’ll see whether this starts a trend…

ChatGPT ou ChatGepetto ?

Inspiré par l’exemple de mon estimé collègue Benjamin Voyer, j’ai fait la même expérience : demander à ChatGPT d’écrire ma biographie dans le style d’un article Wikipedia. À l’instar des commentaires de Ben Voyer, j’ai aussi été très surpris du résultat.

Dans la forme, c’est parfait. Cela permet aussi de se rendre compte que la langue importe peu : la même requête, en français ou en anglais, donne exactement le même texte. En d’autres termes, ChatGPT semble bien avoir un langage interne, compris de lui/elle uniquement, qui sert de base commune aux réponses dans différentes langues.

En revanche, pour ce qui concerne le fond, c’est une autre affaire. Le tableau suivant permet de comprendre visuellement mon propos :

Pour reprendre les arguments de mon estimé collègue, ce n’est pas comme si ces informations étaient difficiles à trouver : la très grande majorité d’entre elles sont publiques, présentes sur de nombreux sites, et même si je ne suis pas présent sur wikipedia (ce qui me semble normal), il y a clairement de quoi rédiger une notice wikipedia correcte à partir des éléments abondamment disponibles sur Internet.

Avec une telle liste d’erreurs, cela devient même étonnant que ChatGPT ait correctement identifié mon domaine d’activité. L’Augure Informatique (AI) dit  » économiste français et professeur de finance  » : je ne suis pas économiste, mais bon, c’est au moins rassurant de ne pas avoir été classé dans la catégorie  » influenceur Youtube  » ou  » vidangeur « .

En conclusion de ce petit exercice, une observation fondamentale : alors que ChatGPT peut être d’une grande précision (et d’une grande aide) quand on lui pose des questions pragmatiques – par exemple sur l’utilisation d’une fonction Excel, il n’en est pas de même pour ce qui concerne l’actualité ou les personnes. Ce n’est pas un moteur de recherche, c’est un assistant conversationnel. En bref, ne soyez pas étonnée ou surpris s’il vous raconte des contes de fées…

PS : Je vous suggère de faire cette expérience sur votre propre nom. Vous pouvez même publier le résultat sur les réseaux sociaux avec le hashtag #ChatGepetto , on verra ce que ça donne…