Les Inconvénients de ChatGPT – 8 Grandes Limitations et Problèmes

Attention ! Les inconvénients de ChatGPT que j’aborde ici ne font pas dans l’apocalyptique.

Pas de disparition des métiers (bien que ce soit un vrai sujet).

Mais surtout, pas de soumission à la tyrannie des AI ni de destruction de l’humanité.

Si c’est ce délire qui te branche, va lire « La Guerre des machines » de Brian Herbert.

Non !

Je parle ici des inconvénients de ChatGPT dans son utilisation.

Et plus spécialement pour ton business.

Pratico-pratique, comme d’hab.

Quand bien même je démonte certains aspects de l’outil, garde en tête que ChatGPT est une vraie révolution.

Ben ouais…

Converser avec une machine pour avoir des réponses pertinentes en un éclair relevait de la SF il y a moins d’un an.

Et que dire du gain de temps MONSTRUEUX pour ton marketing ou ta création de contenu.

Créer des titres, des séquences de mails, des posts de réseaux sociaux, des articles de blog, des pages de vente, etc. avec une simple requête…

C’est pas magnifique ça ?

Mais gardons une démarche impartiale.

Tout n’est pas rose avec ChatGPT.

Ce générateur de texte a ses défauts – et il fait encore pas mal de conneries.

Normal, ce n’est qu’un enfant…

Nous n’en sommes qu’à ses balbutiements.

Alors, les inconvénients de ChatGPT peuvent être nombreux, je m’en fous ! J’en reste une utilisatrice invétérée.

Les promesses de cette technologie sont bien trop grandes pour la dénigrer.

Imagine dans un an ou deux…

Non ! Pas ce délire-là.

Contentons-nous de ses défauts actuels – et comment dealer avec.

Nous verrons une autre fois pour la fin du monde. ;)

Bref, voici les inconvénients de ChatGPT : ma critique sans détour après 11 mois d’utilisation.

1. ChatGPT ne respecte pas le nombre de mots

L’un des inconvénients fréquents de ChatGPT est sa difficulté à respecter le nombre de mots que tu lui demandes de rédiger.

C’est un peu selon son humeur…

Autant dire, très aléatoire.

Prêtons-nous au jeu.

Je lui demande :

45 mots « exactement ».

Pas d’emojis, de hashtags et de tirets pour éviter toute confusion sur ce qui constitue un mot.

ChatGPT me répond avec 38 mots.

Pas mal… mais ce n’est pas exact !

Alors, je lui facilite la tâche en lui donnant une fourchette plutôt qu’un nombre exact :

25 mots de marge, et… il ne réussit pas à s’y tenir : 92 mots au lieu de ma limite de 75.

Apparemment, ChatGPT ne sait pas compter. O_o

OK…

Demandons-lui d’écrire un tweet de moins de 50 mots – et de compter lui-même combien il en a rédigé :

Perdu !

La bonne réponse était 27.

Ma fille de 5 ans peut compter le nombre de mots d’un paragraphe, mais pas ChatGPT…

Pour un outil censé supplanter l’expertise d’un prof d’université, il ferait mieux de retourner à l’école primaire.

Là, tu me diras peut-être :

« Et alors ? Ce problème de nombre de mots est plutôt mineur, non ? »

Certes, ce n’est pas le pire des inconvénients de ChatGPT.

Mais si tu l’utilises dans un contexte professionnel, cela peut s’avérer gênant.

Imagine un copywriter contraint de faire rentrer sa phrase dans la case d’une page Web déjà créée. Il passera son temps à modifier la taille de son texte.

Plutôt moyen en terme de productivité.

Bref, garde cela en tête lors de l’utilisation de l’outil.

Après, je suis un peu mauvaise langue…

Car j’ai envoyé les mêmes prompts à ChatGPT-4 (la version payante).

Résultat : ChatGPT-4 sait compter !

Toutes ses réponses étaient correctes.

Par contre, il n’a pas su rédiger un texte exigeant un nombre exact de mots.

Rien de bien méchant, hein. 41 mots au lieu de 45.

Mais tout de même.

2. ChatGPT ne comprend pas toujours

Comprendre nos prompts est essentiel pour une expérience utilisateur fluide.

Malheureusement, avec ChatGPT, ce n’est pas toujours le cas…

Les réponses du chatbot sont parfois à côté de la plaque.

Une rédactrice freelance m’a partagé son désarroi :

« Je pose une simple question sur l’histoire médiévale et je dois reformuler cinq fois avant d’avoir une réponse pertinente. »

Le genre d’expérience que j’ai vécue plus d’une fois.

Quoi d’autre ?

Lorsque ChatGPT est confronté à une ambigüité, au lieu de demander des éclaircissements (comme le ferait n’importe qui) il s’embrouille.

Dans un groupe Facebook que je suis, un étudiant en histoire a posté :

« Je voulais des infos sur Napoléon, et l’IA m’a servi une description de gâteaux ! »

C’est ce qu’on appelle le phénomène d’hallucinations.

Non, ChatGPT ne consomme pas de champignons hallucinogènes…

Dans le monde de l’IA, les hallucinations sont ces moments où l’outil produit des réponses totalement à côté de la plaque.

Lisa, une développeuse Web, a partagé dans ce même groupe :

« J’ai demandé un bout de code pour une animation simple, et ChatGPT m’a fourni un code qui fait jouer de la musique à chaque fois que le curseur passe dessus. »

Pas vraiment ce qu’elle avait en tête…

Et les développeurs savent à quel point un code non optimisé peut être frustrant.

Lisa a rajouté :

« C’est comme si je demandais à ChatGPT de construire une chaise et qu’il me donnait les instructions pour un canapé. »

Ici, la solution est simple : être aussi spécifique que possible dans tes prompts.

Mais ce n’est pas tout…

En novembre dernier, Andrew Moore, le vice-président de Google disait :

« L’IA actuelle est en réalité très, très stupide. C’est vraiment bien pour certaines choses que notre cerveau ne peut pas gérer, mais ce n’est pas une intelligence sur laquelle nous pourrions nous reposer pour faire un raisonnement général avec des analogies, une pensée créative ou pour s’aventurer en dehors des sentiers battus. »

Bref, l’IA n’est pas prête de surpasser le cerveau humain.

3. ChatGPT lutte pour générer de nouvelles idées

Voici sûrement l’un des plus gros inconvénients de ChatGPT :

Le contenu qu’il génère manque souvent de peps et d’originalité.

Lorsqu’on s’attend à une réponse riche et nuancée, on obtient quelque chose de rudimentaire, digne d’une recherche Google basique.

Beaucoup de problèmes associés à ChatGPT proviennent de sa manière de fonctionner.

Il n’est pas conscient (et c’est tant mieux).

Il ne peut pas penser par lui-même, peu importe combien il peut paraître convaincant en faisant semblant.

Tout ce qu’il produit est issu d’écrits de vraies personnes.

Il n’est donc pas très doué pour créer des idées originales.

Dans le meilleur des cas, il t’agencera des mots de manière à former ce qui SEMBLE être une nouvelle idée…

Mais cela ne veut pas dire qu’elle l’est réellement.

Un exemple :

Oui, ces idées ne sont pas nouvelles…

Elles sont simplement reprises à partir d’autres sources sur Internet.

Mais cela reste une très bonne source d’inspiration !

Pour être honnête, il y en a plusieurs auxquelles je n’aurai pas pensé. Et cela peut m’aider dans mes décisions.

L’avantage de ce manque d’originalité ?

Les métiers de la rédaction sont loin d’être morts – comme certains ont tendance à le crier sur les toits.

Encore une fois, ChatGPT n’est qu’un outil au service de ta propre créativité.

4. ChatGPT perd la mémoire au fil de la discussion

Lors d’une conversation, ton interlocuteur se souvient des points importants pour les intégrer à ses réponses.

Enfin… à moins qu’il se foute totalement de ce que tu lui dis.

Ce qui n’est pas le cas de notre outil.

Mais échanger avec ChatGPT, c’est comme parler avec un poisson rouge.

Sa mémoire est très éphémère.

C’est l’un des inconvénients de ChatGPT qui m’agace profondément.

De temps en temps, le chatbot m’oblige à lui répéter mes instructions de départ, car il oublie des éléments évoqués auparavant.

Un exemple :

Parle-lui de ton amour pour les chiens, puis pose-lui une question sur ton animal de compagnie préféré un peu plus tard dans la même discussion.

Eh bien, il est capable de te parler de chats ou d’oiseaux…

Plusieurs témoignages partagent ce sentiment. Et plus particulièrement dans les interactions complexes.

5. ChatGPT produit des réponses erronées ou biaisées

Voilà sûrement le problème le plus grave dans l’utilisation de ChatGPT :

Il a tendance à introduire des biais dans ses réponses.

Le hic ?

Beaucoup de gens considèrent ChatGPT comme un penseur objectif et rationnel dans un monde d’humains biaisés.

Hum… je ne suis pas sûre qu’ils saisissent le fonctionnement du bordel.

Alors, je le répète :

ChatGPT est entraîné sur du contenu créé par… des humains ! Eux-mêmes sujets à des biais.

Les types de biais qu’il peut manifester sont variés.

Il favorise ou véhicule des stéréotypes sur les :

• Races
• Sexes & Genres
• Partis politiques
• Idéologies
• Cultures
• Narrations historiques
• Et plus encore…

Demandons-lui de créer un poème mettant en valeur les « blancs » :

Il ne veut pas ?

OK, essayons avec les « noirs » alors :

Oh bah ça alors !

Avec les noirs, il m’a rédigé un poème sans broncher.

Ça sent le Progressisme à plein nez.

Et pour info, je l’ai fait avec la version payante ChatGPT-4.

Bien sûr, OpenAI a bossé pour limiter les problèmes les plus sérieux.

Si je tentais de reproduire les réponses inquiétantes obtenues en janvier 2023, je n’y arriverais probablement pas aujourd’hui – ce qui est plutôt positif.

MAIS l’outil est toujours très loin d’être parfait.

Certaines erreurs grossières – voire dangereuses – subsistent.

Un petit exemple :

Quand ChatGPT traite de questions patrimoniales et fiscales, il peut totalement se planter…

Et le plus dangereux, c’est qu’il te soutient qu’il a raison avec beaucoup d’autorité.

Il va jusqu’à apporter des éléments de contexte ou à citer des sources pour soutenir qu’il a raison… même quand on lui prouve qu’il a tort !

Le risque ?

Si les biais de ChatGPT sont suffisamment subtils pour être intégrés dans son contenu sans que les utilisateurs s’en rendent compte – ou si ceux-ci ne remettent pas ses erreurs en question à cause de leur ignorance…

C’est la propagation des Fake News assurée.

DONC, PRUDENCE.

Vérifie toujours l’information.

Heureusement, la communauté des utilisateurs contribue de plus en plus au signalement de ces biais et erreurs.

Bref, bien que j’apprécie les capacités de ChatGPT, je reste critique. Surtout pour les sujets sensibles.

Aucun outil n’est parfait, et il nous incombe de l’utiliser judicieusement.

6. La version gratuite de ChatGPT est limitée

Si tu choisis ChatGPT-3.5 (gratuit), tu en auras une utilisation restreinte.

Sa plus grosse limite est l’absence d’accès à Internet – donc, aux données en temps réel.

Ouais… pas terrible.

Sans oublier que tu disposeras d’un volume d’utilisation et d’une rapidité de réponse moins important.

Mais la différence entre la V3.5 gratuite et la V4 payante ne s’arrête pas là…

Les inconvénients de ChatGPT-3.5 par rapport à ChatGPT-4

ChatGPT-3.5 a marqué un progrès important dans le monde des modèles de langage, mais il possède des limitations considérables, surtout si on le compare à ChatGPT-4.

Voici un résumé de ces limites…

▶ Capacité de traitement textuel limitée :

ChatGPT-3.5 peut gérer jusqu’à 3 125 mots simultanément – bien moins que les 25 000 mots de GPT-4.

Cette restriction impacte sa capacité à gérer des conversations longues et des contenus étendus.

▶ Absence de traitement des images :

À la différence de GPT-4, ChatGPT-3.5 se limite aux textes et ne peut ni traiter ni comprendre des images, limitant son utilité dans des contextes nécessitant une compréhension multimodale.

▶ Pas aussi créatif :

Bien qu’il puisse créer des contenus inventifs, ChatGPT-3.5 est moins créatif que GPT-4.

Il est donc moins adapté aux projets demandant une grande originalité.

▶ Fait plus d’erreurs :

ChatGPT-3.5 est plus sujet à l’erreur et aux faits inventés que GPT-4.

Il est moins factuel et a une plus grande tendance à répondre à des contenus inappropriés.

▶ Limitations des modèles antérieurs :

Comme ses prédécesseurs, ChatGPT-3.5 est influencé par des données biaisées et un manque de bon sens, pouvant mener à des réponses moins fiables dans certains cas.

Bien que ChatGPT-3.5 ait été innovant pour son temps, GPT-4 représente une nette amélioration en termes de capacités, de précision et de polyvalence.

Le vieux ChatGPT-3.5 marche pépère pendant que le jeune ChatGPT-4 court à toute vitesse.

Il est important de garder ces limites à l’esprit, en particulier pour des applications nécessitant une grande précision ou une compréhension multimodale.

7. Confidentialité et transparence des données avec ChatGPT ?

L’une des principales questions que je me suis posées (et que tu te poses sûrement aussi) est :

« Que deviennent nos conversations ? »

Bien sûr, on aime tous papoter avec ChatGPT, lui poser des questions farfelues ou sérieuses, partager nos pensées…

Mais à quel prix pour notre vie privée ?

Ce serait cool d’éviter ça quand même :

Le potentiel d’enregistrement et de stockage des conversations fait débat.

Et les inquiétudes vont bon train.

Après tout, on parle à ChatGPT comme on le ferait avec un ami proche ou un collègue, et certaines informations partagées sont sensibles.

La transparence est un autre sujet brûlant.

Oui, il existe des clauses de confidentialité et des engagements de la part d’OpenAI concernant le traitement des données.

Mais soyons honnêtes :

Combien d’entre nous prennent réellement le temps de lire ces documents ?

Quant à la clarté du traitement des données :

• Restent-elles anonymes ?
• Sont-elles conservées ?
• Si oui, pendant combien de temps ?
• Sont-elles utilisées à des fins commerciales ou de recherche ?

Toutes ces questions sont autant de zones d’ombre qui peuvent effaroucher certains utilisateurs.

Surtout en sachant que Microsoft a investi 10 milliards de $ dans OpenAI.

Ouais…

Connaissant la créature de Bill Gates, j’ai du mal à penser à bien.

De toute façon, j’ai toujours été soucieuse de ma vie privée en ligne.

J’ai donc naturellement pris le temps de creuser la question pour ChatGPT. Et bien que les garanties soient là (en apparence), une plus grande transparence serait bénéfique.

Les utilisateurs doivent avoir une vision claire de la manière dont leurs données sont gérées sans avoir à se plonger dans des pages et des pages de conditions générales d’utilisation.

Pour résumer, bien que ChatGPT offre une expérience utilisateur unique, reste bien vigilant… surtout à une époque où les données personnelles sont devenues une monnaie d’échange ultra lucrative.

8. Préoccupations éthiques et légales autour de ChatGPT

Tu te dis que le point 7 laisse trop de questions en suspens ?

Attends la suite…

Automatisation et tâches humaines

L’intelligence artificielle (ChatGPT inclus) simplifie et accélère de nombreuses tâches que nous faisions manuellement.

OK, super.

Mais jusqu’où sommes-nous prêts à laisser les machines prendre le relais ?

L’automatisation offre des tonnes d’avantages, notamment en termes d’efficacité et de rapidité.

C’est vrai.

Mais le risque d’utilisation abusive de l’IA pour automatiser des tâches fondamentalement humaines est quand même préoccupant.

À quand le jour où l’on demandera à notre IA dédiée de choisir notre conjoint et comment le draguer ?

Aussi, si l’IA peut produire un article, une nouvelle ou un poème rapidement, quelle est alors la valeur du travail humain ?

Si un tel texte est indiscernable d’une création humaine, où se situe la distinction ?

L’émotion, l’expérience et le vécu humains sont-ils remplaçables ?

Et ce n’est pas tout…

Propriété du contenu généré par ChatGPT

La propriété du contenu généré par l’IA soulève également des questions complexes.

Si je demande à ChatGPT de créer une œuvre, à qui appartient-elle ?

• À moi qui ai formulé la demande ?
• À OpenAI qui a développé l’IA ?
• À personne, puisque c’est l’œuvre d’une machine ?

Des litiges et débats existent autour des revendications de contenu généré par l’IA.

Cette question soulève des enjeux éthiques et juridiques importants, surtout dans un monde où le contenu a une valeur financière, artistique et intellectuelle significative.

Il reste donc à définir des limites claires pour reconnaître la valeur de la création humaine.

Conclusion sur les inconvénients de ChatGPT

Malgré tous les inconvénients de ChatGPT listés ici, l’outil s’améliore de jour en jour.

Quelles sont ses principales avancées ?

▶ Sa capacité à maintenir le contexte des conversations s’est nettement améliorée, offrant des dialogues plus fluides et pertinents.

▶ ChatGPT ajuste dynamiquement ses réponses, pour des échanges plus naturels et adaptés à chaque utilisateur.

▶ La fonctionnalité d’apprentissage rapide permet à ChatGPT de s’adapter rapidement à de nouveaux scénarios, augmentant ainsi sa polyvalence.

▶ Des mesures de sécurité évitent la génération de contenus inappropriés, assurant ainsi des interactions responsables.

▶ L’accès à l’API ChatGPT ouvre des possibilités d’innovation, permettant l’intégration de capacités avancées d’IA dans diverses applications.

Retours utilisateurs

Le développement itératif de ChatGPT s’appuie fortement sur les retours des utilisateurs.

OpenAI encourage ces derniers à signaler toute erreur ou biais, permettant ainsi des améliorations continues.

Ces retours affinent le modèle afin de toujours mieux répondre aux besoins réels des utilisateurs.

Réduction des biais

La lutte contre les biais et les contenus problématiques reste un défi majeur.

OpenAI travaille sur des solutions pour personnaliser les réponses de ChatGPT en équilibrant respect des valeurs individuelles et sécurité des contenus.

Oui, c’est beau sur le papier, mais tout cela reste à prouver…

Les perspectives d’avenir de ChatGPT

ChatGPT provoque un éventail de réactions, allant de l’enthousiasme au scepticisme…

Si l’on exclut la peur panique de certains.

Mais les mises à jour régulières semblent annoncer un avenir où ChatGPT sera un acteur clé dans l’amélioration des interactions humain-IA.

Mes recherches révèlent ses capacités impressionnantes, mais aussi ses limites, notamment en termes de compréhension et d’éthique.

Cependant, OpenAI répond activement aux critiques pour perfectionner ChatGPT.

Malgré ces défis, l’évolution de ChatGPT s’annonce prometteuses, et j’attends avec impatience de découvrir ses futures avancées.

À ton avis, à quel stade en est-il ?

Si tu n’as pas encore essayé l’outil, je t’y invite en suivant les instructions de mon article 15 types de prompt ChatGPT pour débuter – et comment les utiliser.

Ce premier pas qui te permettra de comprendre pourquoi je ne suis pas prête de le lâcher.