On vous l’avait dit, ChatGPT peut rendre plus niaiseux

Utiliser ChatGPT pour faire un travail scolaire a-t-il un effet négatif sur la capacité de penser par soi-même? C’est ce que semble confirmer une étude de chercheurs du Massachusetts Institute of Technology (MIT). Selon leurs recherches, non seulement les personnes qui font appel à ChatGPT mettent moins leur cerveau à profit, mais en plus, elles deviennent de plus en plus paresseuses au cours de l’expérience.

Les 54 participants à l’étude, des habitants de la région Boston âgés de 18 à 39 ans, ont été divisés en trois groupes. Chaque groupe devait écrire plusieurs travaux de rédaction semblables à ceux demandés lors des tests standardisés pour l’admission aux universités américaines.

Pour écrire, un groupe utilisait ChatGPT, un autre avait droit au moteur de recherche de Google et le dernier n’avait droit à aucun outil.

Les chercheurs ont enregistré l’activité neuronale dans les différentes régions du cerveau des participants pendant ce temps grâce à un électroencéphalogramme (EEG). Les résultats ont été assez homogènes à l’intérieur d’un groupe donné.

Le groupe qui devait utiliser ChatGPT présentait l’activité cérébrale la plus basse.

Au fur et à mesure de l’étude, les membres du groupe utilisant ChatGPT ont de plus en plus commencé à simplement copier et coller les réponses du grand modèle de langage plutôt que de s’en inspirer. À la fin de l’exercice, ils étaient les moins capables de citer leurs propres travaux.

Le groupe qui devait se fier uniquement à son cerveau présentait la plus grande connectivité neuronale dans les régions associées à l’idéation créative, la mémoire et le traitement sémantique. Les chercheurs ont remarqué que ce groupe était plus curieux, motivé et présentait une plus grande satisfaction avec le contenu de leur dissertation.

Quant au groupe qui a utilisé Google, il présentait également une activité cérébrale élevée et une bonne satisfaction quant à leur travail. Les chercheurs l’expliquent par le fait qu’ils ont dû eux-mêmes chercher l’information grâce à leurs propres mots-clés.

Le fait de systématiquement moins utiliser son cerveau, et donc faire moins de nouvelles connexions entre ses neurones, pourrait avoir des effets à long terme sur le développement du cerveau des plus jeunes.

• À lire aussi: L’IA peut-elle remplacer un psy?

Perte d’esprit critique

Si les travaux des groupes utilisant Google ou juste leur cerveau divergeaient entre eux, ceux faits avec l’aide de ChatGPT étaient extrêmement similaires, même si de bonne qualité selon les professeurs chargés de les évaluer. Ces derniers les ont qualifiés de «sans âme».

Les participants du groupe ChatGPT avaient moins tendance à évaluer la réponse donnée par le grand modèle de langage de manière critique, ce qui est inquiétant lorsqu’on sait que les réponses de ChatGPT reproduisent les biais et les stéréotypes introduits par les données avec lesquelles on l’entraîne.

Les chercheurs soulignent que les réponses d’outils comme ChatGPT peuvent aussi être très facilement influencées par les intérêts des compagnies qui en sont propriétaires et de leurs actionnaires, ce qui rend le risque de «chambre d’écho» encore plus préoccupant.

• À lire aussi: «Starter pack»: voici combien d’eau on «gaspille» quand on génère une image avec l’IA

Publier sans attendre

Les résultats de cette étude sont à prendre avec un grain de sel cependant, car ils ont été publiés avant d’être passés par une revue par les pairs. On peut remarquer aussi que la taille de l’échantillon est assez réduite et que les participants provenaient tous de la même région géographique.

C’est un choix conscient de la part des chercheurs qui voulaient faire connaître leurs résultats sans attendre pour mettre en lumière les problèmes potentiels liés à une utilisation croissante de grands modèles de langage comme ChatGPT.

«Ce qui m’a vraiment motivé à sortir l’étude maintenant avant d’attendre la revue complète par les pairs, c’est que j’ai peur que dans six à huit mois, il y ait un politicien qui décide de lancer quelque chose comme une “maternelle GPT”. Je pense que ce serait totalement mauvais et nuisible», explique l’autrice principale de la recherche, Nataliya Kosmyna.

Elle estime que si on veut un jour intégrer ce genre d’outils en éducation, il faut mieux tester l’effet de ceux-ci sur les cerveaux en développement dans des études sur le long terme et adopter des lois pour les encadrer en conséquence.

– Avec les informations du MIT et du TIME

• À lire aussi: L’intelligence artificielle pour mieux détecter les fractures à l’urgence