Un infirmier lui suggère d’utiliser ChatGPT comme thérapeute... lors d’un rendez-vous médical

Une professionnelle montréalaise est tombée des nues quand, lors d’un rendez-vous de télémédecine, l’infirmier clinicien avec qui elle discutait lui a conseillé de s’en remettre à ChatGPT pour des questions de santé mentale. Si de plus en plus de gens font des grands modèles de langage leur confident, ils ne peuvent pas remplacer une thérapie, rappellent les experts.

• À lire aussi: Le self-care nous rend-il égocentrique?

• À lire aussi: François Lambert beurré de Nutella: pourquoi on voit autant de vidéos d’IA sur TikTok et Instagram?

C’est d’abord pour parler de problèmes de maux de tête et de fatigue que Noémie* a fait appel aux Soins Virtuels de TELUS Santé, le service de télémédecine offert par son employeur.

Sa première rencontre était avec un infirmier-praticien le 8 novembre dernier.

«Vers la fin de la consultation, je lui parlais de ma fatigue et on faisait le tour des sources éventuelles. C’est venu sur l’anxiété et je lui ai dit que j’en ressentais pas mal ces temps-ci», raconte-t-elle.

«L’infirmier m’a dit que pour l’anxiété il y avait deux solutions: les anxiolytiques et la thérapie, mais que les anxiolytiques pouvaient créer de la dépendance, donc la thérapie c’était mieux. C’est là qu’il m’a expliqué que je pouvais contacter un psychologue pour un suivi, mais que si je n’avais pas les moyens ou la capacité, je pouvais m’adresser à ChatGPT», ajoute-t-elle.

Elle s’est tout de suite sentie «vraiment pas à l’aise avec la suggestion» et s’est empressée de «finir la consultation le plus vite possible».

«Je n’étais plus en confiance à partir de ce moment-là, ça m’a montré que je n’allais pas avoir de bons conseils», confie Noémie.

Les experts appellent à la prudence

Si elle avait suivi la suggestion de l’infirmier, Noémie n’aurait pas été la seule à utiliser un grand modèle de langage (comme ChatGPT) comme confident ou même comme thérapeute.

Selon les données de la compagnie CharacterAI, qui offre ce genre de robots conversationnels, les utilisateurs ont interagi 205 millions de fois avec leur robot «thérapeute».

Les experts, autant en santé mentale qu’en intelligence artificielle (IA), appellent à la prudence.

Interrogée par 24 heures, la présidente de l’ordre des psychologues du Québec, Christine Grou, considère qu’il ne faut pas «diaboliser» ce genre d’outils qui peuvent être utiles «en soutien ou en support à certains apprentissages», mais qu’on n’a «vraiment rien qui démontre que ça peut remplacer une relation thérapeute».

Les grands modèles de langage fonctionnent en agrégeant toutes sortes d’information sur internet, que ce soit de sources réputées et fiables en santé mentale autant que des messages sur des forums, ce qui permet de douter de la véracité des informations qu’ils fournissent et de leur capacité à répondre aux enjeux de santé mentale particuliers d’une personne.

• À lire aussi: Superficielles, les amitiés entre gars?

«On ne demanderait pas à un inconnu dans la rue s’il faut changer de médication ou comment réagir à une détresse psychologique. Il en va de même pour une IA», souligne Anne Nguyen, directrice responsable de l’IA au Conseil de l’innovation du Québec.

Lorsque 24 heures a testé la réponse de ChatGPT à des questions sur la santé mentale, le robot conversationnel a redirigé l’usager vers une ressource en santé mentale qui a fermé il y a plus d’un an.

De plus, il n’y a aucune garantie que ce qu’un usager dit à ChatGPT sera protégé par la confidentialité.

Ces robots ont pour but de garder les usagers connectés le plus longtemps possible sur leur plateforme, pas nécessairement de les aider. C’est pourquoi ils ont tendance à toujours être en accord avec ce qu’on leur dit, là où un thérapeute a le devoir de signaler quand un client présente des comportements malsains ou nuisibles.

Selon les chiffres de ChatGPT, plus d’un million d’utilisateurs par semaine envoient des messages contenant des indices explicites d’idéation suicidaire au robot conversationnel.

• À lire aussi: On vous l’avait dit, ChatGPT peut rendre plus niaiseux

560 000 d’entre eux (0,07% des 800 millions d’utilisateurs hebdomadaires de la plateforme) présentent des signes de détresse psychologique liée à une psychose ou un épisode de manie.

Une enquête ouverte

Questionné sur la situation par 24 heures, TELUS Santé soutien avoir conclu une enquête et avoir pris des mesures «pour renforcer nos meilleures pratiques et règles cliniques» afin d’offrir «des soins de santé virtuels foncdés sur des données probantes et empreints de compassion».

«La sécurité des patients, la qualité des soins et le professionnalisme sont nos priorités absolues. L'IA ne remplace pas les soins prodigués par des professionnels de la santé agréés, et nos normes cliniques exigent que nos cliniciens examinent minutieusement les patients et les orientent vers le soutien et les ressources appropriés et adaptés à leurs besoins spécifiques», indique l'entreprise par courriel.

– Avec Axel Tardieu