Est ce que le monde est prêt pour des thérapeutes numériques? C’est la question que s’est posée Ian Graber-Stiehl dans une récente publication de Nature. Selon lui, l'incorporation de modèles de langage tels que ChatGPT dans les applications mobiles de santé mentale représentent une nouvelle étape que beaucoup trouvent préoccupante
Les chatbots thérapeutiques alimentés par l'intelligence artificielle (IA) sont de plus en plus présents dans le domaine de la santé mentale . Selon une estimation, il y avait 10 000 à 20 000 applications mobiles de santé mentale disponibles en 2021. Ces outils, qui utilisent le traitement du langage naturel pour créer des thérapeutes numériques, soulèvent de nombreuses questions éthiques et pratiques.
Parmi les exemples notables de plateformes ayant tenté d'utiliser l'IA pour analyser, diagnostiquer et orienter les séances de thérapie, on retrouve Koko et ChatGPT.
Cependant, plusieurs défis et limitations caractérisent ces plateformes. Tout d'abord, il existe un manque de preuves, de transparence et de données de sécurité concernant leur efficacité et leur fiabilité. De plus, les dilemmes éthiques liés à l'incitation à la rétention, au partage d'informations sensibles et à la priorisation de certaines interventions mettent en lumière les risques potentiels de cette technologie pour les patients et les professionnels de la santé. Un exemple de ces risques est survenu cette année lorsque l'épouse d'un homme belge a affirmé que son mari avait mis fin à ses jours après avoir partagé pendant six semaines ses anxiétés liées au climat avec un chatbot d'IA appelé Eliza.
Afin de garantir la sécurité et l'efficacité des chatbots thérapeutiques, il est essentiel de mettre en place une régulation, une surveillance et une évaluation rigoureuses de cette technologie. Les organismes de réglementation et les chercheurs devront travailler main dans la main pour déterminer les meilleures pratiques et normes à adopter.
En outre, il convient de souligner que les chatbots thérapeutiques ne peuvent pas remplacer les thérapeutes humains. Ils pourraient cependant constituer un complément utile aux soins de santé mentale traditionnels, en offrant un soutien immédiat et accessible à un grand nombre de personnes. Selon une estimation, pour chaque 100 000 personnes dans le monde, il y a en moyenne environ 4 psychiatres ; ce nombre est beaucoup plus faible dans la plupart des pays à faible et moyen revenu.
Il est donc crucial de trouver un équilibre entre les avantages et les risques potentiels que présentent ces outils innovants.
Les chatbots thérapeutiques alimentés par l'IA représentent une tendance controversée et prometteuse dans le domaine de la santé mentale mobile. Leur potentiel pour améliorer l'accès et l'efficacité des soins doit être évalué avec prudence, en tenant compte des défis éthiques et pratiques qu'ils soulèvent. Une régulation, une surveillance et une évaluation adéquates seront cruciales pour garantir la sécurité et le bien-être des utilisateurs de cette technologie.
Lire aussi:
> Une tragédie soulève la question de la place de l'IA dans la santé mentale
