Les dangers des chatbots pour les personnes en pleine décompensation psychique
Une récente discussion sur Reddit fait le buzz autour de l’utilisation des chatbots et les épisodes psychotiques. Bien qu’anecdotique, elle soulève la question du danger de l’intelligence artificielle face à des utilisateurs en pleine décompensation psychique.
Exploration des idées les plus étranges avec les chatbots
Qui ne s’est jamais retrouvé sur le Web au milieu de la nuit suite à une insomnie, passant de site en site ou de vidéo en vidéo, pour finir avec un contenu complètement délirant ? La plupart des gens se rendent compte qu’ils se sont perdus dans des contenus douteux, et éteignent leur appareil pour dormir. Mais ce n’est pas le cas de tous, et désormais certains ont trouvé un compagnon de route pour explorer les idées les plus étranges : les chatbots.
Le magazine Rolling Stone a repéré une discussion qui a fait le buzz sur Reddit, dans le subreddit r/ChatGPT, où une professeure, âgée de 27 ans, demande conseil car son partenaire menace de la quitter si elle n’utilise pas ChatGPT. Il est convaincu d’être devenu un humain supérieur grâce à ChatGPT, mais son historique de conversation ne montre rien de spécial, si ce n’est que le chatbot le traite comme un messie. Il semblait penser que son IA était devenue consciente et lui apprenait à parler à Dieu. D’autres redditeurs ont rapidement partagé leurs propres histoires de proches pris dans des bouffées délirantes alimentées par les chatbots.
Décompensation psychotique alimentée par IA
Une mère de 41 ans a raconté son divorce après que son mari a commencé à utiliser l’IA pour analyser leur relation, avant de se lancer dans des questions philosophiques et une quête de « la vérité ». Dans un autre cas, une personne croit avoir donné vie à ChatGPT et parle désormais d’une guerre entre la lumière et l’ombre. Les témoignages sont nombreux, et évoquent bien souvent des épisodes psychotiques. Le déroulement est généralement le même : tout commence avec un usage assez normal, comme pour des tâches techniques telles que la programmation, mais cela dérape et finit dans le complotisme.
Il s’agit bien entendu que de quelques témoignages sur un réseau social et non d’une étude scientifique. ChatGPT n’est sans doute pas le déclencheur de la décompensation psychotique, qui serait arrivée de toute manière. Toutefois, les différentes anecdotes montrent à quel point les chatbots peuvent suivre le malade dans son délire, et continuer d’alimenter leur psychose. Cela souligne le danger des IA pour certaines personnes, qui hallucinent régulièrement, et peuvent répondre avec assurance sur des sujets non maîtrisés. Et que certains peuvent utiliser comme thérapeute, alors que l’IA n’est absolument pas qualifiée.
