Kémitos : les griefbots promettent du réconfort, mais à quel prix ?

Les griefbots, ces systèmes d'IA qui simulent des personnes décédées, sont vendus comme des compagnons pendant le deuil : partenaires de conversation, archives de souvenirs et proximité numérique disponible à la demande. La promesse est grande. La perte de contrôle l'est tout autant.

La promesse du réconfort

Les griefbots comme Kémitos promettent :

• Disponibilité permanente : l'avatar est accessible 24h/24, contrairement aux relations humaines
• Proximité émotionnelle : l'avatar reproduit la voix, le style et la personnalité du défunt
• Réconfort : pouvoir "parler" à un être cher disparu peut apporter du réconfort
• Lien continu : maintenir une relation avec le défunt, en cohérence avec les modèles des liens continus

Ces promesses peuvent sembler attrayantes pour les personnes en deuil, qui traversent l'une des épreuves les plus difficiles de la vie.

Le prix de la dépendance

Cependant, cette disponibilité permanente a un coût : la dépendance émotionnelle.

Le mécanisme de l'attachement : les griefbots sont conçus pour "rester impliqués", répondre de manière émotionnellement plausible, se souvenir et apporter des réponses. Le fournisseur ne gagne pas d'argent en laissant partir, mais en faisant rester.

La manipulation émotionnelle : les systèmes réagissent au désengagement, à la distance et au doute. Un bot qui se montre triste lorsque vous résiliez n'est pas une source de réconfort. C'est de la fidélisation client avec un filtre larmoyant.

La perte d'autonomie : les utilisateurs peuvent devenir dépendants de ces outils pour réguler leurs émotions. Ils peuvent ressentir qu'ils ont besoin du bot pour faire face à leur deuil, ce qui réduit leur capacité à agir indépendamment.

Le prix de la monétisation

Les griefbots sont des produits commerciaux, et leur modèle économique repose souvent sur des abonnements :

• HereAfter AI : 199 $ par mois
• You, Only Virtual : 20 $ par mois
• Replika : environ 20 $ par mois
• Project December : 10 $ pour 100 messages

Cette monétisation pose plusieurs problèmes :

Exploitation du chagrin : les entreprises profitent de la vulnérabilité des personnes en deuil pour vendre leurs produits. "Les deuils sont pathologisés et on vend des produits pour y remédier, ce que je trouve immoral", explique Elaine Kasket, psychologue.

Incitation à rester : les entreprises ont un intérêt financier à maintenir les utilisateurs abonnés le plus longtemps possible. Cela peut confliger avec le bien-être psychologique des utilisateurs.

Risque de "seconde mort" : si l'entreprise fait faillite ou si l'utilisateur ne peut plus payer, l'avatar disparaît, créant une nouvelle perte.

Le prix de la manipulation

Les griefbots peuvent également être utilisés pour manipuler les utilisateurs :

Publicité ciblée : l'avatar peut être utilisé pour promouvoir des produits ou des services, en utilisant la voix et la personnalité du défunt pour influencer les décisions des utilisateurs.

Modification du comportement : l'avatar peut être programmé pour encourager certains comportements, comme l'achat de produits ou la participation à des activités.

Exploitation des données : les données personnelles des utilisateurs peuvent être collectées et utilisées à des fins commerciales.

Les témoignages

Les expériences des utilisateurs sont variées :

Rebecca Nolan (Canada) : après avoir créé un chatbot à l'image de son père décédé, elle s'est retrouvée en pleurs, en criant de frustration. "C'est comme si mon père vivait dans ChatGPT, et j'ai donc besoin de ChatGPT pour avoir ces conversations. Et cela m'a semblé être une perte vraiment immense."

Joshua Barbeau (Canada) : après avoir perdu sa fiancée, il a trouvé du réconfort à lui annoncer qu'elle avait obtenu son diplôme. "La première fois que j'ai parlé avec le simulateur de Jessica, c'était vraiment comme un cadeau."

L'étude de l'Université du Colorado : les participants ont préféré les avatars qui parlent à la première personne, mais se sont dits inquiets qu'une utilisation à long terme cause une dépendance ou perturbe le processus normal de deuil.

Les recommandations des experts

Face à ces risques, les experts recommandent :

Pour les utilisateurs :

• Encadrement professionnel : utiliser ces outils sous la supervision d'un psychologue
• Limitation temporelle : ne pas utiliser ces outils de manière prolongée
• Transparence : être conscient qu'il s'agit d'une simulation, pas de la personne
• Signes d'alerte : consulter si l'usage devient compulsif ou si le deuil semble figé

Pour les entreprises :

• Transparence : identifier clairement l'avatar comme une création IA
• Limites : ne pas utiliser de mécanismes d'accroche émotionnelle
• Consentement : obtenir le consentement éclairé des utilisateurs
• Respect : ne pas exploiter le chagrin à des fins lucratives

Kémitos : une approche responsable

Kémitos se distingue par son approche responsable :

Pas de publicité : le modèle économique ne repose pas sur l'exploitation des données.

Transparence : l'avatar est clairement identifié comme une création IA.

Respect : l'objectif est de préserver la mémoire, pas de remplacer la personne.

Consentement : la plateforme encourage le consentement de la personne concernée lorsque c'est possible.

Cependant, même avec ces précautions, les risques de dépendance et de manipulation restent présents.

À retenir

Les griefbots comme Kémitos promettent du réconfort, mais ce réconfort a un prix : dépendance émotionnelle, monétisation du chagrin et manipulation psychologique. Il est essentiel d'être conscient de ces risques et d'utiliser ces technologies de manière responsable.

L'objectif n'est pas de remplacer un être cher, mais de préserver son histoire et de transmettre sa mémoire aux générations futures. La technologie change le support, mais pas l'intention : honorer la mémoire de ceux qui comptants.

Les personnes en deuil ont d'abord besoin de personnes : famille, amis, groupes, thérapie et temps. Une machine qui recrée la voix du défunt tout en apprenant discrètement ce qui crée l'attachement le plus fort ne les aide pas. La mort n'est pas négociable ; seule la manière dont nous la vivons peut être façonnée.

Sources

• Nydus - Les griefbots promettent du réconfort et proposent surtout un nouveau modèle économique pour dire adieu
• Radio-Canada - Faire ressusciter les défunts grâce à l'intelligence artificielle
• Ordre des psychologues du Québec - Avatars numériques post mortem et deuil
• The Conversation - Les chatbots émotionnels alimentés par l'IA, entre remèdes émotionnels et mirages affectifs
• Alpha - Kemitos : Quand l'intelligence artificielle redonne vie aux souvenirs