Les différents usages de l’intelligence artificielle peuvent faire autant de mal que de bien. Parmi les usages qui divisent fortement se trouve celui proposant de « ressusciter » une personne décédée à l’aide d’une combinaison de technologies en lien avec l’IA.
La perte d’une proche est l’une des pires épreuves que l’on a à affronter au cours d’une vie… Mais si vous aviez la possibilité de pouvoir reparler avec un être cher disparu via une représentation numérique, le feriez-vous ? Grâce à l’intelligence artificielle, c’est une possibilité qui est désormais à portée. Cependant, l’utilisation de technologies allant dans ce sens est loin d’être sans risque.
Une récente étude publiée par l’univers de Cambridge s’est intéressée aux IA capables de simuler la personnalité de personnes décédées. Ces derniers sont connus sous le nom, plutôt évocateur, de « deadbots ». Cela fait plusieurs années que cette technologie existe : un premier cas était évoqué en 2016 lorsqu’une programmeuse russe du nom de Eugenia Kuyda a entrepris de créer un avatar numérique de l’un de ses amis décédés. Elle a, ainsi, formé une IA grâce à plus de 30 millions de lignes de texte, pour lui apprendre à parler comme son ami et à s’approcher au plus près de sa personnalité.
Les « deadbots », une fausse bonne idée ?
Pour certains observateurs, les deadbots peuvent aider les personnes à faire leur deuil. Mais pour d’autres, cela peut empirer la situation : c’est d’ailleurs dans cette direction que s’oriente la conclusion de l’étude du Leverhulme Centre for the Future of Intelligence de Cambridge. Pour les chercheurs qui l’ont menée, utiliser une IA pour simuler un individu décédé comporte un fort risque d’aggraver la santé psychique des personnes qui utilisent ce genre de précédé.
« Ces services risquent de causer une énorme détresse aux gens s’ils sont soumis à des hantises numériques indésirables à partir de récréations d’IA de manière alarmante de celles qu’ils ont perdues. L’effet psychologique potentiel, en particulier à une époque déjà difficile, pourrait être dévastateur », explique le Dr Tomasz Hollanek, co-auteur de l’étude. « Il est essentiel que les services numériques après la vie prennent en compte les droits et le consentement, non seulement de ceux qu’ils recréent, mais aussi ceux qui devront interagir avec les simulations. »
Illustration : Midjourney
Un risque de « harcèlement » venu d’outre-tombe
Outre le fait que discuter avec un défunt peut être très perturbant de base, les chercheurs craignent aussi des dérives numériques associées à un mauvais usage de ce genre de technologies. Les proches de la personne décédée pourraient notamment se retrouver harcelées par une copie numérique de leur proche disparu, en vue d’utiliser des leviers psychologiques pour les manipuler. L’idée de se retrouver « spammé par les morts » ne doit clairement faire envie à personne.
Ce sujet fait débat depuis des années, notamment dans le milieu du transhumanisme. On peut aussi rappeler l’épisode de Black Mirror « Be Right Back », dont c’est le sujet principal. Aujourd’hui, cette problématique devient réalité, et les chercheurs estiment qu’il va falloir mettre des garde-fous concrets afin d’éviter au maximum les dérives.