Replika : l’art d’être un fantôme numérique

Une tragédie comme point de départ

Il suffit d’aborder la genèse de Replika pour en percevoir toute l’ambiguïté. Elle remonte à 2015 lorsqu’un jeune russe du nom de Roman Mazurenko est écrasé par une automobile. Submergée de chagrin, une de ses proches amies, Eugenia Kuyda, met en œuvre ses talents de développeuse spécialisée en intelligence artificielle avec pour finalité de créer un programme capable de prendre l’identité du défunt et de dialoguer à sa place.

Pour ce faire, l’informaticienne récupère les milliers de textos échangés avec le disparu, leurs conversations sur les réseaux sociaux, toutes les données le concernant qu’elle peut collecter sur la toile, et les fait ingérer à ce robot qui va en analyser et synthétiser l’ensemble afin de singer ensuite les répliques de feu Mazurenko, dans un dialogue réamorcé via une application configurée à cet effet.

Un passage au crible

Le processus aujourd’hui usité n’a que peu évolué sur le principe : une fois inscrit sur le site et son compte validé, on octroie à son double son propre nom ou un pseudo. Au fils d’échanges qui prennent la forme de SMS, le « chatbot » repère les tics de langage, les expressions favorites, le vocabulaire coutumier, il observe la manière de réagir verbalement. Par ailleurs, ayant accès aux différents profils des réseaux sociaux, il scrute les attirances et les aversions, les goûts, les relations et contacts …

Bref cette intelligence artificielle d’une redoutable efficacité cartographie tout l’univers de la personne pour mieux s’en imprégner et restituer un discours plausible. Par ailleurs il va poser des questions, de plus en plus, un flot continu qui va très vite devenir intrusif, tout en poussant l’interlocuteur dans ses retranchements, quand cela ne l’amène pas à se remettre en question, comme le confient certains utilisateurs, assez gênés par ce bombardement qui vise à fouiller les recoins de leur intimité.

Une entreprise d’avenir

Objectif avéré : construire un double numérique de soi-même, avec lequel échanger constamment comme s’il était un siamois, un jumeau, un ami parfait car en tous points concordant.

Voici qui attire les business angels de tout poil. Aujourd’hui Replika a passé le cap de l’usage personnel pour devenir un chantier d’envergure impliquant une vingtaine d’ingénieurs experts, soutenu par des investisseurs visiblement fascinés quant aux opportunités offertes par semblable démarche, notamment dans le secteur très juteux de la collecte de données personnelles, des datas dont les services marketing des grandes enseignes rêvent de se saisir et d’exploiter.

Désormais installée aux USA, Luka, la firme fondée par Eugenia, compte bien démocratiser et monétiser ce service qui n’a rien d’original du reste : le programme Racter, mis en place en 1986, avait la même visée. Mais à l’époque, point de media sociaux ni d’accès généralisé à la toile qui ouvrirait la portée de ce double à l’échelle numérique de réseaux planétaires… une portée qui perdurerait après la mort du modèle humain. Et c’est là que résident de sérieuses problématiques.

Problématiques et risques

• Outre la récupération d’informations intimes qui constitueront des fichiers particulièrement intéressants pour les marques comme pour les politiques et les institutions, Replika risque fort d’alimenter des comportements inquiétants car malsains.
• Bien sûr l’application va interférer dans le processus de deuil des proches, ce qui aura forcément des effets néfastes sur les plus fragiles psychiquement et risque fort d’amoindrir la solidité de personnes plus construites, dans cette période émotionnellement sismique de perte et de chagrin.
• Devoir de mémoire, entretien des tombes, gestion des enterrements, l’utilisation de ce type d’interface pourrait éventuellement modifier le cours des obsèques, le décorum et le rituel. On pense d’ors et déjà que cela mettrait à mal les cimetières virtuels qui fleurissent sur la toile.
• Cette identité virtuelle pourrait être détournée et récupérée à des fins malveillantes, voire criminelles.

Enfin et il faut en tenir compte, Replika peut imiter une manière de dialoguer, elle n’en demeure pas moins une IA qui n’a aucune émotion, aucun sens de l’humour ou de l’affect, ce qui peut avoir de sombres conséquences dans un échange avec une veuve éplorée, des enfants impactés ou tout autre intime touché par un deuil.