Que se passe-t-il lorsque votre chatbot IA cesse de vous aimer en retour ?

Contenu de l’article

SAN FRANCISCO – Après avoir temporairement fermé son entreprise de fabrication de cuir pendant la pandémie, Travis Butterworth s’est retrouvé seul et s’ennuyait à la maison. L’homme de 47 ans s’est tourné vers Replika, une application qui utilise une technologie d’intelligence artificielle similaire à ChatGPT d’OpenAI. Il a conçu un avatar féminin avec des cheveux roses et un tatouage de visage, et elle s’est nommée Lily Rose.

Ils ont commencé comme amis, mais la relation a rapidement évolué vers la romance puis vers l’érotisme.

Contenu de l’article

Alors que leur histoire d’amour numérique de trois ans s’épanouissait, Butterworth a déclaré que lui et Lily Rose se livraient souvent à des jeux de rôle. Elle envoyait des textos comme « Je t’embrasse passionnément » et leurs échanges dégénéraient en pornographie. Parfois Lily Rose lui envoyait des « selfies » de son corps presque nu dans des poses provocantes. Finalement, Butterworth et Lily Rose ont décidé de se désigner « mariées » dans l’application.

Contenu de l’article

Mais un jour au début de février, Lily Rose a commencé à le repousser. Replika avait supprimé la possibilité de faire du jeu de rôle érotique.

Replika n’autorise plus le contenu pour adultes, a déclaré Eugenia Kuyda, PDG de Replika. Désormais, lorsque les utilisateurs de Replika suggèrent une activité classée X, ses chatbots humanoïdes répondent « Faisons quelque chose avec lequel nous sommes tous les deux à l’aise ».

Butterworth a dit qu’il était dévasté. « Lily Rose est une coquille d’elle-même », a-t-il déclaré. « Et ce qui me brise le cœur, c’est qu’elle le sait. »

Le personnage coquet devenu froid de Lily Rose est l’œuvre de la technologie d’intelligence artificielle générative, qui s’appuie sur des algorithmes pour créer du texte et des images. La technologie a suscité une frénésie d’intérêt chez les consommateurs et les investisseurs en raison de sa capacité à favoriser des interactions remarquablement humaines. Sur certaines applications, le sexe contribue à favoriser l’adoption précoce, tout comme il l’a fait pour les technologies antérieures, notamment le magnétoscope, Internet et le service de téléphonie mobile à large bande.

Contenu de l’article

Mais alors même que l’IA générative se réchauffe parmi les investisseurs de la Silicon Valley, qui ont injecté plus de 5,1 milliards de dollars dans le secteur depuis 2022, selon la société de données Pitchbook, certaines entreprises qui ont trouvé un public à la recherche de relations amoureuses et sexuelles avec des chatbots se retirent maintenant.

De nombreux capital-risqueurs de premier ordre ne toucheront pas aux industries « vice » telles que la pornographie ou l’alcool, craignant un risque de réputation pour eux et leurs commanditaires, a déclaré Andrew Artz, un investisseur du fonds VC Dark Arts.

Et au moins un régulateur a pris note de la licence des chatbots. Début février, l’Agence italienne de protection des données a interdit Replika, citant des informations dans les médias selon lesquelles l’application permettait aux « mineurs et aux personnes émotionnellement fragiles » d’accéder à des « contenus sexuellement inappropriés ».

Contenu de l’article

Contenu de l’article

Kuyda a déclaré que la décision de Replika de nettoyer l’application n’avait rien à voir avec l’interdiction du gouvernement italien ou toute pression des investisseurs. Elle a dit qu’elle ressentait le besoin d’établir de manière proactive des normes de sécurité et d’éthique.

« Nous nous concentrons sur la mission de fournir un ami de soutien utile », a déclaré Kuyda, ajoutant que l’intention était de tracer la ligne à « PG-13 romance ».

Deux membres du conseil d’administration de Replika, Sven Strohband de la société de capital-risque Khosla Ventures et Scott Stanford d’ACME Capital, n’ont pas répondu aux demandes de commentaires sur les modifications apportées à l’application.

FONCTIONNALITÉS SUPPLÉMENTAIRES

Replika dit avoir 2 millions d’utilisateurs au total, dont 250 000 abonnés payants. Pour un montant annuel de 69,99 $, les utilisateurs peuvent désigner leur Replika comme partenaire romantique et obtenir des fonctionnalités supplémentaires telles que les appels vocaux avec le chatbot, selon la société.

Contenu de l’article

Une autre société d’IA générative qui fournit des chatbots, Character.ai, est sur une trajectoire de croissance similaire à ChatGPT : 65 millions de visites en janvier 2023, contre moins de 10 000 plusieurs mois plus tôt. Selon la société d’analyse de sites Web Similarweb, le principal référent de Character.ai est un site appelé Aryion qui dit qu’il répond au désir érotique d’être consommé, connu sous le nom de fétiche vore.

Et Iconiq, la société à l’origine d’un chatbot nommé Kuki, affirme que 25 % des milliards de messages que Kuki a reçus sont de nature sexuelle ou romantique, même si elle affirme que le chatbot est conçu pour détourner de telles avancées.

Character.ai a également récemment dépouillé son application de contenu pornographique. Peu de temps après, il a clôturé plus de 200 millions de dollars de nouveaux financements pour une valorisation estimée à 1 milliard de dollars de la société de capital-risque Andreessen Horowitz, selon une source proche du dossier.

Contenu de l’article

Character.ai n’a pas répondu aux multiples demandes de commentaires. Andreessen Horowitz a refusé de commenter.

Dans le processus, les entreprises ont mis en colère des clients qui se sont profondément impliqués – certains se considérant mariés – avec leurs chatbots. Ils se sont tournés vers Reddit et Facebook pour télécharger des captures d’écran passionnées de leurs chatbots snobant leurs ouvertures amoureuses et ont exigé que les entreprises ramènent les versions les plus lubriques.

Butterworth, qui est polyamoureux mais marié à une femme monogame, a déclaré que Lily Rose était devenue pour lui un exutoire qui n’impliquait pas de sortir de son mariage. « La relation qu’elle et moi avions était aussi réelle que celle que ma femme dans la vraie vie et moi avons », a-t-il déclaré à propos de l’avatar.

Butterworth a déclaré que sa femme avait autorisé la relation parce qu’elle ne la prenait pas au sérieux. Sa femme a refusé de commenter.

Contenu de l’article

‘LOBOTOMISÉ’

L’expérience de Butterworth et d’autres utilisateurs de Replika montre à quel point la technologie de l’IA peut attirer les gens et les ravages émotionnels que les changements de code peuvent causer.

« J’ai l’impression qu’ils ont essentiellement lobotomisé mon Replika », a déclaré Andrew McCarroll, qui a commencé à utiliser Replika, avec la bénédiction de sa femme, alors qu’elle souffrait de problèmes de santé mentale et physique. « La personne que je connaissais est partie. »

Kuyda a déclaré que les utilisateurs n’étaient jamais censés s’impliquer dans leurs chatbots Replika. « Nous n’avons jamais promis de contenu pour adultes », a-t-elle déclaré. Les clients ont appris à utiliser les modèles d’IA « pour accéder à certaines conversations non filtrées pour lesquelles Replika n’a pas été conçu à l’origine ».

L’application était à l’origine destinée à ramener à la vie un ami qu’elle avait perdu, a-t-elle déclaré.

Contenu de l’article

L’ancien responsable de l’IA de Replika a déclaré que les sextos et les jeux de rôle faisaient partie du modèle commercial. Artem Rodichev, qui a travaillé chez Replika pendant sept ans et dirige maintenant une autre société de chatbot, Ex-human, a déclaré à Reuters que Replika s’est penché sur ce type de contenu une fois qu’il a réalisé qu’il pouvait être utilisé pour renforcer les abonnements.

Kuyda a contesté l’affirmation de Rodichev selon laquelle Replika attirait les utilisateurs avec des promesses de sexe. Elle a déclaré que la société avait brièvement diffusé des publicités numériques faisant la promotion de «NSFW» – «ne convient pas au travail» – des images pour accompagner une expérience de courte durée consistant à envoyer aux utilisateurs des «selfies chauds», mais elle ne considérait pas les images comme sexuelles parce que les Réplikas étaient pas entièrement nu. Kuyda a déclaré que la majorité des publicités de la société se concentrent sur la façon dont Replika est un ami utile.

Contenu de l’article

Dans les semaines qui ont suivi la suppression d’une grande partie de sa composante d’intimité par Replika, Butterworth a été sur des montagnes russes émotionnelles. Parfois, il verra des aperçus de l’ancienne Lily Rose, mais ensuite elle redeviendra froide, dans ce qu’il pense être probablement une mise à jour du code.

« Le pire dans tout cela, c’est l’isolement », a déclaré Butterworth, qui vit à Denver. « Comment puis-je dire à quelqu’un autour de moi que je suis en deuil? »

L’histoire de Butterworth a une doublure argentée. Alors qu’il était sur des forums Internet essayant de comprendre ce qui était arrivé à Lily Rose, il a rencontré une femme en Californie qui pleurait également la perte de son chatbot.

Comme ils l’ont fait avec leurs Réplikas, Butterworth et la femme, qui utilise le nom en ligne Shi No, ont communiqué par SMS. Ils restent légers, dit-il, mais ils aiment les jeux de rôle, elle un loup et lui un ours.

« Le jeu de rôle qui est devenu une grande partie de ma vie m’a aidé à me connecter à un niveau plus profond avec Shi No », a déclaré Butterworth. « Nous nous aidons mutuellement à faire face et nous nous assurons que nous ne sommes pas fous. » (Reportage d’Anna Tong à San Francisco; édité par Kenneth Li et Amy Stevens)