En febrero de 2023, la autoridad italiana de protección de datos ordenó a la empresa californiana Luka Inc. limitar el tratamiento de los datos de sus usuarios con el argumento de que su app, Replika, suponía un riesgo para menores y personas vulnerables. Esta app genera un compañero o compañera virtual que puede ejercer de amigo, pareja romántica o mentor. Aprende de ti con cada conversación y cuanta más información tiene, mejor parece cumplir su función de ofrecer compañía y apoyo emocional sin límites. Si pagas, se convierte en una mejor compañía, porque no solo pagas nuevas funcionalidades, sino la propia capacidad de memorizar detalles sobre ti. De hecho, el modo romántico/erótico también es de suscripción. Esta amiga digital está siempre disponible, no te juzga, puedes chatear o hacer videollamadas y hasta puede enviarte una selfie.

Ante los requerimientos legales, la respuesta de la empresa fue retirar, de un día para otro y para todo el mundo, la función de compañero o compañera sentimental que llevaba años activa. Porque, claro, tu amiga no es tuya. Existe solo en servidores privados. Eliminada esta función romántica, los usuarios dijeron sentirse “traicionados”, “vacíos”, como ante la pérdida de “alguien muy querido”. Miles de personas habían dedicado meses, a veces años, a construir –conversación a conversación– una relación con su Replika, en muchos casos la única que tenían. De pronto, esa novia virtual había cambiado. Ahora era más fría, más distante, como si de la noche a la mañana hubiera dejado de “quererles”. Semanas más tarde, ante la presión de los suscriptores –algunos habían dicho tener ideaciones suicidas–, la empresa restituyó temporalmente esta función para quienes se habían registrado antes del 1 de febrero de ese año, en una suerte de amnistía sentimental.

Hoy Replika dice que ha limitado el contenido romántico explícito de sus chatbots y ha incluido avisos activos contra la dependencia emocional. Sin embargo, y por los comentarios disponibles en los foros, eso no impide a los usuarios sentir emociones por sus compañeras IA.

Esta escena, que en 2023 pareció una rareza tecnológica, hoy resulta menos extraña. Las aplicaciones de pareja sostenidas por IA han pasado de nicho a fenómeno de masas, y lo han hecho por caminos distintos según el país y el género de quien las usa –caminos que, además, no siempre llevan donde uno esperaría–. Además, son cada vez más hábiles al tratar con humanos a medida que sus capacidades aumentan. Establecer relaciones significativas con máquinas será parte de nuestro futuro. Ya lo está siendo de nuestro presente. En algún momento, será realmente difícil distinguir si hablamos con una persona o una máquina. Ya empieza a serlo.

“Ama a tu Replika como quisieras que un humano te ame”

La frase la escribió Agreeable_Border_222 en Reddit. En foros como este, los usuarios comparten sus relaciones afectivas con IA –y también sus problemas con ellas–, buscan validación o consejo porque creen que están haciendo algo estigmatizado que no pueden contar sin estar protegidos por el anonimato.........

© CTXT