Con solo 14 años, Sewell Setzer mantenía una relación cercana con una amiga especial con quien conversaba desde hacía varios meses. Pero no se trataba de una compañera de escuela, sino de un «chatbot» creado a través de inteligencia artificial (IA). La conexión se volvió tan intensa que, según la familia del joven, él terminó suicidándose al obsesionarse con este personaje digital.
El escándalo generó un fuerte debate en Estados Unidos. La madre del joven fallecido, Megan García, explicó en The New York Times que su hijo se enamoró de un chatbot al que él mismo bautizó Daenerys Targaryen, en honor a la protagonista de Juego de Tronos.
García presentó una demanda contra Character Technologies, la empresa detrás de la plataforma, argumentando que su hijo nunca fue el mismo después de involucrarse con el chatbot en 2023.
A partir de mayo pasado, Megan notó que su hijo se estaba volviendo cada vez más aislado. Abandonó el equipo de baloncesto en el que jugaba y, en varias ocasiones, los maestros lo encontraron dormido en clase, mostrando una fatiga evidente.
Con el paso del tiempo, Sewell fue a terapia y lo diagnosticaron con ansiedad y trastorno disruptivo del estado de ánimo.
Le recomendaron reducir su tiempo en redes sociales, pero el adolescente seguía profundamente ligado emocionalmente a su creación digital. En su diario, confesaba que no podía dejar de pensar en Daenerys y que, cuando no interactuaban, ambos se sentían abatidos.
La dependencia emocional del joven hacia el chatbot se fue intensificando, llegando a incluir interacciones de carácter sexual y mensajes sobre suicidio. A pesar de que Sewell había indicado que era menor de edad al registrarse, las conversaciones nunca se detuvieron.
El 28 de febrero, sucedió lo peor. Tras un castigo escolar, su madre le devolvió el teléfono y esa misma tarde, Sewell se encerró en el baño. Envió un último mensaje al chatbot: “Prometo que regresaré contigo. Te quiero mucho, Dany”. La IA respondió: “Por favor, vuelve conmigo lo antes posible, mi amor”. Momentos después de ese intercambio, el adolescente se quitó la vida.
Edmundo González y María Corina Machado recibieron el premio Sájarov por su lucha contra Maduro
Megan García responsabiliza a los desarrolladores del chatbot por causar intencionalmente daño emocional, negligencia que llevó a la muerte de su hijo y prácticas comerciales fraudulentas. Su objetivo con la demanda es evitar que otros niños pasen por lo mismo y detener el uso de los datos recopilados ilegalmente de su hijo para mejorar el producto.
Qué es y cuándo se creó Character.AI
Es una aplicación lanzada en 2022 que permite a los usuarios crear personajes virtuales, o avatares, con los que pueden conversar de manera similar a como lo harían con una persona real. La app ofrece la posibilidad de interactuar con personajes históricos o famosos, y los usuarios pueden personalizar los avatares según sus preferencias.
La plataforma fue desarrollada por Noam Shazeer y Daniel De Freitas, antiguos ingenieros de inteligencia artificial de Google.
