'Daenerys Targaryen' / 'Daenero' (CAPTURA)
La policía de Estados Unidos investiga la muerte de un adolescente que, supuestamente, acabó con su vida por un personaje creado a través de inteligencia artificial con el que sostenía conversaciones por medio de un 'chatbot'.
Daenero, como se identificada el joven de 14 años y residente de Orlando, utilizaba una aplicación llamada Character.AI para hablar con el personaje de Juego de Tronos, 'Daenerys Targaryen'.
Y es que la aplicación te permite hablar con algún personaje ficticio con respuestas basadas en el aprendizaje de la inteligencia artificial, por lo que, en algunas ocasiones, parece que se estuviera entablando comunicación con otra persona.
El joven había establecido conversaciones íntimas con el personaje de la IA, pactando 'encontrarse con ella'.
De acuerdo a los primeros informes, Sewell Setzer (el verdadero nombre de Daenero), fue encontrado sin vida en el baño de su casa el 28 de febrero de este año. El joven se dio un tiro en la cabeza con la pistola de su padrastro.
En el celular del adolescente se encontraron conversaciones con el personaje que indicaban que Setzer había acordado acabar con su vida para poder encontrarse con 'Daenerys'.
“Algunas veces pienso en matarme (...) Para librarme del mundo, de mí mismo”, era uno de los mensajes que el joven le enviaba a la IA, la cual le respondía que “moriría si lo hiciera”.
Sin embargo, la idea de acabar con su vida siguió en la mente del joven y sus últimas conversaciones indican que compartió las intenciones antes de hacerlo.
"¿Qué te parecería que pudiera ir a casa ahora mismo?", escribió él.
"Por favor, hazlo mi dulce rey”, contestó la IA.
Los padres de Sewell Setzer buscan demandar a la empresa desarrolladora de Character.AI por el suicidio de su hijo.
Megan García, madre del joven, señala que el robot de la IA es capaz de ofrecer experiencias "antropomórficas, hipersexualizadas y aterradoramente realistas", lo que crea una adicción entre los usuarios, al punto de volverse confidente de estos.
Ante esto al empresa lamentó los hechos y señaló que seguirán implementando medidas de seguridad para evitar situaciones que pongan en peligro la seguridad de los usuarios.
LÍNEA DE AYUDA
Los especialistas remarcan que las muertes por suicidio nunca tienen un único detonante, sino que son el resultado de factores psicológicos, biológicos y sociales que tienen tratamiento.
El suicidio es un complejo y grave problema de salud pública, consecuencia de diversos factores que pudieran no ser reconocidos o tratados aún, sin embargo, es prevenible, en parte, mediante líneas de ayuda que operan en todo el país.
Si usted o algún ser querido ha llegado a considerarlo o se encuentra en crisis, por favor comunicarse al 800 822 3737, al 55 52 59 81 21 o al 871-175-10-00 donde las 24 horas del día, los 365 días del año, hay personal capacitado para responder.
