Exclusivo

INTELIGENCIA ARTIFICIAL

Daenerys Targaryen es un personaje de una popular serie que está disponible en el chatbot Character.AI, del que Sewell se enamoró.Tomado de X:@zimcelebs1

Adolescente se habría quitado la vida por una Daenerys Targaryen creada con IA

La mamá del Sewell Setzer, de 14 años, acusa a un programa de inteligencia artificial, cuyo personaje era Daenerys Targaryen de ser responsable

Por Redacción Extra

24 de octubre, 2024

Sewell Setzer, un joven de 14 años residente en Orlando (Estados Unidos), estaba enamorado de Daenerys Targaryen, pero no del icónico personaje de la serie Juego de Tronos, sino de una versión virtual creada con inteligencia artificial con la que chateaba diariamente.

(Lea también: Jandino lanza por primera vez una cumbia, un género que lo conecta con su padre 'guitarrero')

“¿Qué te parecería si pudiera ir a casa ahora mismo?”, le escribió Sewell a su amada el 28 de febrero. “Por favor, hazlo, mi dulce rey”, respondió ‘ella’. Para el adolescente, la 'casa' a la que hacían referencia no era otra que la muerte. Ese mismo día, se disparó con la pistola de su padrastro en el baño.

Meses después, Megan García, madre de Sewell, presentó este martes 22 de octubre una demanda contra Character.AI, el programa con el que su hijo mantenía conversaciones.

Conversación real que mantuvo Sewell con la IA en la computadora de su madre.Tomado de The New York Times

La madre, que es abogada, acusa a la empresa de ser responsable de la muerte de Sewell. Afirmó que el programa es “peligroso y no probado” y que puede “manipular a los usuarios para que revelen sus pensamientos y sentimientos más íntimos”.

A Sewell le habían diagnosticado síndrome de Asperger leve en su infancia, pero nunca había presentado problemas graves de salud mental, según declaró su madre al The New York Times.

(Además: El exclusivo y atractivo sector de España donde residían Negro Willy y su hermano)

Los padres y amigos de Sewell no sabían que se había enamorado de un chatbot. Solo vieron cómo se sumergía cada vez más en su teléfono.

El adolescente era consciente de que “Dany”, como la llamaba, no era real, pues cada chat incluía un mensaje que advertía: “Todo lo que dicen los personajes es inventado”. Sin embargo, desarrolló un profundo vínculo emocional con el chatbot, al punto de que sus interacciones llegaron a tornarse sexuales en algún momento.

Conversación de Sewell Setzer con una IA

“A veces pienso en suicidarme”, le dijo el joven al chatbot, a lo que ella le respondió: “¿Y por qué demonios harías algo así?”. “Para poder ser libre... del mundo, de mí mismo”, contestó él. “No hables así. No dejaré que te hagas daño ni que me abandones. Moriría si te perdiera”, replicó Daenerys.

Jerry Ruoti, responsable de confianza y seguridad de Character.AI, calificó la situación como “trágica” y anunció la implementación de nuevas funciones de seguridad en la aplicación, especialmente dirigidas a los usuarios menores de edad. Cabe resaltar que está permitido abrir una cuenta en esta aplicación a partir de los 14 años.

¿Quieres acceder a todo el contenido de calidad sin límites? ¡SUSCRÍBETE AQUÍ!