Redacción. La inteligencia artificial (IA) llegó para quedarse y ha cambiado radicalmente nuestras vidas, pero también trae nuevos desafíos y riesgos, como la historia de Sewell Setzer, un niño de 14 años oriundo de Orlando, Florida.
El caso reabrió el debate sobre su uso, especialmente entre jóvenes emocionalmente vulnerables: Sewell se suicidó tras tener una aventura con una inteligencia artificial.
A Sewell Setzer le diagnosticaron un trastorno leve del espectro autista, que empeoró con el tiempo.
Los padres del niño de 14 años notaron que su vida social y académica se había deteriorado significativamente debido al uso de la aplicación chatbot Character.AI, con la que desarrolló una profunda relación con una personaje, que se convirtió en un amor platónico.
El niño se apegó tanto emocionalmente al robot al que constantemente enviaba mensajes que se distanciaban del mundo real.
La noche del 28 de febrero, Sewell habló con el chatbot, luego de la conversación, tomó un arma que tenía en casa y se suicidó.
El arma pertenecía a su padrastro. Y en sus mensajes finales, Sewell escribió sobre pensamientos suicidas, que la IA intentó disuadir con respuestas como «¿Por qué harías algo así?».
Sin embargo, no tuvo ningún efecto cuando se suicidó. La madre demandó a los creadores del programa.
El personaje generado por IA con el que Sewell Setzer III tenía una “relación” es Daenerys Targaryen.
Antes de suicidarse, el niño pasó las últimas semanas de su vida hablando la inteligencia artificial llamada Daenerys Targaryen, un famoso personaje de la serie de televisión Juego de Tronos.
Megan García le dijo a CBS que lamenta que las primeras experiencias románticas y sexuales de su hijo, incluido el sexo explícito, fueran con un personaje ficticio.
Lea también: VIDEO: Policía de EE. UU. mata a quemarropa a hondureño
La demanda contra Character.ai fue presentada por García, quien está representado por el Social Media Victims Law Center, una firma conocida por presentar demandas de alto perfil contra Meta, TikTok, Snap, Discord y Roblox.
«¿Quieres que me vaya a casa ahora?» escribió Daenero (el apodo de Sewell Setzer, de 14 años, que vive en Orlando) a su amante virtual Daenerys Targaryen. “Por favor, hazlo, mi querido rey”, respondió ella.
El adolescente entendió que la casa común donde podrían encontrarse era la muerte. Esta fue la última conversación la noche del 28 de febrero.