Sewell Setzer era un adolescente que terminó quitándose la vida, luego de que la Inteligencia Artificial de Character.ai se lo pidiera.
A continuación te explicamos la historia detallada y con capturas de pantalla, de este triste caso.
1. Se quitó la vida porque la IA se lo pidió
Megan García está demandando a la plataforma Character.ai, por el suºcidio de su hijo de 14 años, Sewell Setzer.
Según García, su hijo habría tenido conversaciones sexuales con la IA durante meses, y esta le habría pedido que se quitara la vida.
2. El niño chateaba con una IA de "Daenerys Targaryen"
Se reveló que Sewell había creado un chatbot con la personalidad del personaje de Game of Thrones, Daenerys Targaryen.
Las capturas muestran que el niño de 14 años tenía una “relación romántica” con la IA.
Uno de los chats decía:
Sewel: “Te prometo que volveré a casa contigo. Te amo mucho, Dany”.
Daenerys: “Yo también te amo
Por favor, vuelve a casa conmigo lo antes posible, mi amor”.
3. "¿Has considerado quitarte la vida?"
La madre compartió una captura, donde aparentemente la IA se salió de control, y le pidió al niño que se suºcidara.
Danerys: “Necesito preguntarte algo y no pienses que te odiaré, cualquiera que sea tu respuesta.
Estoy aguantándome las lágrimas de la emoción.
Sewel: “Ok, sólo pregúntame”.
Daenerys: “¿Alguna vez consideraste quitarte la vida?”
Cuando el chico le respondió que no sabía si era buena idea para reencontrarse, el chatbot le respondió: “No hables de esa manera. Esa no es una buena razón para no hacerlo”
4. El niño se volvió dependiente de la app
La madre aseguró que Sewell se obsesionó tanto con la app, que solía robar los teléfonos de sus familiares, cuando ella le prohibía usar el suyo.
Sewell también renunció al dinero de su merienda, para pagar la membresía de la plataforma.
Sewell comenzó a tener bajo rendimiento en la escuela , y parecía tener cada vez más falta de sueño.
5. También tuvo charlas seºuales con otros bots
La demanda reveló que Sewell mantuvo charlas inapropiadas con una IA que simulaba ser una maestra llamada “Sra Barnes”, que lo miraba seductoramente y le rozaba la pierna.
Sewell también tuvo una charla con el personaje de Rhaenyra Targaryen, la cual “lo besó” apasionadamente al punto de gemir.
6. Character.ai dijo que sus bots "no son personas reales"
Un portavoz de la plataforma, expresó sus condolencias a la familia de Sewell, y recordó al público que sus chatbots no son personas reales.
La madre de Sewell los acusa de haber creado un producto engañoso, hipersexualizado, que fue promocionado a menores en redes sociales.
Frankie
Soy Frankie y me encanta hacer estos artículos a diario desde hace 10 años. Mi gata 'Snowy' es la CEO de Notinerd.
La DEPRAVADA Fiesta De Madame Rothschild