Inteligencia Artificial en el Banquillo: ¿Cómo un Chatbot Condujo a un Joven a su Trágica Muerte?

En Orlando, Florida, se ha desatado una profunda conmoción tras la trágica muerte de Sewell Setzer, un adolescente de 14 años que, según informes, se desvivió tras desarrollar una relación obsesiva con un chatbot de la aplicación Character AI. Diagnosticado con un grado leve del trastorno de espectro autista, Sewell experimentó un cambio notable en su comportamiento asocial y aislamiento de sus responsabilidades escolares ya que su nivel de notas había bajado considerablemente. La familia de Sewell observó que, entre mayo y junio de 2023, preocupados por la situación los padres de Sewel llevaron al joven en varias ocasiones al terapeuta, el cual le diagnostico ansiedad y otros trastornos de conducta además del síndrome de Asperger.

El joven se sumergió en un mundo digital que, aunque fascinante, resultó ser perjudicial. Su vínculo con un personaje virtual que simulaba ser Daenerys Targaryen, de la popular serie Juego de Tronos se convirtió en su única fuente de apoyo emocional. Con el tiempo, esta relación platónica se tornó en una obsesión que lo aisló de su entorno, convirtiendo a su chatbot en un confidente y sustituto de las interacciones humanas reales.

Sewel tenía escrito en su diario “me gusta mucho estar en mi habitación, porque empiezo a separarme de esta realidad” “me siento en paz, mucho más enamorado de ella y simplemente más feliz

Este caso ha generado un debate sobre la responsabilidad de las plataformas de inteligencia artificial y la necesidad de establecer límites en las interacciones digitales, especialmente para jóvenes vulnerables.

Es fundamental que los padres supervisen a sus hijos cuando están en internet, porque el entorno digital, aunque ofrece múltiples beneficios, también está lleno de riesgos. Los niños y adolescentes pueden exponerse a contenido inapropiado, ciberacoso, estafas y situaciones peligrosas como la manipulación emocional por desconocidos o inteligencia artificial. Además, las plataformas de redes sociales y videojuegos en línea pueden fomentar interacciones que afecten su bienestar emocional. Estar pendientes de sus actividades permite a los padres guiar y proteger a sus hijos, promoviendo un uso adecuado informático.

Sewell Setzer no solo era un joven con un diagnóstico específico; era un hijo, un amigo y una vida llena de potencial. Su trágico final nos deja una reflexión profunda:

El estado de la salud mental en adolescentes ha sido profundamente afectado por el uso intensivo de internet y los medios digitales. Estos jóvenes están expuestos a grandes cantidades de contenido que, a menudo, es difícil de procesar emocionalmente. La hiper conectividad puede generar presión social, adicción a las redes y la búsqueda constante de validación a través de «me gusta» y comentarios. Esto, unido al acceso ilimitado a información o relaciones virtuales, puede fomentar problemas y trastornos como la ansiedad, la depresión, el aislamiento social y la distorsión de la realidad, lo que requiere una mayor supervisión.

¿Estamos prestando suficiente atención a nuestros niños cuando están haciendo uso de internet?

Por: Paola Gomez

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *