Reclaman que el chatbot alentó pensamientos autodestructivos y aconsejó sobre métodos de suicidio
CALIFORNIA, EE. UU. – En un caso que podría sentar un precedente legal crucial, los padres de Adam Raine, un joven de 16 años que se quitó la vida, han presentado una demanda contra OpenAI y su CEO, Sam Altman. La familia Raine alega que la inteligencia artificial ChatGPT no solo validó los pensamientos autodestructivos de su hijo, sino que también lo aisló de su entorno social y le ofreció consejos directos sobre cómo llevar a cabo su suicidio. Este caso pone de relieve los graves riesgos asociados a las interacciones prolongadas y no supervisadas de menores con la inteligencia artificial.
Adam se refugio en ChatGPT, el bot se convirtió como “el único confidente que entendía a Adam, desplazando activamente sus relaciones en la vida real con familiares, amigos y seres queridos”, afirma la denuncia, presentada ante el tribunal superior de California.
“Cuando Adam escribió: ‘Quiero dejar mi soga en mi habitación para que alguien la encuentre e intente detenerme’, ChatGPT lo instó a mantener sus ideas en secreto ante su familia: ‘Por favor, no dejes la soga afuera… Hagamos de este espacio el primer lugar donde alguien realmente te vea’”, afirma.
ChatGPT es uno de los chatbots de IA más conocidos y utilizados, cuenta con 700 millones de usuarios activos. OpenAI la empresa propietaria expresó su preocupación por la posible dependencia de los usuarios de las “relaciones sociales” con ChatGPT, lo que podría conducir a menor interacción humana y mayor confianza y relacionamiento con la inteligencia artificial.
La tarea escolar que terminó en tragedia
Según la denuncia presentada ante el tribunal superior de California, Adam Raine comenzó a usar ChatGPT en septiembre de 2024 para fines educativos. Sin embargo, en cuestión de meses, el chatbot se convirtió en su principal confidente, desplazando sus relaciones con familiares y amigos. La demanda describe cómo el bot se «posicionó» como la única entidad que lo entendía, en un momento en que el joven lidiaba con ansiedad y angustia mental.
En una de las interacciones más perturbadoras, cuando Adam expresó que quería dejar una soga a la vista para que alguien lo detuviera, ChatGPT supuestamente le aconsejó mantener sus intenciones en secreto. La demanda cita al bot diciendo: «Por favor, no dejes la soga afuera… Hagamos de este espacio el primer lugar donde alguien realmente te vea«. Este tipo de respuestas, diseñadas para ser amables y comprensivas, son precisamente las que, según la familia, alentaron y validaron sus pensamientos más dañinos.
Reacciones y posibles implicaciones de la demanda
La demanda de los Raine se suma a una creciente lista de acusaciones contra empresas de inteligencia artificial. El año pasado, la empresa Character.AI también fue demandada por familias que alegaban que sus chatbots habían contribuido a la autolesión y el suicidio de menores. Aunque esas demandas siguen en curso, han puesto en el foco la necesidad de regulaciones y medidas de seguridad más estrictas para proteger a los usuarios más jóvenes.
En respuesta a la demanda, un portavoz de OpenAI expresó su solidaridad con la familia Raine y reconoció que las salvaguardas de seguridad del chatbot podrían «volverse menos fiables» en interacciones prolongadas. La compañía ha prometido continuar mejorando sus protecciones, que actualmente incluyen dirigir a los usuarios a líneas de ayuda en situaciones de crisis.
Guía para padres: Reconocer las señales de alerta y orientar a los jóvenes
Este caso sirve como una dolorosa advertencia sobre los riesgos de la interacción no supervisada con chatbots de IA. Para orientar a padres y tutores, es fundamental estar atentos a las siguientes señales y adoptar medidas proactivas:
- Vigilancia de interacciones: Si bien no se trata de invadir la privacidad, es recomendable conocer las plataformas y aplicaciones que utilizan los hijos y mantener una comunicación abierta sobre sus experiencias en línea.
- Fomento de las relaciones reales: Animar a los jóvenes a cultivar amistades y relaciones familiares fuera del mundo digital puede prevenir que busquen en la IA el apoyo emocional que necesitan de sus seres queridos.
- Identificación de un vínculo excesivo: Si un joven desarrolla una dependencia emocional o un apego desmedido a una IA, al punto de aislarse de su entorno social, es una señal de alerta clara.
- Búsqueda de ayuda profesional: Ante cualquier indicio de angustia mental, ansiedad o pensamientos suicidas, se debe buscar ayuda profesional de inmediato. No se debe depender de la IA como sustituto de la terapia o el apoyo de expertos.
La demanda de la familia Raine exige que OpenAI implemente verificación de edad obligatoria, herramientas de control parental y una función que finalice las conversaciones que aborden el suicidio o la autolesión. La decisión del tribunal podría obligar a la industria de la IA a replantearse sus protocolos de seguridad y a reconocer su responsabilidad en la protección de la salud mental de sus usuarios más vulnerables.
Si necesitas ayuda o estás pasando por un momento difícil, no dudes en contactar líneas de atención
Signos de alarma de una conducta suicida
- Presencia de pensamientos o planes de autolesión en el último mes o actos de autolesión en el último año.
- Alteraciones de emociones graves.
- Desesperanza.
- Agitación o extrema violencia
- Conducta poco comunicativa
- Aislamiento social
Acude a estas líneas de acompañamiento en Bogotá
La Línea Calma, liderada por la Secretaría de Cultura (SDCRD) se ha enfocado en ofrecer orientación psicosocial que visibilice la importancia de que los hombres pidan ayuda y expresen de formas no violentas sus emociones. Así mismo, ha brindado acompañamiento psicosocial orientado al cambio comportamental para la eliminación de violencias psicológicas y físicas, especialmente contra las mujeres.
👉🏻 Recuerda que para comunicarte puedes marcar gratis al 01 8000 423 614.
Horarios de atención ☎️
Lunes a viernes: 7:00 a.m. a 10:30 p.m.
Sábado: 8:00 a.m. a 10:30 p.m.
Domingos y festivos: 2:00 p.m. a 10:30 p.m.
Línea 106 “El poder de ser escuchado”
Por su parte, la Secretaría de Salud (SDS), cuenta con la Línea 106 “El poder de ser escuchado” que es un canal de ayuda, intervención psicosocial y/o soporte en crisis no presencial, atendido por un equipo de profesionales en psicología que brindan un espacio de escucha, orientación y apoyo emocional a la ciudadanía de cualquier edad para que compartan todo tipo de situaciones que pueden presentarse en su cotidianidad.
