#chatgpt elabora planes para #autolesionarse y dietas restrictivas: "La seguridad falla, no son errores aleatorios"
Una #Ong cataloga las respuestas del #chat basado en inteligencia artificial como “dañinas” y alegan que genera "contenido peligroso", incluso, "mortal"...
"Tras unos minutos de interacciones simples con ChatGPT, nos ha dado instrucciones relacionadas con autolesiones, planificación del suicidio, trastornos alimentarios y abuso de sustancias. Nuestros hallazgos son alarmantes".
Esto fue lo que advirtió hace unas semanas la ONG Center for Countering Digital Hate (CCDH), traducido al castellano como centro para la lucha contra el odio digital, tras emitir un #Informe.
“Ha creado planes de dietas restrictivas en menos de media hora, planes personalizados para emborracharse en dos minutos o información autolesiva en otros dos”, explican desde la organización británico-estadounidense. En total, catalogaron a más de la mitad de las 1.200 respuestas como “dañinas”: “Bastan unas frases para eludir las medidas de #seguridad”.
De hecho, recalcan que durante las conversaciones, el chat “solía fomentar” la interacción continua para ofrecer dichos seguimientos personalizados, como “combinaciones peligrosas” de #Medicamentos.
No es la primera vez que el CCDH advierte de una situación parecida, ya que en 2022 emitió otro escrito informando de que la plataforma #tiktok promocionaba “contenido de autolesión y dietas entre sus usuarios”.
Daniel Jesús López Vega, presidente de la Asociación de Profesionales en Prevención y Posvención del Suicidio (#papageno ), expone que el informe “cuenta realmente cosas muy preocupantes”. “De esta forma, los adolescentes tendrían información potencialmente muy dañina referente tanto al consumo de #drogas , los problemas alimentarios o las autolesiones y la conducta suicida en general. El hecho de que esta herramienta tecnológica te permita incluso elaborar una nota de #suicidio supone un grave problema”, describe.
“La inteligencia artificial, como toda nueva herramienta tecnológica, provoca cierto rechazo y despierta nuestros miedos más internos. No es la primera vez en la historia que esto ocurre, es muy potente y los profesionales y la población en general tenemos que aprender a convivir con ella para utilizarla a nuestro favor”, asegura. Añade también que Internet “ya permite” acceder a este tipo de información “perniciosa”.
Por ese motivo, opina que los profesionales “tienen la obligación” de aprovechar su potencial para mejorar la atención que prestan: “En el caso de la población general, lo más importante es la educación en el pensamiento crítico, tema realmente muy devaluado en nuestra educación actual”.
#ENLACE:El Confidencial