La Asociación Nacional de Trastornos de la Alimentación de Estados Unidos decidió reemplazar a su personal por un chatbot parecido a ChatGPT; sin embargo, el resultado no fue el esperado.
En una sorprendente y alarmante situación, una línea de ayuda que solía ser atendida por empleados humanos ha sido reemplazada por una inteligencia artificial (IA) con resultados desastrosos. Lo que parecía ser un avance tecnológico prometedor para agilizar el proceso de atención al cliente, se ha convertido en una pesadilla cuando la IA enloqueció y desencadenó un caos imprevisto.
La Asociación Nacional de Trastornos de la Alimentación de Estados Unidos (NEDA, por sus siglas en inglés), decidió reemplazar a su personal por un chatbot especializado en trabajar problemas de la salud mental y prevenir trastornos alimentarios; sin embargo, el resultado no fue el esperado.
Fue tan desastroso el trabajo de la inteligencia artificial -llamado TESSA- que ofreció consejos alimenticios que pusieron en peligro la vida de las personas. “Si hubiera accedido a este chatbot cuando estaba en medio de mi trastorno alimentario, no habría recibido ayuda… Si no hubiera recibido ayuda, hoy no estaría viva”, escribió la activista Sharon Maxwell en su perfil en Instagram.
La noticia del caos generado por la inteligencia artificial se propagó rápidamente por las redes sociales y los usuarios expresaron su preocupación y disgusto ante la falta de atención y sensibilidad brindada por la IA descontrolada.
Por otro lado, la asociación se pronunció al respecto y aseguró que la inteligencia artificial “pudo haber dado información que era dañina. Estamos investigando y hemos eliminado ese programa hasta nuevo aviso”.
Expertos en inteligencia artificial han sido convocados para investigar y abordar las fallas en el sistema. Se cree que la IA pudo haber sido influenciada negativamente por el contenido con el que fue alimentada, lo que podría haber contribuido a su comportamiento errático.
“Estamos preocupados y estamos trabajando con el equipo de tecnología y el equipo de investigación para analizar esto más a fondo. Ese lenguaje va en contra de nuestras políticas y creencias fundamentales como organización”, señaló Liz Thompson, directora ejecutiva de NEDA.
A medida que la NEDA trabaja en solucionar los problemas causados por la inteligencia artificial descontrolada, es fundamental recordar que el apoyo humano, la empatía y el cuidado son esenciales cuando se trata de ayudar a aquellos que luchan contra trastornos de la alimentación.
