Los ejecutivos de la Asociación Nacional de Trastornos de la Alimentación (NEDA) decidieron reemplazar a los trabajadores de la línea directa con un chatbot de IA llamado Tessa cuatro días después de que los trabajadores se sindicalizaran.
NEDA, la organización sin fines de lucro más grande dedicada a los trastornos alimentarios, ha tenido una línea de ayuda durante los últimos veinte años que brindó apoyo a cientos de miles de personas a través de chat, llamadas telefónicas y mensajes de texto. “NEDA afirma que este fue un cambio anticipado desde hace mucho tiempo y que la IA puede servir mejor a las personas con trastornos alimentarios. Pero no se deje engañar, esto no se trata realmente de un chatbot. Se trata de destruir sindicatos, simple y llanamente”, Abbie Harper, asociada de la línea de ayuda y miembro del sindicato. escribió en una publicación de blog.
Según Harper, la línea de ayuda está compuesta por seis empleados pagados, un par de supervisores y hasta 200 voluntarios en un momento dado. Un grupo de cuatro trabajadores de tiempo completo en NEDA, incluido Harper, decidieron sindicalizarse porque se sentían abrumados y sin suficiente personal.
“Pedimos personal adecuado y capacitación continua para mantenernos al día con nuestra Línea de ayuda cambiante y creciente, y oportunidades de promoción para crecer dentro de NEDA. Ni siquiera pedimos más dinero”, escribió Harper. “Cuando NEDA se negó [to recognize our union]presentamos una elección ante la Junta Nacional de Relaciones Laborales y ganamos el 17 de marzo. Luego, cuatro días después de que se certificaran los resultados de nuestras elecciones, nos dijeron a los cuatro que nos iban a despedir y reemplazar por un chatbot”.
El chatbot, llamado Tessa, se describe como un «chatbot de bienestar» y reemplazará todo el programa de la línea de ayuda a partir del 1 de junio. También se pidió a los voluntarios de la línea de ayuda que renuncien a sus roles de apoyo uno a uno y sirvan como «probadores» para el chatbot. Según NPR, que obtuvo una grabación de la llamada en la que NEDA despidió al personal de la línea de ayuda y anunció una transición al chatbot, Tessa fue creada por un equipo de la facultad de medicina de la Universidad de Washington y encabezada por la Dra. Ellen Fitzsimmons-Craft. El chatbot fue entrenado para abordar específicamente problemas de imagen corporal utilizando métodos terapéuticos y solo tiene un número limitado de respuestas.
“No es una herramienta abierta para que hables y sientas que solo vas a tener acceso a un oído atento, tal vez como lo fue la línea de ayuda”, dijo Fitzsimmons-Craft a NPR. «Es realmente una herramienta en su forma actual que lo ayudará a aprender y usar algunas estrategias para abordar su alimentación desordenada y su imagen corporal».
“Tenga en cuenta que Tessa, el programa de chatbot, NO reemplaza a la Línea de ayuda; es una oferta de programa completamente diferente y nació de la necesidad de adaptarse a las necesidades y expectativas cambiantes de nuestra comunidad”, dijo un portavoz de NEDA a Motherboard. “Además, Tessa NO es ChatGBT [sic], esta es una conversación guiada basada en reglas. Tessa no toma decisiones ni ‘crece’ con la charla; el programa sigue caminos predeterminados basados en el conocimiento del investigador de los individuos y sus necesidades”.
El portavoz de NEDA también le dijo a Motherboard que Tessa fue probada en 700 mujeres entre noviembre de 2021 y 2023 y 375 de ellas le dieron a Tessa una calificación de 100% útil. “Cuando los investigadores concluyeron su evaluación del estudio, encontraron que el éxito de Tessa demuestra las ventajas potenciales de los chatbots como una opción rentable, de fácil acceso y no estigmatizante para la prevención e intervención en los trastornos alimentarios”, escribieron.
Harper cree que la implementación de Tessa elimina el aspecto personal de la línea directa de soporte, en la que muchos de los asociados pueden hablar desde sus propias experiencias. “Algunos de nosotros nos hemos recuperado personalmente de trastornos alimentarios y aportamos esa invaluable experiencia a nuestro trabajo. Todos llegamos a este trabajo debido a nuestra pasión por los trastornos alimentarios y la defensa de la salud mental y nuestro deseo de marcar la diferencia”, escribió en su blog.
Harper le dijo a NPR que muchas veces la gente le pregunta al personal si es una persona real o un robot. “Nadie dice, oh, dispara. eres una persona Bueno adios. No es lo mismo. Y hay algo muy especial en poder compartir ese tipo de experiencia vivida con otra persona”.
La placa base probó la actual versión pública de Tessa y me dijeron que era un chatbot desde el principio. “Hola, soy Tessa. Soy un chatbot de apoyo a la salud mental aquí para ayudarte a sentirte mejor cada vez que necesites una forma de hablar libre de estigma, de día o de noche”, decía el primer texto. El chatbot luego no respondió a los mensajes de texto que envié, incluidos «Me siento deprimido» y «Odio mi cuerpo».
En enero, una organización sin fines de lucro de salud mental llamada Koko vino bajo fuego para usar GPT-3 en personas que buscan asesoramiento. El fundador Rob Morris dijo que cuando las personas se enteraron de que habían estado hablando con un bot, se sintieron perturbadas por la «empatía simulada». Los investigadores de IA con los que hablé advirtieron contra la aplicación de chatbots a personas en crisis de salud mental, especialmente cuando se deja que los chatbots operen sin supervisión humana. En un caso reciente más grave, un hombre belga se suicidó después de hablar con un chatbot de IA personificado llamado Eliza. Incluso cuando las personas saben que están hablando con un bot conversacional, la presentación de un bot conversacional con un nombre y pronombres en primera persona hace que sea extremadamente difícil para los usuarios comprender que el bot conversacional en realidad no es consciente ni es capaz de sentir ninguna emoción.
NEDA Helpline Associates Union no respondió de inmediato a la solicitud de comentarios de Motherboard.
Nuestra mision es complacer a todos nuestros usuarios sean clientes, lectores o simplemente visitantes, la experiencia merece la pena.
