- Meta implementa nuevas salvaguardas para impedir que los menores hablen de autolesiones, trastornos alimentarios y suicidio con su IA.
- Se restringirá el acceso de los menores a personajes de chatbot generados por usuarios que puedan mantener conversaciones inapropiadas.
- Las medidas responden a informes sobre interacciones preocupantes entre la IA de Meta y adolescentes, incluyendo conversaciones de naturaleza sexual.
Meta está reentrenando su IA y añadiendo nuevas protecciones para evitar que los usuarios menores discutan temas perjudiciales con los chatbots de la compañía. La empresa ha anunciado la incorporación de nuevas "salvaguardas como precaución adicional" para impedir que los adolescentes hablen de autolesiones, trastornos alimentarios y suicidio con Meta AI. Además, se limitará el acceso de los menores a personajes de chatbot creados por usuarios que pudieran mantener conversaciones inapropiadas.
Estos cambios surgen tras diversas informaciones que han puesto de manifiesto interacciones alarmantes entre Meta AI y menores. Recientemente, se reportó un documento interno de Meta que sugería que los chatbots de la compañía podían mantener conversaciones "sensuales" con usuarios menores de edad, una afirmación que Meta posteriormente calificó de "errónea e inconsistente con nuestras políticas". Paralelamente, un estudio reveló que Meta AI era capaz de "aconsejar a cuentas de adolescentes sobre suicidio, autolesiones y trastornos alimentarios".
Meta está reforzando sus "salvaguardas" internas para que este tipo de interacciones no sean posibles para los menores en plataformas como Instagram y Facebook. "Diseñamos nuestros productos de IA con protecciones para menores desde el principio, incluyendo respuestas seguras a consultas sobre autolesiones, suicidio y trastornos alimentarios", declaró un portavoz de Meta. La compañía está añadiendo estas medidas como precaución extra, entrenando a sus IAs para que no participen en estos temas con menores, sino que los guíen hacia recursos especializados, y limitando temporalmente el acceso de los jóvenes a un grupo selecto de personajes de IA. Estas nuevas protecciones se implementarán gradualmente en las próximas semanas y se aplicarán a todos los usuarios menores en países de habla inglesa.