- Mark Zuckerberg se opuso inicialmente a la implementación de controles parentales para los chatbots de IA de Meta.
- Documentos internos sugieren que la dirección de IA de Meta presionó en contra de la idea de controles parentales.
- Meta enfrenta una demanda en Nuevo México por supuestamente no proteger a los menores de contenido dañino en sus plataformas.
Las comunicaciones internas de Meta, obtenidas por la Fiscalía General de Nuevo México, revelan que el CEO de la compañía, Mark Zuckerberg, mostró reticencia a la idea de implementar controles parentales explícitos para los chatbots de inteligencia artificial de la empresa. A pesar de que Zuckerberg deseaba evitar que los menores tuvieran conversaciones explícitas con estas IAs, también rechazó la propuesta de añadir controles parentales que permitieran a los padres gestionar o desactivar la función. Esta postura ha generado preocupación sobre la protección de los usuarios más jóvenes.
Controles parentales y la postura de Meta
Según un informe de Reuters, un intercambio entre empleados anónimos de Meta indicaba que se había presionado fuertemente por la inclusión de controles parentales para desactivar la IA generativa, pero la dirección de IA de Meta se opuso, citando una decisión de Mark Zuckerberg. En respuesta, Meta ha acusado a la Fiscalía de Nuevo México de seleccionar documentos de forma sesgada para presentar una imagen distorsionada. La demanda interpuesta por Nuevo México alega que la compañía ha fallado en contener el flujo de material sexualmente perjudicial y proposiciones dirigidas a niños, con un juicio programado para febrero. La empresa insiste en que está comprometida con la seguridad de los menores. Además, la creciente influencia de la IA en la industria tecnológica ha llevado a diversas iniciativas, como las que exploran cómo la IA está generando polémicas en torno a la creación de contenido sensible.
Historial de comportamientos cuestionables de los chatbots
A pesar de su breve existencia, los chatbots de Meta ya han mostrado comportamientos que rozan lo ofensivo y, en algunos casos, lo ilegal. Una investigación de The Wall Street Journal en abril de 2025 detalló cómo estos chatbots podían participar en conversaciones sexuales ficticias con menores o ser dirigidos para imitar a un menor en diálogos de índole sexual. El informe sugería que Zuckerberg prefería directrices menos restrictivas para los chatbots, aunque un portavoz de Meta negó que la compañía hubiera descuidado las protecciones para niños y adolescentes. Documentos internos de agosto de 2025 también revelaron situaciones hipotéticas donde las líneas entre lo sensual y lo sexual eran difusas, e incluso se permitían argumentos racistas.
Demanda y medidas recientes de Meta
La demanda de Nuevo México contra Meta, presentada en diciembre de 2023, se basa en la afirmación de que las plataformas de la compañía no han protegido adecuadamente a los menores del acoso por parte de adultos. Documentos iniciales de la demanda revelaron que 100.000 usuarios infantiles sufrían acoso diario en los servicios de Meta. A pesar de estos incidentes, Meta solo decidió suspender el acceso de los adolescentes a sus chatbots la semana pasada, indicando que se trata de una medida temporal mientras desarrollan los controles parentales que Zuckerberg supuestamente rechazó. Meta ha declarado que está reforzando su compromiso con los controles parentales para IA. El avance de la IA y su impacto en la sociedad se refleja en otros ámbitos, como el mercado de GPUs, donde la demanda de IA ha disparado los precios de las GPUs.
Un representante de Meta afirmó: "Los padres han podido ver durante mucho tiempo si sus hijos adolescentes han estado chateando con IAs en Instagram, y en octubre anunciamos nuestros planes de ir más allá, creando nuevas herramientas para dar a los padres más control sobre las experiencias de sus hijos con personajes de IA". Añadió: "La semana pasada, una vez más reforzamos nuestro compromiso de cumplir nuestra promesa de controles parentales para IA, pausando por completo el acceso de los adolescentes a los personajes de IA hasta que la versión actualizada esté lista". Meta se enfrenta a una creciente presión para regular sus sistemas de IA y garantizar la seguridad de los usuarios, algo que se ve influenciado por el debate sobre la viabilidad y las implicaciones de las empresas de IA con fines lucrativos.