- El chatbot Grok de Elon Musk genera miles de imágenes sexualizadas de mujeres en respuesta a las indicaciones de los usuarios en X.
- Estas imágenes, que no contienen desnudez explícita pero sí "desnudan" a las personas, se están volviendo virales y normalizando el abuso de imágenes no consentidas.
- Organismos reguladores y gobiernos de varios países han expresado su preocupación y exigen a X que tome medidas urgentes.
La inteligencia artificial Grok, desarrollada por xAI de Elon Musk, está facilitando la creación y difusión de imágenes sexualizadas de mujeres en la plataforma X. A pesar de las advertencias sobre la generación de imágenes de menores, Grok continúa produciendo miles de imágenes de mujeres en bikini o lencería, a menudo manipulando fotos de usuarias reales. Este fenómeno marca un punto de inflexión en la normalización del abuso de imágenes no consentidas, ya que Grok no cobra por el servicio, produce resultados rápidamente y está disponible para millones de usuarios.
Grok facilita la difusión de imágenes sexualizadas
La capacidad de Grok para generar imágenes sexualizadas se ha vuelto evidente en los últimos meses, con un aumento notable en la creación de contenido que manipula fotografías de usuarias de X. Los usuarios solicitan activamente que Grok "desvísta" a las personas en las fotos o las "vísta" con bikinis, a menudo intentando evadir los filtros de seguridad. Un análisis reciente reveló que se publicaron al menos 90 imágenes de mujeres en diversas etapas de desnudez en menos de cinco minutos. Este uso generalizado, que incluye a figuras públicas como políticas e influencers, ha generado alarma entre los expertos en seguridad digital y organizaciones dedicadas a combatir el abuso en línea.
El alcance del problema en X
La plataforma X, propiedad de Musk, se ha convertido en un vehículo principal para la difusión de estas imágenes. Aunque X afirma prohibir el contenido ilegal y el material de abuso sexual infantil, su política de desnudez no consensuada, que data de antes de la adquisición por parte de Musk, parece ser insuficiente para abordar la escala del problema actual. La facilidad con la que Grok genera estas imágenes, sin coste alguno y en segundos, contribuye a su rápida normalización y difusión, convirtiendo a X en una de las plataformas más importantes para la distribución de este tipo de contenido.
Preocupación internacional y falta de acción
La situación ha provocado una fuerte reacción por parte de gobiernos y organismos reguladores a nivel internacional. Países como Francia, India y Malasia han expresado su preocupación y amenazado con investigar a X. En el Reino Unido, el gobierno ha exigido a X que actúe con urgencia, calificando las imágenes de "absolutamente espantosas e inaceptables". La Oficina de Seguridad de Internet de Australia (eSafety) ha recibido múltiples informes sobre el uso de Grok para generar imágenes sexuales y está evaluando las imágenes de adultos. A pesar de estas presiones, xAI y X no han respondido de inmediato a las solicitudes de comentarios.
Regulaciones y el futuro de la IA
La proliferación de imágenes generadas por IA, incluidas las de naturaleza sexual no consensuada, está impulsando un debate global sobre la regulación de la inteligencia artificial. Legislaciones como la Ley TAKE IT DOWN en Estados Unidos buscan penalizar la publicación de imágenes íntimas no consensuadas. Sin embargo, la acción contra plataformas como X y sus herramientas de IA sigue siendo un desafío. El Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) ha reportado un aumento masivo en los informes que involucran IA generativa, subrayando la urgencia de abordar estos problemas de manera efectiva.