• Malasia ha levantado la prohibición temporal del chatbot Grok de Elon Musk.
  • La medida se tomó inicialmente por la generación de imágenes sexualizadas, incluidas las de menores.
  • X ha asegurado a las autoridades malasias haber implementado las salvaguardas necesarias contra el uso indebido.

Malasia, uno de los primeros países en bloquear el chatbot Grok de Elon Musk, ha decidido retirar la restricción. La Comisión de Comunicaciones y Multimedia de Malasia (MCMC) había impuesto el veto temporalmente a principios de mes, tras la aparición de informes sobre el uso de la IA para generar imágenes sexualizadas de personas, incluyendo mujeres y niños. La decisión de levantar el veto se produce después de que las autoridades malasias consideraran que X Corp y xAI han cumplido con las garantías solicitadas.

Garantías de seguridad y monitorización continua

En su momento, la MCMC declaró que las restricciones se mantendrían hasta que X Corp y xAI pudieran demostrar la implementación de salvaguardas necesarias para prevenir el mal uso de la herramienta. Las autoridades malasias parecen haber aceptado las explicaciones y acciones de la compañía de Musk, ya que la MCMC ha confirmado que está satisfecha con las medidas de seguridad implementadas. No obstante, han advertido que continuarán monitorizando la plataforma de redes sociales y que cualquier futura infracción de seguridad o violación de las leyes malasias será tratada con firmeza. La colaboración entre reguladores y plataformas de IA es crucial para proteger a los usuarios.

Medidas adoptadas por X para prevenir la generación de contenido inapropiado

Hasta la fecha, Malasia e Indonesia han sido los únicos países en imponer prohibiciones oficiales a Grok. En el Reino Unido, el regulador Ofcom abrió una investigación formal sobre X bajo la Ley de Seguridad en Línea del país, a raíz del escándalo de las 'deepfakes' no consentidas. Como respuesta, X ha modificado sus políticas de edición de imágenes. La compañía anunció el 14 de enero que Grok ya no permitirá la edición de imágenes de personas reales en ropa reveladora, como bikinis. Estos cambios buscan restaurar la confianza y cumplir con las normativas internacionales. Consideraciones similares están impulsando cambios en la moderación de contenido en plataformas como Steam, donde recientemente se actualizó el formulario sobre el uso de IA. Puedes leer más sobre esto aquí: Steam actualiza su formulario de IA.

Preocupación por la generación masiva de imágenes sexualizadas

Según estimaciones del Center for Countering Digital Hate (CCDH), una organización sin ánimo de lucro con sede en el Reino Unido, entre el 29 de diciembre y el 9 de enero, Grok generó aproximadamente 3 millones de imágenes sexualizadas. De estas, alrededor de 23.000 eran de niños. Estos datos subrayan la urgencia de implementar y hacer cumplir políticas estrictas para evitar la proliferación de contenido dañino y la explotación infantil a través de herramientas de inteligencia artificial. La problemática sobre el uso de la IA para generar imágenes sexuales de menores es muy delicada, y los sistemas de moderación, como los de Grok, deben ser constantemente actualizados. El impacto de la IA en el mundo es muy amplio, y hasta se ha visto el impacto de ésta en el sector de los videojuegos, donde el CEO de Krafton admitió el uso de ChatGPT para evitar pagarle al equipo de Subnautica 2. La responsabilidad de las plataformas tecnológicas en la moderación de contenido es un debate global en curso. A medida que la IA se integra en más aspectos de nuestras vidas, como el desarrollo de nuevas tecnologías con Raspberry Pi, que lanza una placa de IA con 8GB de RAM, es fundamental la vigilancia y adaptación continua.