• La aplicación Gemini podrá determinar si una imagen fue creada o editada por IA de Google.
  • La verificación se ampliará a vídeo y audio próximamente, y a la Búsqueda de Google.
  • Se busca la compatibilidad con el estándar C2PA para detectar contenido de diversas herramientas de IA.

Google está facilitando a los usuarios de Gemini la detección de contenido generado por inteligencia artificial. A partir de ahora, se podrá utilizar la aplicación Gemini para determinar si una imagen ha sido creada o modificada por una herramienta de IA de Google, simplemente preguntando a Gemini: «¿Esto está generado por IA?». Si bien el lanzamiento inicial se limita a imágenes, Google afirma que la verificación de vídeo y audio llegará «pronto», y también tiene la intención de expandir la funcionalidad más allá de la aplicación Gemini, incluyendo la Búsqueda de Google.

Expansión a vídeo, audio y búsqueda

La expansión más importante llegará más adelante, cuando Google extienda la verificación para admitir las credenciales de contenido C2PA de toda la industria. La verificación inicial de imágenes se basa únicamente en SynthID, la marca de agua invisible propia de Google, pero una expansión a C2PA permitiría detectar el origen del contenido generado por una variedad más amplia de herramientas de IA y software creativo, incluyendo Sora de OpenAI. Google también anunció que las imágenes generadas por su modelo Nano Banana Pro, revelado hoy, tendrán metadatos C2PA incrustados.

Compatibilidad con C2PA y TikTok

Este es el segundo avance para C2PA esta semana, después de que TikTok confirmara que utilizaría metadatos C2PA como parte de su propia marca de agua invisible para contenido generado por IA. La verificación manual de contenido en Gemini es un paso útil, pero las credenciales C2PA, y otras marcas de agua como SynthID, no serán verdaderamente útiles hasta que las plataformas de redes sociales mejoren en la señalización automática del contenido generado por IA, en lugar de dejar la carga en los usuarios para que lo confirmen por sí mismos.

Mejoras en la detección de IA

La capacidad de Gemini para identificar contenido de IA es una mejora significativa en la lucha contra la desinformación y las falsificaciones. Al proporcionar a los usuarios una herramienta directa para verificar la autenticidad de las imágenes, Google empodera a su base de usuarios para navegar por el panorama digital con mayor confianza. Esta iniciativa subraya el compromiso de Google con la transparencia y la seguridad en la era de la IA generativa.