- El modelo GPT-5.2 de OpenAI cita fuentes de Grokipedia.
- Grokipedia es la enciclopedia de IA desarrollada por xAI, la empresa de Elon Musk.
- El informe del Guardian señala controversias sobre las fuentes de Grokipedia.
OpenAI promocionó su modelo GPT-5.2 como su "modelo de vanguardia más avanzado para el trabajo profesional", pero recientes pruebas realizadas por el periódico The Guardian han puesto en duda su fiabilidad. Según el informe, el modelo GPT-5.2 de OpenAI recurrió a Grokipedia, la enciclopedia en línea impulsada por IA de xAI, para obtener información sobre temas específicos y controvertidos relacionados con Irán y el Holocausto.
Controversia en las fuentes de IA
El informe del Guardian detalla cómo ChatGPT, utilizando el modelo GPT-5.2, citó a Grokipedia para respaldar afirmaciones sobre la supuesta vinculación del gobierno iraní con la empresa de telecomunicaciones MTN-Irancell. También se utilizó para cuestiones relacionadas con Richard Evans, un historiador británico que actuó como testigo experto en un juicio por difamación contra el negacionista del Holocausto David Irving. Es importante destacar que, según The Guardian, ChatGPT no recurrió a Grokipedia para consultas sobre el sesgo mediático contra Donald Trump u otros temas polémicos.
Detalles de la investigación del Guardian
Las pruebas del Guardian revelaron que, en ciertos casos, GPT-5.2 utilizó Grokipedia como fuente principal para información sensible. Esto genera preocupación sobre la calidad y la veracidad de los datos que maneja el modelo de OpenAI, especialmente cuando se trata de temas históricos o políticos delicados.
Grokipedia y sus propias controversias
Grokipedia, lanzada antes que GPT-5.2, no ha estado exenta de polémica. Un estudio realizado por investigadores estadounidenses señaló que la enciclopedia generada por IA citaba fuentes consideradas "cuestionables" y "problemáticas". En una ocasión, se observó que incluía referencias a foros neonazis, lo que levantó alarmas sobre su contenido y la supervisión de sus fuentes.
El historial de Grokipedia
La enciclopedia de xAI ha sido objeto de escrutinio debido a la naturaleza de las fuentes que utiliza. La inclusión de referencias a foros extremistas ha generado dudas sobre la fiabilidad y la seguridad de Grokipedia como fuente de información, lo que repercute directamente en la credibilidad de los modelos de IA que la citan.
Respuesta de OpenAI y filtros de seguridad
En respuesta al informe del Guardian, OpenAI declaró a dicho medio que su modelo GPT-5.2 busca en la web un "amplio abanico de fuentes y puntos de vista disponibles públicamente". Sin embargo, la compañía asegura que aplica "filtros de seguridad para reducir el riesgo de mostrar enlaces asociados con daños de alta gravedad". Esta declaración busca tranquilizar sobre los mecanismos de control implementados para evitar la difusión de contenido perjudicial.
Mecanismos de control de OpenAI
OpenAI enfatiza su compromiso con la seguridad y la fiabilidad de sus modelos. Los filtros de seguridad son una parte crucial de su estrategia para mitigar los riesgos inherentes al acceso a información diversa en internet. La compañía trabaja continuamente para mejorar estos sistemas y asegurar que GPT-5.2 ofrezca información precisa y segura.