- Deloitte reembolsará la totalidad de su acuerdo de 440.000 AU$ con el Departamento de Empleo y Relaciones Laborales de Australia.
- El informe contenía citas falsas, notas a pie de página inventadas y referencias a casos judiciales inexistentes.
- La consultora ha revelado el uso de GPT-4o, subrayando la necesidad de transparencia en la aplicación de la IA.
Deloitte ha admitido haber utilizado inteligencia artificial generativa para elaborar un informe destinado al gobierno australiano sin implementar salvaguardas suficientes, lo que ha generado una considerable controversia. El documento incluía citas académicas falsas, notas a pie de página inventadas y una cita judicial apócrifa, entre otros errores graves. Como consecuencia, la firma ha acordado devolver el último pago de su contrato de 440.000 dólares australianos con el Departamento de Empleo y Relaciones Laborales (DEWR).
El informe original tuvo que ser reeditado para corregir más de una docena de referencias erróneas, subsanar errores tipográficos y reescribir secciones completas. Aunque el DEWR asegura que el contenido sustancial y las recomendaciones del informe no se han visto afectados, la versión actualizada ahora revela explícitamente el uso de GPT-4o. La Universidad de Sídney, a través del Dr. Christopher Rudge, ha señalado que la confianza en las recomendaciones de un informe se ve comprometida cuando su base se asienta en una metodología no revelada y potencialmente defectuosa.
La consultora ha declarado que el asunto se ha resuelto directamente con el cliente, aunque este incidente pone de manifiesto la imperiosa necesidad de una mayor transparencia en el uso de la IA. Este caso es particularmente llamativo dado que proviene de una firma que aboga por el uso responsable de la inteligencia artificial. La divulgación del uso de IA en la elaboración de informes gubernamentales se considera crucial para mantener la integridad y la fiabilidad de la información pública.