• El 69% de las organizaciones ha detectado vulnerabilidades en código generado por IA.
  • El 24% del código de producción a nivel mundial es ahora generado por IA.
  • Existe confusión sobre la responsabilidad de las vulnerabilidades causadas por IA.

 

Un informe reciente de Aikido Security, titulado 'The State of AI in Security & Development', señala que a pesar de que las empresas impulsan agendas de IA para mejorar la eficiencia, los equipos de seguridad, desarrolladores y fusiones siguen siendo señalados cuando el código de IA falla. Esta situación genera una confusión sobre la propiedad de las vulnerabilidades causadas por IA, lo que podría dificultar su rastreo y remediación.

Mike Wilkes, CISO de Aikido, destaca la complejidad del escenario: "Los desarrolladores no escribieron el código, infosec no pudo revisarlo y legal no puede determinar la responsabilidad si algo sale mal. Es una verdadera pesadilla de riesgo". En Europa, el 20% de las empresas ha sufrido incidentes graves, mientras que en Estados Unidos esta cifra asciende al 43%. Aikido atribuye esta diferencia a que los desarrolladores estadounidenses son más propensos a eludir los controles de seguridad (72% frente al 61% en Europa) y a las normativas más estrictas del continente europeo. A pesar de ello, la mitad de las empresas europeas (53%) admite haber tenido incidentes cercanos.

El informe también sugiere que un ecosistema demasiado complejo de herramientas de IA puede ser perjudicial. El 90% de quienes utilizan entre seis y ocho herramientas experimentaron incidentes, en comparación con el 64% de los que usan solo una o dos. El tiempo de remediación también se prolonga significativamente con un mayor número de herramientas (3,3 días para 1-2 herramientas frente a 7,8 días para 5+ herramientas). Sin embargo, el panorama futuro es más optimista: el 96% de los encuestados cree que la IA escribirá código seguro y fiable en los próximos cinco años, y el 90% confía en que la IA podrá realizar pruebas de penetración en un plazo de 5,5 años. Es importante destacar que solo el 21% cree que esto ocurrirá sin supervisión humana, lo que subraya la importancia de los trabajadores en el proceso de desarrollo.