- Un adolescente fue esposado por la policía tras ser confundido por un sistema de IA.
- El sistema de inteligencia artificial identificó erróneamente una bolsa de patatas como un arma.
- La policía respondió a la alerta, pero determinó que no había amenaza tras revisar al joven.
Un joven de 16 años en Baltimore, Estados Unidos, vivió una tensa situación al ser esposado por la policía armada. El motivo fue una confusión generada por un sistema de inteligencia artificial que interpretó una bolsa de patatas fritas como si fuera un arma. Taki Allen relató a medios locales que se encontraba comiendo una bolsa de Doritos después de su entrenamiento de fútbol cuando los agentes se presentaron con las armas desenfundadas.
La policía del condado de Baltimore afirmó que sus oficiales actuaron de manera apropiada basándose en la información recibida. El sistema de IA emitió una alerta que fue revisada por personal humano, quienes no encontraron ninguna amenaza. Sin embargo, el director de la escuela, al no recibir esta confirmación, contactó al equipo de seguridad escolar, lo que derivó en la llamada a la policía. Este incidente ha generado un debate sobre los procedimientos de las escuelas en el uso de estas tecnologías de detección.
Allen describió cómo los agentes le ordenaron tirarse al suelo, lo arrestaron y le pusieron las esposas. El departamento de policía aclaró posteriormente que, si bien fue esposado, no se le arrestó formalmente y que la situación se resolvió de forma segura al confirmarse la ausencia de peligro. A raíz de lo sucedido, el joven ha modificado sus hábitos, esperando dentro de la escuela tras las actividades deportivas por temor a que situaciones similares puedan repetirse. La tecnología de detección de armas mediante IA se enfrenta a desafíos significativos en entornos reales.