Escuela de Nueva York reemplazó los detectores de metales por la IA, que falló al detectar un cuchillo

La inteligencia artificial (IA) también puede fallar. Esta es la lección aprendida por una escuela de Nueva York, que reemplazó los clásicos detectores de metales con un sistema de IA para detectar potenciales amenazas.

La BBC informa que una escuela de la localidad de Utica había implementado recientemente un sistema de IA de la compañía Evolv, el cual falló al detectar un cuchillo.

En Halloween pasado, el estudiante Ehni Lee Htoo caminaba por los pasillos de la escuela cuando un compañero lo atacó por la espalda con un cuchillo.

El abogado de la víctima, de 18 años, indicó que tiene múltiples heridas: en su cabeza, cuello, rostro, hombro, espalda y mano.

¿Cómo falló el sistema de IA?

El sistema de Evolv Technology fue utilizado para reemplazar los tradicionales detectores de metales.

Según asegura el proveedor, el sistema “combina potente tecnología de sensores con inteligencia artificial” para detectar armas.

Una investigación de la BBC encontró que este sistema de inteligencia artificial, que empezó a utilizarse en 13 secuelas de Utica en 2022, no es capaz de detectar cuchillos grandes, fallando en el 42% de casos tras realizarse 24 pruebas.

Autoridades luego determinaron que el sistema de IA no fue diseñado para detectar cuchillos.

Luego del incidente, Evolv cambió la manera en la que publicitaba sus sistemas. Antes ofrecía en su página web unas “zonas libres de armas”. Actualmente, solo dice “zonas seguras”.

Lo más preocupante: tras invertir millones de dólares en estos sistemas en su red educativa, por el momento las escuelas no pueden reemplazarlos.