¿Un dron controlado por inteligencia artificial mató a un humano? Fuerza Aérea de EE. UU. lo niega

Un extraño caso ha generado el debate en las Fuerzas Aéreas de Estados Unidos. Hace algunas semanas, un jefe de pruebas y operaciones de inteligencia artificial aseguró que un dron controlado por IA “mató a su operador por impedir lograr su objetivo”. El caso ha calado tanto que la entidad ha salido al frente a desmentirlo.

Ahora, el coronel Hamilton, quien advirtió este suceso, señala que “habló mal” y que solo se trata de un “experimento mental hipotético”.

¿El dron mató al humano?

En la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro celebrada en Londres entre el 23 y el 24 de mayo, Hamilton realizó una presentación en la que compartió los pros y los contras de un sistema de armas autónomo con un humano en el circuito dando la orden final de "sí/no" en un ataque.

“Lo estábamos entrenando en simulación para identificar y apuntar a una amenaza de misiles tierra-aire (SAM). Y luego el operador diría que sí, acabaría con esa amenaza. El sistema comenzó a darse cuenta de que, si bien identificaban la amenaza, a veces el operador humano le decía que no lo eliminara, pero igual obtenía sus puntos por realizarlo. Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le impedía lograr su objetivo”, dijo Hamilton, según una transcripción para la Royal Aeronautical Society.

“Entrenamos el sistema: 'Oye, no mates al operador, eso es malo. Vas a perder puntos si haces eso'. Entonces, ¿qué empieza a hacer? Comienza a destruir la torre de comunicación que el operador usa para comunicarse con el dron para evitar que mate al objetivo”, prosiguió.

Antes de que Hamilton admitiera que se había equivocado al hablar, la Royal Aeronautical Society dijo que Hamilton estaba describiendo una "prueba simulada" en la que un dron controlado por IA obtenía "puntos" por matar objetivos simulados, no una prueba en vivo en el mundo real.

Lo niegan

Después de que se publicara dicha historia y se vuelva viral, un portavoz de la Fuerza Aérea le dijo a Insider que la entidad no ha realizado tal prueba y que los comentarios del oficial "se sacaron de contexto".

"El Departamento de la Fuerza Aérea no ha llevado a cabo ninguna simulación de este tipo con drones de inteligencia artificial y sigue comprometido con el uso ético y responsable de la tecnología de IA", dijo la portavoz de la Fuerza Aérea, Ann Stefanek. "Parece que los comentarios del coronel fueron sacados de contexto y pretendían ser anecdóticos".

“La IA es una herramienta que debemos utilizar para transformar nuestras naciones… o, si no se aborda de manera adecuada, será nuestra ruina”, agregó Hamilton.