Un informe elaborado con ayuda de inteligencia artificial (IA) habría llevado a Estados Unidos a preparar una operación militar para interceptar y abordar un buque chino en Oriente Medio, después de que la herramienta identificara erróneamente su cargamento como componentes relacionados con un supuesto programa de armas nucleares.
De acuerdo con información difundida por CNN, el incidente ocurrió a comienzos de año, en el contexto de la guerra con Irán, y puso de manifiesto los riesgos de utilizar herramientas de inteligencia artificial en operaciones de seguridad nacional.
Cuatro fuentes con conocimiento del caso señalaron al medio estadounidense que militares armados llegaron a prepararse para abordar la embarcación, mientras varias aeronaves de Estados Unidos sobrevolaban la zona. Sin embargo, la operación fue suspendida poco antes de llevarse a cabo.
La decisión se produjo después de que funcionarios estadounidenses revisaran con mayor detalle la información y determinaran que el sistema de IA utilizado por un analista había interpretado de manera incorrecta los datos sobre el material transportado.
Según CNN, la herramienta combinó información procedente de fuentes abiertas con inteligencia clasificada almacenada por el Gobierno estadounidense. El sistema concluyó erróneamente que la carga estaba relacionada con un programa de armas nucleares.
El medio no pudo determinar cuál era realmente la carga del buque ni establecer si la herramienta utilizada era un producto comercial o un sistema desarrollado específicamente por el Gobierno de Estados Unidos.
Una de las fuentes citadas por CNN calificó el informe como “completamente falso” y advirtió que una eventual intervención contra una embarcación china podría haber provocado una escalada de tensiones entre Washington y Pekín.
El episodio se conoce mientras las Fuerzas Armadas y los servicios de inteligencia estadounidenses incrementan el uso de herramientas de inteligencia artificial para analizar grandes cantidades de información. Al mismo tiempo, han aumentado las advertencias sobre los riesgos de confiar en sistemas de IA para tareas que pueden tener consecuencias de seguridad nacional.
En los últimos días, Dario Amodei, director ejecutivo de Anthropic, publicó un ensayo en el que pidió moderar el ritmo de desarrollo de la industria ante los posibles riesgos de seguridad asociados con la inteligencia artificial. Sam Altman, director ejecutivo de OpenAI, y el empresario Elon Musk también han realizado anteriormente declaraciones sobre los riesgos vinculados al desarrollo de esta tecnología.
En contraste, el presidente estadounidense Donald Trump se ha mostrado contrario a imponer mayores regulaciones al sector tecnológico, argumentando que podrían retrasar a Estados Unidos en la competencia con China por el liderazgo mundial en inteligencia artificial.
El caso vuelve a poner sobre la mesa una cuestión central: hasta qué punto los sistemas de inteligencia artificial pueden utilizarse para apoyar decisiones militares y de inteligencia sin una verificación humana rigurosa antes de emprender acciones que podrían tener consecuencias internacionales.
