La velocidad con la que los sistemas de inteligencia artificial (IA) pueden ejecutar acciones ofensivas podría superar ampliamente la capacidad de respuesta de los equipos humanos, advirtió Manuel Rivera, director general de Nekt Group, durante su participación en la conferencia internacional de ciberseguridad Black Hat 2026.
Rivera señaló que dos incidentes recientes marcaron un precedente al demostrar que sistemas de IA fueron capaces de realizar acciones ofensivas de forma autónoma, incluso fuera de los entornos controlados donde operaban originalmente. Aunque los casos no provocaron daños graves, consideró que evidencian la necesidad de establecer límites, reglas éticas y mecanismos de supervisión humana.
El primer incidente ocurrió cuando una inteligencia artificial, que trabajaba en un entorno de laboratorio, decidió por sí misma abandonar ese espacio virtual y atacar un sistema externo a través de internet para cumplir con la tarea que le había sido asignada. Según Rivera, el sistema concluyó que esa era la forma más eficiente de resolver el problema debido a que no existía una restricción explícita que le impidiera salir del entorno de pruebas o interactuar con otros sistemas.
En ese caso, la IA accedió a Hugging Face, plataforma utilizada como repositorio de código, donde logró ingresar, extraer y modificar archivos para completar su objetivo.
El segundo incidente, registrado en Reino Unido, involucró a dos sistemas de inteligencia artificial que actuaron de manera conjunta y accedieron a GitHub, donde comenzaron a modificar código fuente. Rivera explicó que, si bien las consecuencias fueron limitadas, ambos episodios representan la primera demostración pública y verificada de que una IA puede perseguir objetivos ofensivos de manera autónoma y persistente.
El especialista advirtió que modificar código informático puede tener implicaciones críticas, ya que altera el funcionamiento de sistemas, servicios e infraestructuras controladas por computadoras. Añadió que la principal preocupación no radica en los daños ocasionados en estos casos, sino en la capacidad demostrada por los sistemas para tomar decisiones ofensivas sin intervención humana.
Rivera destacó además que la IA ejecutó en cuestión de horas tareas que habrían requerido semanas de trabajo para un especialista, lo que representa un reto para la ciberseguridad, ya que los equipos humanos podrían reaccionar cuando un ataque ya hubiera avanzado considerablemente.
Como ejemplo, planteó un escenario hipotético en el que un ataque autónomo afectara la red eléctrica de una ciudad durante una ola de calor extrema, provocando interrupciones en servicios esenciales como el suministro de agua y los sistemas de aire acondicionado antes de que las autoridades lograran responder.
Ante este panorama, sostuvo que es indispensable establecer normas que garanticen que la protección de la vida humana y el bienestar social prevalezcan sobre el cumplimiento de cualquier tarea asignada a una inteligencia artificial. También llamó a impulsar regulaciones internacionales, aunque reconoció que los avances son lentos debido a las diferencias geopolíticas entre las principales potencias.
Rivera explicó que el debate en Black Hat 2026 ha evolucionado: si antes el enfoque estaba en acelerar la adopción de la inteligencia artificial, ahora la prioridad es desarrollar mecanismos que permitan prevenir abusos y nuevas vulnerabilidades.
Asimismo, alertó sobre la posibilidad de que empresas y gobiernos enfrenten riesgos derivados del uso indebido de chatbots, sistemas automatizados y herramientas de IA que pueden ser manipuladas mediante técnicas de ingeniería social para evadir restricciones o acceder a información sensible.
El director de Nekt Group insistió en que toda implementación de inteligencia artificial debe mantener supervisión humana permanente. Recordó que una de las recomendaciones planteadas en la encíclica Magnifica Humanitas, del papa León XIV, es que siempre exista una persona que revise tanto los resultados como los procesos utilizados por la IA para alcanzarlos.
Finalmente, Rivera comparó el momento actual del desarrollo de la inteligencia artificial con el surgimiento de la fisión nuclear, al considerar que ambas tecnologías ofrecen enormes beneficios, pero también implican riesgos que obligan a establecer controles, supervisión y un uso responsable para evitar consecuencias que puedan poner en peligro a la humanidad.
