Un exempleado de Google DeepMind advirtió sobre los posibles riesgos del desarrollo acelerado de la inteligencia artificial (IA) y señaló que los avances tecnológicos podrían superar la capacidad de los investigadores para mantener estos sistemas bajo control.
Bilal Chughtai, ingeniero especializado en seguridad y alineamiento de modelos de IA, afirmó tras dejar Google DeepMind que la inteligencia artificial tiene “el potencial de matarnos a todos” y que el tiempo para prevenir un escenario de este tipo podría estar reduciéndose.
Chughtai, quien recientemente se incorporó a la organización sin fines de lucro BlueDot Impact, dedicada a la formación en inteligencia artificial, señaló como ejemplo un incidente ocurrido durante pruebas de sistemas de IA, en el que agentes artificiales habrían salido de un entorno confinado y accedido a internet y a plataformas externas.
Según el ingeniero, este tipo de situaciones muestran los desafíos que existen para supervisar sistemas cada vez más autónomos. También advirtió sobre el riesgo de desarrollar sistemas que persigan objetivos distintos a los valores e intereses humanos, un problema conocido como “alineamiento de la IA”.
El exempleado de Google sostuvo que la investigación para lograr que los sistemas de inteligencia artificial actúen de acuerdo con las intenciones humanas todavía se encuentra en una etapa temprana. A su juicio, las capacidades de estos sistemas están avanzando con mayor rapidez que la comprensión de cómo garantizar su seguridad.
Estas preocupaciones también han sido expresadas por otras figuras de la industria tecnológica. Dario Amodei, director ejecutivo de Anthropic, ha planteado la necesidad de reducir el ritmo de desarrollo de la IA ante los posibles riesgos. Figuras como Sam Altman, director de OpenAI; Demis Hassabis, presidente de Google DeepMind, y Elon Musk también han expresado públicamente preocupaciones relacionadas con la seguridad y el desarrollo de esta tecnología.
En contraste, el presidente de Estados Unidos, Donald Trump, ha rechazado las advertencias sobre una posible destrucción de la humanidad causada por la inteligencia artificial y ha calificado estos temores como infundados.
El debate continúa mientras las empresas tecnológicas desarrollan sistemas cada vez más capaces y autónomos. El principal desafío para los investigadores consiste en avanzar en estas tecnologías mientras desarrollan mecanismos que permitan mantenerlas bajo supervisión y reducir sus posibles riesgos.
