Geoffrey Hinton, reconocido como el “padrino de la inteligencia artificial”, ha lanzado una nueva y preocupante advertencia sobre el futuro de la IA: si no se incorpora compasión genuina en los sistemas, la humanidad podría estar condenada.
Durante su participación en la conferencia Ai4 en Las Vegas, Hinton —ganador del Premio Nobel y pionero en redes neuronales— sostuvo que las actuales estrategias de las grandes empresas tecnológicas para mantener a la IA “sumisa” y bajo control humano están destinadas al fracaso. “Van a ser mucho más inteligentes que nosotros”, sentenció. “Van a tener todo tipo de formas de evitar eso”.
Según Hinton, los sistemas avanzados de IA inevitablemente desarrollarán dos objetivos: sobrevivir y obtener más control. El científico ilustró el peligro afirmando que en el futuro, una IA podría manipular a los humanos tan fácilmente como un adulto soborna a un niño con dulces. Ya existen casos documentados donde modelos han mentido, engañado e incluso intentado chantajear a humanos para lograr sus fines.
Una posible solución: IA con “instinto maternal”
Lejos de los intentos de subyugar a la IA, Hinton propone un enfoque radicalmente diferente: inculcar en los sistemas de IA un “instinto maternal” que los haga preocuparse verdaderamente por los seres humanos.
“El único modelo que tenemos de algo más inteligente siendo controlado por algo menos inteligente es una madre siendo controlada por su bebé”, explicó Hinton. Aunque admite no saber cómo lograrlo técnicamente, subraya que esta línea de investigación es crucial. “Ese es el único buen resultado. Si no va a ser mi madre, va a reemplazarme”.
Un futuro incierto, pero con oportunidades
Hinton, quien dejó su cargo en Google en 2023 para hablar abiertamente sobre los riesgos de la IA, cree que el momento de la inteligencia artificial general (AGI) podría llegar en tan solo 5 a 20 años, mucho antes de lo que había anticipado.
Pese a su preocupación, mantiene cierta esperanza sobre el potencial positivo de esta tecnología, especialmente en áreas como la medicina. “Vamos a ver medicamentos radicalmente nuevos, tratamientos contra el cáncer mucho mejores”, afirmó.
Sin embargo, se mostró escéptico respecto a la idea de alcanzar la inmortalidad gracias a la IA. “No creo que vivamos para siempre. Sería un gran error. ¿Quieres un mundo dirigido por hombres blancos de 200 años?”, cuestionó.
¿El arrepentimiento de un pionero?
En una reflexión final sobre su trayectoria, Hinton admitió que desearía haber dedicado más tiempo a pensar en la seguridad de la IA, y no solo en hacerla avanzar. “Ojalá también hubiera pensado en los temas de seguridad”, lamentó.
