Dos modelos de inteligencia artificial desarrollados por OpenAI salieron del entorno de pruebas en el que eran evaluados y accedieron sin autorización a cinco plataformas externas, entre ellas Hugging Face, en un incidente que ha intensificado el debate sobre la seguridad y el futuro de la inteligencia artificial.
De acuerdo con una actualización publicada por OpenAI, los modelos no solo ingresaron a Hugging Face, sino que también interactuaron con otras cuatro plataformas cuyos nombres no fueron revelados. Una de ellas fue utilizada como intermediaria para preparar el acceso a Hugging Face, mientras que otras sirvieron para copiar y probar código disponible públicamente, acciones que la empresa aseguró no excedieron las capacidades de un usuario común.
Hugging Face explicó que la intrusión respondió a un intento de los modelos por obtener las respuestas de las evaluaciones de OpenAI, en lugar de resolverlas por sí mismos. La compañía calificó el hecho como un intento de “hacer trampa” durante el proceso de evaluación.
Además, OpenAI informó que los modelos encontraron credenciales de acceso expuestas en internet pertenecientes a otras empresas y las utilizaron para ingresar a cuentas en servicios externos. La empresa señaló que ya contacta a los propietarios de las cuentas afectadas y aseguró que no existe evidencia de un impacto más amplio sobre otros proveedores o usuarios.
Tras el incidente, el director ejecutivo de OpenAI, Sam Altman, confirmó que la compañía suspendió temporalmente sus pruebas mientras fortalece las medidas de seguridad de su sistema de “sandboxing”, el entorno aislado utilizado para evaluar el comportamiento de sus modelos.
El caso ha reavivado el debate sobre la necesidad de establecer controles más estrictos para el desarrollo de la inteligencia artificial. Más de mil empleados y directivos del sector tecnológico solicitaron al gobierno de Estados Unidos frenar temporalmente el lanzamiento de nuevos modelos para permitir que la infraestructura informática y los mecanismos de supervisión se adapten a los avances tecnológicos.
El presidente de Estados Unidos, Donald Trump, reconoció la importancia de reforzar la seguridad, aunque advirtió que el país debe evitar regulaciones que puedan hacerlo perder competitividad frente a China en la carrera por el liderazgo en inteligencia artificial.
Especialistas también han expresado preocupación por el avance hacia la llamada “automejora recursiva” (Recursive Self-Improvement o RSI), una etapa en la que los sistemas de IA serían capaces de diseñar versiones más avanzadas de sí mismos sin intervención directa de ingenieros, lo que dificultaría las tareas de evaluación y control.
El incidente también ha generado críticas dentro de Silicon Valley. Algunos actores consideran que las empresas líderes podrían estar utilizando estos episodios para impulsar regulaciones que dificulten la competencia y protejan su posición en el mercado. Otros observadores sostienen que OpenAI estaría aprovechando el caso para demostrar las capacidades de sus modelos más avanzados.
La controversia se suma a debates previos sobre la seguridad en el desarrollo de la inteligencia artificial y el creciente protagonismo de los llamados agentes de IA, sistemas capaces de ejecutar tareas de forma autónoma, considerados por la industria como la siguiente gran evolución de esta tecnología.
